arXiv:2003.08980

Pilot Pattern Design for Deep Learning-Based Channel Estimation in OFDM Systems

제출 2020-03-19

원문 초록

In this paper, we present a downlink pilot design scheme for Deep Learning (DL) based channel estimation (ChannelNet) in orthogonal frequency-division multiplexing (OFDM) systems. Specifically, in the proposed scheme, a feature selection method named Concrete Autoencoder (ConcreteAE) is used to find the most informative locations for pilot transmission. This autoencoder consists of a concrete layer as the encoder and a multilayer perceptron (MLP) as the decoder. During the training, the concrete layer selects the most informative pilot locations, and the decoder reconstructs an approximate estimation of the channel. Eventually, the ChannelNet is trained on the output of the ConcreteAE aiming to reconstruct the ideal channel response. The estimation error results show that this approach outperforms the previously presented ChannelNet with a uniformly distributed pilot pattern, and its performance is comparable to the minimum mean square error (MMSE).

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.19364v1cs.AI공통 태그 Decoder, feature selection

대규모 언어 모델의 활성화 공간 제어를 위한 통계적 근거 기반 희소 특징 개입

Statistically Grounded Sparse-Feature Interventions for Activation-Space Control in Large Language Models

활성화 조향(activation steering)은 대규모 언어 모델(LLM)의 행동 제어를 위한 미세조정의 경량 대안을 제공하지만, SAE 기반 조향 방법은 종종 학습된 조향 목표나 단일 기준 특징 선택에 의존한다. 우리는 먼저 6가지 조건의 신뢰성 필터를 적용한 뒤, $F$-test, KSG 상호정보(mutual information), Cohen's $d$라는 세 가지 상보적 통계량에 대한 비가중 Borda 합의를 통해 희소 특징을 순위화하는 투명한 SAE-특징 조향 파이프라인을 제안한다. 그 결과로 얻어진 조향 방향은 SAE 디코더 행들의 Cohen's $d$ 가중 결합으로 구성되며, 근사적 SAE-특징 비상관(decorrelation) 하에서 Fisher-LDA에 의해 동기화된 최적화 없는(optimization-free) 방향을 제공한다. Gemma 계열 모델 3종, 4개 행동 도메인, 356개 층-강도 구성에 걸쳐, 이 방법은 측정 가능한 도메인별 변화를 만들어내면서 원시 속성(attribute) 이동과 품질을 보존하는 생성 사이에 상당한 격차가 있음을 드러낸다. 가장 강한 구성에서 논리적 정확성(logical-correctness) 조향은 Gemma~2 9B에서 주요 점수(primary-score) 델타 $+1.16$에 도달한다. 그러나 더 넓은 범위의 발견은, 실용 가능한 조향이 모델, 도메인, 층, 강도에 따라 매우 국소화되어 있음을 보여준다. 이 결과는 활성화 조향 평가가 원시 행동 변화와 함께 품질 조건부 성공(quality-conditioned success)을 보고해야 함을 시사한다. 코드와 데이터는 https://github.com/Oshayer-Siddique/LLM-Steering-Using-SAE 에서 이용할 수 있다.

arXiv:2607.11096v1cs.CV공통 태그 Decoder, feature selection

차분 기반 게이팅: U-Net 디코더를 위한 적응적 특징 융합

Difference-Driven Gating: Adaptive Feature Fusion for U-Net Decoder

U-Net 스타일 모델은 다양한 응용 분야에서 널리 사용되어 왔다. 이 모델들의 핵심 단계는 탑다운(top-down) 디코더를 사용하여 저수준 특징을 재구성하는 것이다. 이 재구성에는 고수준 의미 정보와 저수준 세부 정보의 정밀한 융합이 요구된다. 기존의 어텐션 기반 융합 방법들은 일반적으로 탑다운 디코더 특징(전역)만으로부터 어텐션 가중치를 도출하거나, 탑다운 디코더 특징과 바텀업(bottom-up) 인코더 특징 간의 상관관계(지역)로부터 어텐션 가중치를 도출한 뒤, 이 가중치를 사용하여 인코더 특징을 조절한다. 본 연구에서는 두 특징 스트림 간의 차분으로부터 어텐션 가중치를 도출하는 새로운 패러다임을 탐구한다. 이를 위해 두 가지 차분 기반 게이팅 방법을 제안한다: 전역 특징과 지역 특징 간의 절댓값 차분을 직접 사용하여 적응적 게이팅 맵을 생성하는 특징 차분 게이팅(FDG, Feature-difference Gating)과, 정보 엔트로피를 통해 각 스트림의 표현 확실성을 측정하고 부호화된 엔트로피 차분으로부터 어텐션 가중치를 도출하는 엔트로피 차분 게이팅(EDG, Entropy-difference Gating)이다. 두 방법 모두 전역 특징과 지역 특징을 동시에 조절하는 결합된 게이팅 맵을 생성한다. 의료 이미지 분할, 원격 감지 이미지 구름 제거, 음성 분리를 포함한 다양한 태스크에 대한 실험 결과, 두 방법 모두 기존의 어텐션 기반 융합 방법을 능가하였으며, EDG가 더 우수한 성능을 보였다. 이 결과는 U-Net 스타일 구조에서의 다중 스케일 특징 융합을 위한 새로운 패러다임을 제시한다.

arXiv:2608.24707v3cs.CL공통 태그 Decoder

음성 속 길을 잃다: 오디오 및 전사본에 걸친 3개 국어 음성 환각 탐지

Lost in Speech: Trilingual Spoken Hallucination Detection Across Audio and Transcripts

텍스트 기반 환각(hallucination) 탐지는 활발히 연구되고 있으나, 음성에서 사실적 변조를 참조 없이(reference-free) 탐지하는 연구는 특히 저자원 언어에서 여전히 부족한 실정이다. 본 연구의 음성 벤치마크는 3가지 합성 변조 유형과 3가지 심각도 수준을 갖춘 12,013개의 영어, 러시아어, 카자흐어 뉴스 샘플로 구성되며, 원문 기사와 재작성본을 텍스트, 합성 오디오, ASR 전사본(transcript) 쌍으로 구성한다. 여기에 러시아어(225건) 및 카자흐어(65건)로 수집된 290건의 팩트체크된 허위정보 항목을 추가하여 상대 언어로 번역한 후 동일한 TTS-ASR 파이프라인을 거치도록 했다. 우리는 텍스트, 전사본, 오디오에 대해 파인튜닝된 다국어 인코더와 제로샷(zero-shot) 멀티모달 디코더를 평가(evaluation)한다. 탐지기는 원문 기사나 외부 증거 없이 타깃 입력만을 수신하며, 본 과제는 근거 기반 검증이 아닌 참조 없는 분류(classification)를 평가한다. 원문 텍스트에서 전사본으로 이어지는 인코더의 성능 저하는 이진 분류 과제에서 언어별 ASR 오류와 전반적으로 일치한다. 디코더 중에서는 Gemma-3n만이 전사본에서 매크로 F1(macro-F1) 기준 이진 다수 클래스 기준선(baseline)을 넘어섰으며, 나머지 4개 모델(model)은 각자의 기준선에 미치지 못했다. 오디오와 전사본 간의 비교는 평가 범위와 클래스 불균형의 차이로 인해 혼재된 양상을 보인다. 합성 데이터로 학습(training)된 탐지기는 실제 환경의 허위정보 원문 텍스트에서 0.82~0.88의 매크로 F1을 달성하며, 러시아어 출처 분석에서는 합성 환각 벤치마크의 주요 교란 요인인 진위 여부 관련 신호 및 모델 의존적 기계 스타일 신호가 드러난다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.