고해상도 서브 도 단위 DOA 추정을 위한 시그모이드 레이블 기반 CNN-트랜스포머
CNN-Transformer with Sigmoid Label for High-Resolution Sub-Degree DOA Estimation
한국어 초록
본 논문에서는 딥러닝(DL) 기반 도착각(DOA) 추정의 그리드 양자화(quantization) 오류 문제를 다룹니다. 분류(classification) 기반 DOA 기법은 연속적인 각도 공간을 그리드로 이산화하므로, 피크 기반 판독 시 정확도와 해상도가 그리드 간격 및 레이블 피크의 폭에 의해 제한됩니다. 이러한 문제를 해결하기 위해, 신호원의 DOA를 각도 이동된 단조 시그모이드(sigmoid) 함수의 합으로 인코딩하는 시그모이드 레이블을 제안합니다. 시그모이드 레이블로 학습된 CNN-트랜스포머(Transformer) 네트워크의 출력을 미분하면 신호원 DOA 위치에서 날카로운 스펙트럼 피크가 생성됩니다. 적절히 세분화된 0.25도 그리드 간격과 결합하여, 제안된 시그모이드 레이블 기반 CNN-트랜스포머는 1도 미만의 서브 도(sub-degree) 정확도와 1도 해상도를 달성하여 그리드 양자화 오차의 한계를 극복합니다. 통합된 CNN-트랜스포머 백본 하에서 제안하는 시그모이드 레이블을 가우시안 레이블, 0-1 하드 레이블 및 이진 교차 엔트로피(BCE) 기준선(baseline)과 비교합니다. 수치 실험 결과는 시그모이드 레이블이 다른 레이블들에 비해 가장 높은 정확도와 우수한 해상도를 달성함을 입증합니다.
원문 초록
This paper addresses the grid quantization error of deep-learning (DL)-based direction-of-arrival (DOA) estimation. Classification- based DOA methods discretize the continuous angular space into a grid, so that with a peak-based read-out, the accuracy and resolution are limited by the grid step and by the width of the label peak. To address this issue, we propose a sigmoid label that encodes the sources' DOAs as the sum of angle-shifted monotonic sigmoid functions. Differentiating the output of a CNN-Transformer network trained with the sigmoid label produces sharp spectral peaks at the source DOAs. Combined with a moderately refined grid step of 0.25 degrees, the CNN-Transformer with the proposed sigmoid label attains sub-degree accuracy and a 1-degree resolution, breaking the limit of the grid quantization error. Under the unified CNN-Transformer backbone, we compare the proposed Sigmoid label with the Gaussian label, the 0-1 hard label, and the binary cross-entropy (BCE) baseline. Numerical results demonstrate that the Sigmoid label attains the highest accuracy and superior resolution compared to other labels.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
VerteNet -- 측면 척추 DXA 영상에서 정확한 척추 랜드마크 위치 추정을 위한 다중 컨텍스트 하이브리드 CNN 트랜스포머
VerteNet -- A Multi-Context Hybrid CNN Transformer for Accurate Vertebral Landmark Localization in Lateral Spine DXA Images
이중에너지 X선 흡수계측법(Dual-Energy X-ray Absorptiometry, DXA) 기반 측면 척추 영상에서의 척추 랜드마크 위치 추정(Vertebral Landmarks Localization, VLL)은 척추 정렬 평가, 척추 골절 평가(Vertebral Fracture Assessment), 복부 대동맥 석회화(Abdominal Aortic Calcification) 정량화를 위한 추간 가이드 배치에 핵심적인 역할을 한다. 측면 척추 DXA 스캔은 비용 절감 및 낮은 방사선 노출이라는 장점을 제공하지만, 낮은 신호 대 잡음비와 영상 아티팩트로 인해 분석이 어렵다. 인공지능(AI)은 VLL의 정밀도와 정확도를 향상시키는 유망한 접근법으로 주목받고 있다. 본 연구에서는 세밀한 지역적 세부 정보와 광범위한 컨텍스트 정보를 모두 포착하기 위해 이중 해상도 어텐션 메커니즘을 적용한 새로운 아키텍처를 제안한다. 제안된 방법은 이중 해상도 자기 어텐션(self-attention) 및 교차 어텐션(cross-attention) 메커니즘을 통해 스킵 연결(skip connection)과 디코더 레이어를 활용함으로써 특징 통합을 강화한다. 이러한 설계는 모델이 복잡한 패턴을 학습하는 능력을 향상시켜 지역적 및 전역적 컨텍스트 인식을 유지하면서 정확한 척추 코너 위치 추정을 가능하게 한다. 제안된 프레임워크를 다수의 장비로 획득한 DXA 측면 척추 영상(LSI)에서 평가한 결과, VLL에서 최신 최첨단 아키텍처를 능가하여 정규화 평균 오차 4.92, 정규화 중앙값 오차 2.35를 달성하였다. 제안된 프레임워크인 VerteNet은 다양한 촬영 시스템의 DXA LSI 영상에서 높은 정확도의 VLL을 가능하게 하며, 세밀한 지역적 세부 정보와 광범위한 컨텍스트 정보를 모두 포착하는 향상된 능력 덕분에 낮은 신호 대 잡음비에 대한 강한 강건성을 보인다.
임의 행렬의 Hankel 및 Toeplitz rank-1 분해와 신호 도래각(DoA) 추정 응용
Hankel and Toeplitz Rank-1 Decomposition of Arbitrary Matrices with Applications to Signal Direction-of-Arrival Estimation
우리는 L2 및 L1 노름 오차 하에서 임의 행렬의 최적 rank-1 Hankel 및 Toeplitz 구조 근사를 계산하는 문제를 고려한다. 이러한 문제는 엔지니어링 시스템에서 자연스럽게 발생하며, 현대 자율 시스템 응용에서 중요한 기본적인 퓨샷(few-shot) 신호 도래각(DoA) 추정 문제를 포함한다. 우리는 두 공식화 모두에 대해 정확하고 계산적으로 효율적인 구조화 행렬 분해 알고리즘을 개발한 다음, 실용적인 센싱 시스템 배치를 위한 분석적으로 정당화된 소표본 지원 DoA 추정량을 도출한다. L2 및 L1 노름 하에서의 결과 추정량은 각각 백색 가우시안 및 Laplace 잡음 하에서 최대 가능도 최적임이 형식적으로 입증된다. 추정량은 퓨샷 DoA 추론에서 광범위한 시뮬레이션 연구 및 실세계 데이터 실험을 통해 추가로 검증된다.
망막 OCT 분류를 위한 보정된 하이브리드 CNN-트랜스포머
Calibrated Hybrid CNN-Transformer for Retinal OCT Classification
망막 광학 간섭 단층 촬영(OCT) 분류를 위한 딥 모델들은 높은 정확도를 보고하지만, 해당 신뢰도(confidence)를 믿을 수 있는지는 거의 보고하지 않는다. 이는 잘못되었지만 확신에 찬 판독이 시력 보존 치료를 지연시킬 수 있다는 점에서 중요한 문제이다. 우리는 하이브리드 합성곱-트랜스포머 인코더에 그래디언트 부스팅(XGBoost) 분류 헤드를 결합하고, 신뢰도 보정, 분포 외(OOD) 거부, 예측별 불확실성 플래깅으로 구성된 세 가지 임상 안전성 층을 적용한다. 4클래스 OCT(84,495개 스캔)에서 모델은 95.4% 정확도를 달성하는 동시에 보정 오류를 12배 줄여(기대 보정 오류, ECE = 0.0024), 보고되는 신뢰도가 실제 정확도를 충실히 반영한다. 우리가 아는 한, 이는 세 가지 안전성 메커니즘 모두를 공동으로 검증한 최초의 OCT 분류기이며, 공개 가중치와 재현 가능한 다중 시드 평가를 함께 제공한다.
NeuralMUSIC: 로봇 음원 국지화를 위한 하이브리드 신경망-부공간 프레임워크
NeuralMUSIC: A Hybrid Neural-Subspace Framework for Robot Sound Source Localization
신뢰할 수 있는 음원 국지화는 로봇 청각(robot audition)의 기본이 되며, 자율 로봇이 공간적 단서(spatial cues)를 인식하고 동적 환경에서 효과적으로 작동할 수 있게 합니다. 다중 신호 분류(MUSIC)와 같은 고전적 방법은 강력한 이론적 기반을 제공하지만, 낮은 신호 대 잡음비(SNR) 조건에서 성능이 저하됩니다. 심층 학습 기반 접근 방식은 유망한 성능을 달성하지만, 다양한 조건에 걸친 일반화(generalization) 부족 문제로 어려움을 겪는 경우가 많습니다. 이러한 문제를 해결하기 위해 우리는 로봇 음원 국지화를 위한 하이브리드 신경망-부공간 프레임워크인 NeuralMUSIC를 제안합니다. 구체적으로, 신경망(neural network)이 먼저 다채널 마이크로폰 관측값에서 공간 공분산 행렬(spatial covariance matrix)을 추정합니다. 예측된 공분산은 고유값 분해(EVD) 및 의사 스펙트럼(pseudo-spectrum) 계산을 포함하는 고전적인 MUSIC 파이프라인에 통합되고, 이어 주파수 어텐션 융합(FAF) 모듈을 통해 최종 도래 방향(DOA) 추정치를 생성합니다. 데이터 효율성을 높이기 위해 우리는 레이블이 없는 음향 데이터를 활용하여 공간적 구조를 포착하는 자기지도 공간 상관 학습(SSCL) 전략을 추가로 도입합니다. 다양한 로봇 작업에 걸친 광범위한 실험을 통해 NeuralMUSIC이 경쟁력 있는 국지화 정확도를 달성하면서도 향상된 견고성(robustness)과 도메인 간 일반화(cross-domain generalization)를 보여줌을 입증했습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.