arXiv:2611.18164v1 stat.ML

잠재 공간에서의 검출과 분류: 고차원 분석 및 검증

Detection and Classification in Latent Spaces: High-Dimensional Analysis and Validation

Enis Chenchene, Anil S. Baslamisli, Paolo Braca

제출 2026-11-13

한국어 초록

파운데이션 모델은 적절히 설계된 통계적 결정 규칙이 효과적이면서도 해석적으로 다루기 쉬운 고차원 잠재 표현을 생성한다. 본 연구는 잠재 차원과 학습 표본 크기가 비례하여 증가하는 고차원 영역에서 이러한 검출기를 연구한다. 선형 및 이차 통계량에 대해 네이만-피어슨 패러다임 아래에서 오경보 및 미검출 성능의 명시적인 큰 편차 특성을 도출하고, 이진 분석이 다중 클래스 분류로 어떻게 확장되는지를 보인다. 그 결과로 얻은 오류 확률과 해당 감쇠율은 형상 모수에 대해 이중 하강, 일부 영역에서는 다중 하강을 포함하는 비단조적 의존성을 나타낸다. 최신 파운데이션 모델을 사용한 시각, 텍스트, 오디오 데이터셋에 대한 실험에서 이론적 예측과 실제 성능이 매우 잘 일치함을 확인한다. 특히 제안된 프레임워크를 통해 규정된 오경보 수준을 설정하고 그에 해당하는 미검출 확률을 정확하게 예측할 수 있다. 전반적으로 본 결과는 다양한 모달리티에서 경쟁력 있는 실증 성능을 갖춘, 이론적으로 뒷받침되고 해석 가능한 프레임워크를 제공한다.

원문 초록

Foundation models produce high-dimensional latent representations in which suitably designed statistical decision rules can be effective yet analytically tractable. We study such detectors in the high-dimensional regime, where latent dimension and training sample size grow proportionally. For linear and quadratic statistics, we derive explicit large-deviation characterizations of false-alarm and miss-detection performance under the Neyman-Pearson paradigm, and show how the binary analysis extends to multi-class classification. The resulting error probabilities and corresponding decay rates exhibit non-monotonic dependence on the shape parameter, including double-descent and, in some regimes, multiple-descent. Experiments on vision, text, and audio datasets using modern foundation models show close agreement between theoretical predictions and empirical performance. In particular, the proposed framework allows us to set a prescribed false-alarm level and accurately predict the corresponding miss-detection probability. Overall, our results provide a theoretically grounded and interpretable framework with competitive empirical performance across different modalities.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.18164v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.