PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02345v1cs.LG

커널 고정 지역성 정규화를 통한 고정 타겟 이상 탐지기의 수렴 붕괴 완화

Mitigating Convergence Collapse in Fixed-Target Anomaly Detectors via Kernel-Anchored Locality Regularization

테이블형(tabular) 이상 탐지기 계열은 제곱 오차 손실(squared-error loss) 하에서 신경망 매핑(neural map)을 고정된 타겟(target)을 향해 학습시키고, 테스트 시점의 잔차(residual)로 이상치를 점수화한다. 수축 매칭(contraction matching), 1단계 교정 흐름(one-step rectified flow), 재구성 오토인코더(reconstruction autoencoder)가 모두 이 틀에 해당한다. 우리는 수렴(convergence) 붕괴 현상을 규명한다: 최적화(optimization)가 향상될수록 탐지기의 성능은 오히려 저하된다. 수렴 시점에는 학습된 매핑이 분포를 벗어난 영역에서도 타겟을 추적하게 되어, 이상치뿐 아니라 정상 데이터에서도 잔차 신호가 사라진다. 따라서 이러한 탐지기들은 신호를 유지하기 위해 암묵적인 비수렴 상태, 즉 조기 종료(early stopping)나 용량 제한(capacity cap)에 의존한다. 우리는 이것이 구조적인 문제라고 주장한다: 효과적인 이상 탐지를 위해서는 제약 없는 외삽(extrapolation)을 막는 지역성(locality) 제약이 필요하다. 고전적인 탐지기(kNN, KDE, isolation forest, LOF)는 지역성을 명시적으로 강제하지만, 고정 타겟 신경망 탐지기는 그렇지 않다. 우리는 고정 타겟 탐지기에 대응하는 커널(kernel) 회귀 모델이 유한 대역폭(finite-bandwidth) Nadaraya-Watson 평활기(smoother)임을 보여줌으로써 이 연관성을 형식화하며, 이를 커널 수축 매칭(Kernel Contraction Matching, KCM)이라 부른다. KCM은 닫힌 형태(closed-form)로 표현되며 학습이 필요 없고 CPU 효율적이지만, ADBench에서 기존의 신경망 베이스라인(baseline)과 동등한 성능을 보인다. 이러한 연결을 바탕으로, 우리는 신경망 예측이 학습(training) 타겟의 커널 가중 평균(kernel-weighted average)에서 벗어나는 정도를 페널티로 부여하는 커널 고정 정규화(Kernel-Anchored Regularizer, KAR)를 제안한다. 붕괴가 발생하기 쉬운 ADBench 데이터셋과 세 가지 백본(backbone)에서, KAR은 붕괴를 완화하고 장기간 학습 시 AUROC를 향상시킨다.