분포 인식 강건 바이레벨 최적화: 두 시간 척도 확률적 근사에서의 분위수 유도 Huber 업데이트
Distribution-Aware Robust Bilevel Optimization: Quantile-Guided Huber Updates in Two-Timescale Stochastic Approximation
바이레벨 최적화(BLO)는 계층적 의사결정의 기본이지만, heavy-tailed 확률적 잡음 하에서 심각한 불안정성에 시달린다. 기존 분산 감소 기법은 일반적으로 근시적 크기 검사에 의존하며, 이는 유용한 기하학적 신호와 충동적 이상치를 구별하지 못한다. 이를 해결하기 위해, 우리는 역사적 그래디언트 버퍼를 활용하여 적응적 Huber형 클리핑을 위한 이동 분위수를 추정하고, 유효 분산을 엄격히 제한하면서 지역 최적화 기하학을 효과적으로 보존하는 분포 인식 프레임워크인 \textbf{RQ-TTSA}(Robust Quantile-guided TTSA)를 제안한다. 이론적으로, 우리는 무한 분산 잡음($p \in (1,2]$) 하에서 비볼록-강볼록 가정에 대한 분위수 유도 TTSA의 수렴 분석을 제공하며, heavy-tailed 매개변수에 대한 최적 의존성을 회복하는 $\mathcal{O}(T^{-\frac{p-1}{3p-2}})$의 수렴률을 도출한다. 실증적으로, 이질적인 비전 벤치마크, 모멘텀 포이즈닝(momentum poisoning) 하의 동적 게임, 오프라인 강화학습에 이르는 여섯 가지 다양한 과제 전반에서, RQ-TTSA는 발산 급등을 제거하고 안정적인 수렴을 보장함으로써 최신 기준선들을 지속적으로 능가한다. 우리의 방법은 하이퍼파라미터 변동에 대한 상당한 강건성을 보여주며 무시할 수 있는 계산 오버헤드($\approx 2.7\%$ 증가)만을 수반하며, 신뢰할 수 있는 바이레벨 학습을 위한 실용적이고 필요한 구성 요소로서 분포 인식 그래디언트 제어를 검증한다.