phys.ens.fr

이 이메일 도메인이 관측된 논문 2건

arXiv:2606.22436v1cs.LG

분포 인식 강건 바이레벨 최적화: 두 시간 척도 확률적 근사에서의 분위수 유도 Huber 업데이트

Distribution-Aware Robust Bilevel Optimization: Quantile-Guided Huber Updates in Two-Timescale Stochastic Approximation

바이레벨 최적화(BLO)는 계층적 의사결정의 기본이지만, heavy-tailed 확률적 잡음 하에서 심각한 불안정성에 시달린다. 기존 분산 감소 기법은 일반적으로 근시적 크기 검사에 의존하며, 이는 유용한 기하학적 신호와 충동적 이상치를 구별하지 못한다. 이를 해결하기 위해, 우리는 역사적 그래디언트 버퍼를 활용하여 적응적 Huber형 클리핑을 위한 이동 분위수를 추정하고, 유효 분산을 엄격히 제한하면서 지역 최적화 기하학을 효과적으로 보존하는 분포 인식 프레임워크인 \textbf{RQ-TTSA}(Robust Quantile-guided TTSA)를 제안한다. 이론적으로, 우리는 무한 분산 잡음($p \in (1,2]$) 하에서 비볼록-강볼록 가정에 대한 분위수 유도 TTSA의 수렴 분석을 제공하며, heavy-tailed 매개변수에 대한 최적 의존성을 회복하는 $\mathcal{O}(T^{-\frac{p-1}{3p-2}})$의 수렴률을 도출한다. 실증적으로, 이질적인 비전 벤치마크, 모멘텀 포이즈닝(momentum poisoning) 하의 동적 게임, 오프라인 강화학습에 이르는 여섯 가지 다양한 과제 전반에서, RQ-TTSA는 발산 급등을 제거하고 안정적인 수렴을 보장함으로써 최신 기준선들을 지속적으로 능가한다. 우리의 방법은 하이퍼파라미터 변동에 대한 상당한 강건성을 보여주며 무시할 수 있는 계산 오버헤드($\approx 2.7\%$ 증가)만을 수반하며, 신뢰할 수 있는 바이레벨 학습을 위한 실용적이고 필요한 구성 요소로서 분포 인식 그래디언트 제어를 검증한다.

arXiv:2606.22433v1cs.LG

분산 trap 탈출: 근 탐색 이중레벨 최적화를 위한 야코비안-자유 역학

Escaping the Variance Trap: Jacobian-Free Dynamics for Root-Finding Bilevel Optimization

강화학습에서의 엔트로피 튜닝부터 생성적 적대 신경망의 평형화까지, 많은 핵심 기계학습 작업은 근본적으로 손실 최소화가 아니라 확률적 근 탐색 문제입니다. 하지만 이러한 문제가 종종 제곱 잔차를 통해 최소화 프레임워크로 강제되어, 우리가 분산 trap(Variance Trap)으로 식별한 치명적 결함이 도입됩니다. 표준 이중레벨 최소화 알고리즘은 암시적 야코비안을 포함하는 하이퍼그래디언트를 추정해야 하며, 확률적 설정에서는 이러한 항이 노이즈 증폭기로 작용하여 수렴을 불안정하게 만듭니다. 우리는 Root-Finding Bilevel Optimization(RF-BO)을 이 병리를 우회하는 독립적인 문제 클래스로 공식화합니다. 근 오차를 따라 직접 업데이트하여 분산 증폭을 구조적으로 회피하는 Two-Time-Scale Stochastic Approximation(TTSA)을 사용한 야코비안-자유 해법을 제안합니다. 마르코프 노이즈 하에서 이 설정에서 TTSA에 대한 최초의 비점근적 수렴 보장을 제공합니다. 광범위한 실험은 이 패러다임의 결정적 이점을 보여줍니다. 제곱 잔차 및 암시적 그래디언트 기준선과 비교하여, 우리 프레임워크는 SimCLR에서 top-1 정확도 2.6% 향상, 기준선이 실패하는 비선형 ODE 제어에서 17배 빠른 수렴, 강화학습에서 크게 개선된 엔트로피 안정성, 생성 모델링에서 11.1% 품질 향상을 달성합니다.