orabona.com

이 이메일 도메인이 관측된 논문 2건

arXiv:2606.24981v1cs.LG

A Single Stepsize Suffices for Unprojected Linear TD(0): Simultaneous Robust and Fast Rates via Polyak--Ruppert Averaging

단일 궤적 Markovian 샘플링 하에서 투영(projection) 없는 선형 TD(0)에 Polyak–Ruppert 평균을 적용하고, 혼합 시간에만 의존하는 단일 스텝사이즈로 반복값의 고확률 유계(boundedness)와 동시 수렴을 증명한다. 곡률(curvature) 파라미터 ω를 몰라도 동일 스텝사이즈가 곡률 무관 견고율 Õ(τ_mix/√T)과 곡률 의존 빠른 수렴율 Õ(τ_mix²/(ωT)) 중 더 나은 쪽을 보장하며, 핵심 기법은 기하학적 혼합 Markov chain용 Poisson 방정식 분해와 자기 유계(self-bounding) 귀납 논증이다.

arXiv:2606.11773v1math.OC

낙관적 곱셈 가중치 갱신의 마지막 반복 수렴

Last-Iterate Convergence of Optimistic Multiplicative Weight Update

낙관적 경사하강상승법(OGDA)과 낙관적 곱셈 가중치 갱신(OMWU)은 볼록/오목 안장점 문제를 해결하는 두 가지 매우 인기 있는 알고리즘으로, OMWU는 OGDA의 비유클리드이며 엔트로피 기반 버전입니다. 1980년대부터 OGDA의 마지막 반복이 매끄러운 문제에서 안장점으로 점근적으로 수렴한다는 사실이 알려져 왔습니다. 반면, OMWU가 동일한 성질을 갖는지는 여전히 알려져 있지 않습니다. 본 논문에서는 충분히 작은 상수 학습률을 사용할 때, OMWU가 매끄러운 볼록-오목 안장점 문제에 대해 점근적으로 수렴함을 보입니다. 이 결과는 해의 유일성, 엄격한 상보성, 오차 한계, 또는 해 근처에서의 초기화를 요구하지 않습니다. 주요한 새로운 요소는 모든 집적점이 비활성 좌표 KKT 부등식을 만족한다는 것을 보여주는 경계 논증입니다. 이 경계 논증은 ChatGPT의 도움을 받아 발견되었으며, 부록에 기록되어 있습니다.