PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.21253v2cs.LG

그래디언트-프리 웜-스타트 라이브러리 복원: 상각 후회 분리

Gradient-Free Warm-Start Library Recovery: an Amortized-Regret Separation

그래디언트-프리, 로컬, 온라인, 그리고 append-only 방식의 지속 학습(continual learning)은 엣지 및 스트리밍 배포에 매력적이지만, 그 가치는 보통 비공식적으로만 주장된다. 우리는 반복 레짐(regime) 스트림에 대해 증명 가능한 설명을 제시한다. 분할(segmentation)이 주어지면, 웜-스타트(warm-start) 라이브러리 학습기는 무기억(memoryless) 재추정기의 $Θ(RD/\varepsilon^2)$에 대비하여 상각(amortized) 복원(recovery) 비용 $O\!\big(KD/\varepsilon^2+(R-K)\logK/Δ^2\big)$를 달성하며, 차원 $D$와 재발(recurrence) 밀도에 따라 증가하는 $(R-K)\,Θ(D/\varepsilon^2)$의 이점을 갖는다. 메커니즘은 분리(decoupling)이다: 관측된 $K$개 레짐 중 어느 것이 활성인지 인식(recognition)하는 비용은 $D$와 무관하게 $O(\log K/Δ^2)$이며, 한 레짐을 추정하는 비용은 $Θ(D/\varepsilon^2)$이다. 우리는 이것이 tight함을 증명한다: 일치하는 하한(matching lower bounds)은 인식 $Θ(\log K/Δ^2)$와 무기억 클래스 bound $Ω(RD/\varepsilon^2)$를 주므로, 각 항은 개별적으로 minimax-tight하다(결합 진술은 조건부이다). 분리(separation)는 born-immune(무기억 학습기의 이점은 항등적으로 0)이고 패러다임 수준이다: 공정한 spawn 가능 베이지안 기준선(baseline)과 일치하며 그를 능가하지 않는다; 기여는 end-to-end 역전파(backprop) 없이 그리고 구조적으로 제로 망각(zero forgetting)으로 이 비용 구조를 달성하는 것이다. count-calibrated 변형은 바운드된, 결코 음수가 아닌 per-recurrence overshoot까지 기준선(baseline)의 선행 상수(leading constant)와 일치시키며, 하이퍼파라미터(hyperparameter)-free이고 per-step 초월함수(transcendentals)가 없다. 우리는 범위를 제한한다: 인식 가능한 레짐은 심플렉스(simplex) packing에 의해 상한이 정해진다(벽(walls) $e^{Θ(D)}$); 자율 분할(autonomous segmentation)은 packing 벽에서 불가능하다(레짐이 겹칠 때 detector가 오경보/지연(false-alarm/delay) 프론티어(frontier)를 벗어날 수 없음); 이점은 겹침(overlap) 하에서 사라진다. 차원 의존 분리는 합성 스트림과 실제 $k$-mer 게놈 분포에서 확인된다(무기억 비용 $\propto D^{1.04}$, 인식은 $D$-independent); 하나의 실제 순차 스트림은 $D{=}1$ near-null 코너에 위치한다.

arXiv:2607.03519v1cs.LG

Adam의 수렴에 관하여, 재고찰

On the Convergence of Adam, Revisited

임의의 모멘트 감쇠 파라미터 β₁,β₂∈[0,1)에 대해 프로젝션 Adam이 평균 후회(regret)가 0으로 수렴하지 않는 반례를 균일하게 유계된 기울기 조건 하에서 구성함으로써, 기존 Reddi-Kale-Kumar(2018)의 결과가 요구하던 β₁<√β₂ 제약을 제거하였다. 이 비수렴 결과는 AdamW, RMSProp, NAdam, Adan, AdaMax, Muon 등 주요 Adam 변형들에도 동일하게 확장된다.

arXiv:2606.28616v1cs.LG

절댓값 섭동을 통한 선형 밴딧의 무작위 탐험

Randomized Exploration for Linear Bandits via Absolute Perturbations

확률적 선형 밴딧(stochastic linear bandits)에서 표준적인 상한 신뢰 구간(UCB) 알고리즘은 간단한 빈도주의 후회(regret) 분석을 허용하지만 계산 비용이 클 수 있는 반면, 톰슨 샘플링(Thompson Sampling, TS)은 계산 효율이 높지만 낙관적이지 않은 특성으로 인해 분석이 일반적으로 더 어렵다. 본 논문에서는 부호 있는 탐험(exploration) 노이즈를 절댓값으로 대체함으로써 기댓값 측면에서 낙관성을 보장하는 TS의 간단한 변형인 절댓값 톰슨 샘플링(Absolute Thompson Sampling, ATS)을 제안한다. 이는 TS의 계산 효율성을 유지하면서 TS 분석에서 흔히 요구되는 기술적으로 복잡한 반집중(anti-concentration) 논증을 피할 수 있어, UCB 방식의 단순한 후회 분석이 가능하다. ATS가 $\tilde{O}(d^{3/2}\sqrt{K})$의 후회를 달성함을 보이며, 이는 선형 밴딧에서 TS에 대한 기존 경계와 일치한다. 나아가 앙상블(ensemble) 크기로 정규화(normalization)하여 여러 절댓값 섭동에 대한 최댓값을 취하는 앙상블 절댓값 톰슨 샘플링(Ensemble Absolute Thompson Sampling, EATS)을 도입한다. 앙상블 크기가 커질수록 EATS는 UCB 목적함수로 수렴하여 극한에서 UCB 동작을 회복한다. 실험 결과, 중간 크기의 앙상블만으로도 이미 강력한 성능을 발휘함을 보인다. 본 결과는 이론과 실제 모두에서 무작위 탐험과 결정론적 낙관주의 사이의 가교를 제시한다.