PyTorchKR Papers

최신 논문

총 7편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.13966v2cs.LG

범용 함수 근사를 사용한 증명 가능하게 효율적인 오프라인-투-온라인 가치 적응

Provably Efficient Offline-to-Online Value Adaptation with General Function Approximation

본 논문은 일반적인 함수 근사 하에서 오프라인-투-온라인 강화학습(reinforcement learning)에서의 가치 적응(value adaptation)을 연구한다. 학습자는 불완전한 오프라인 사전학습 $Q$-함수로부터 시작하여, 제한된 양의 온라인 상호작용만을 사용하여 이를 목표 환경(environment)에 적응시키고자 한다. 먼저 우리는 미니맥스 하한(minimax lower bound)을 수립하여 이 설정의 어려움을 규명하며, 사전학습된 $Q$-함수가 최적 $Q^\star$에 가까운 경우에도, 특정한 어려운 인스턴스들에서는 온라인 적응이 순수 온라인 강화학습(RL)보다 더 효율적일 수 없음을 보인다. 긍정적인 측면에서, 오프라인 사전학습된 가치 함수에 대한 새로운 구조적 조건 하에서, 우리는 순수 온라인 강화학습보다 증명 가능하게 개선된 문제 의존적 샘플 복잡도를 갖는 적응 알고리즘인 O2O-LSVI를 제안한다. 마지막으로, 제안된 방법의 실용적 효과를 입증하는 신경망 실험으로 이론을 보완한다.

arXiv:2609.25710v1stat.ML

신경망 근사와 미니맥스 회귀에서 네트워크 크기와 매개변수 크기 간의 최적 트레이드오프

Optimal Tradeoffs Between Network Size and Parameter Magnitude in Neural Approximation and Minimax Regression

신경망의 통계적 정확도는 근사 능력과 데이터로부터 적합된 클래스의 복잡도 모두에 의존합니다. 네트워크 크기를 늘리는 것이 근사를 개선하는 자연스러운 방법이지만, 매개변수 크기(parameter magnitude)는 두 측면 모두에서 그 역할을 정량화해야 하는 또 다른 자원을 제공합니다. 본 논문에서는 하나의 기본 유계 1-립시츠(Lipschitz) 이진-삼각 활성화 함수(Dyadic–Triangular Activation)를 사용하여 고정된 깊이에서 정밀한 너비-크기 트레이드오프를 규명합니다. $0<\beta\leq1$인 $[0,1]^d$ 상의 단위 $\beta$-횔더(Hölder) 볼에 대해, 네트워크 너비가 $N\geq2d+3$을 만족하고 매개변수 크기가 $T\geq1$로 유계될 때 $0<p<\infty$에 대한 최적 $L^p$ 근사 오차는 $[N^2\log(eNT)]^{-\beta/d}$ 차수입니다. 이에 일치하는 하계는 모든 고정된 전역 횔더 활성화 함수에 대해 성립하며, 해당 횔더 지수는 상수에 영향을 줄 뿐 수렴 속도(rate)에는 영향을 주지 않습니다. 유계된 설계 밀도와 독립적이고 중심화된 서브-가우시안(sub-Gaussian) 잡음 하에서, $M$이 표본 크기일 때 $N^2\log(eNT)\asymp M^{\frac{d}{2\beta+d}}$를 만족하기만 하면 깊이 $23$의 전체 클리핑된 클래스에 대한 근사 최소제곱은 로그 손실 없이 고전적인 횔더 미니맥스 위험 $\mathcal{O}(M^{-\frac{2\beta}{2\beta+d}})$을 달성합니다. 이는 단위 매개변수 반경부터 고정된 네트워크 크기에 이르기까지 통계적으로 최적인 선택들의 연속체를 제공합니다. 고정된 크기에서 최대 $8d+7$개의 0이 아닌 매개변수를 갖는 4개의 은닉층은 준최적 반경을 제공하는 반면, 최대 $8d+27$개의 매개변수를 갖는 6개의 층은 근사 오차 $\eta$에서 최적 차수 $\log T=\mathcal{O}(\eta^{-d/\beta})$를 달성합니다. 동일한 디코딩 방식은 고정 크기 트랜스포머 근사 역시 산출합니다.

arXiv:2605.31152v2stat.ML

이방성 및 혼합 매끄러움 함수의 심층 렐루 신경망 근사와 학습

Approximation and learning of anisotropic and mixed smooth functions by deep ReLU neural networks

본 논문은 심층 렐루(ReLU) 신경망이 매끄러운 함수를 얼마나 효율적으로 근사하고 학습할 수 있는지를 연구한다. 오차가 $L^p([0,1]^d)$ 노름으로 측정되고 근사자가 폭 $W$와 깊이 $L$을 갖는 네트워크일 때, 최근 연구들은 Sobolev 임베딩(embedding) 조건 $s/d>1/q-1/p$ 하에서 Besov 공간 $\mathcal{B}^s_{q,r}([0,1]^d)$에 대해 초근사율 $\mathcal{O}((WL)^{-2s/d})$를 증명하였다. 이 비율에서 차원의 저주(curse of dimensionality)를 극복하기 위해, 우리는 이 결과를 이방성 및 혼합 매끄러움 함수 클래스로 확장한다. 임베딩 조건 $\tilde{s} > 1/q-1/p$ 하에서 이방성 매끄러움 $\boldsymbol{s}=(s_1,\dots,s_d)$을 갖는 이방성 Besov 공간 $\mathcal{B}^{\boldsymbol{s}}_{q,r}([0,1]^d)$에 대해 근사율 $\mathcal{O}((WL)^{-2\tilde{s}})$를 확립한다. 여기서 평균 매끄러움 $\tilde{s} = (\sum_{i=1}^d s_i^{-1})^{-1}$이다. 혼합 매끄러움 $s>1/q-1/p$을 갖는 혼합 매끄러움 Besov 공간 $\mathcal{MB}^s_{q,r}([0,1]^d)$에 대해서는 근사율 $\mathcal{O}((WL)^{-2s})$가 대수(logarithmic) 인자까지 성립함을 보인다. 이러한 결과를 이용하여 이방성 Besov 함수의 합성(composition)에 대한 근사 경계도 유도한다. 응용으로, 심층 렐루 신경망이 광범위한 매끄러움 함수 클래스에 대해 대수 인자까지 minimax 최적(minimax optimal) 비율을 달성할 수 있음을 보인다.

arXiv:2607.09235v1cs.LG

필요한 것은 SAMPAT뿐

All you need is SAMPAT

현재 AI/ML의 최첨단 기술은 심층 신경망 아키텍처에 기반하고 있으나, 이러한 아키텍처는 일반적으로 해석 가능성(interpretability)의 부재라는 문제를 안고 있다. 해석 가능성은 실험 데이터를 분석할 때 통찰을 얻는 데 매우 중요하며, 정량적 예측만으로는 과학자에게 충분하지 않을 수 있다. 우리는 3층 신경망 아키텍처인 SAMPAT(Smooth Approximation via Multivariate Polynomials and Analytic Transformations, 다변량 다항식과 해석적 변환을 통한 매끄러운 근사)를 제안한다. SAMPAT는 임의의 매끄러운 함수를 원하는 정밀도로 근사할 수 있는 연속적이고 모든 점에서 미분 가능한 함수를 학습할 수 있음이 증명 가능하다. SAMPAT의 근사식은 닫힌 간결한 대수적·해석적 표현으로 나타낼 수 있어 완전한 해석 가능성을 제공한다. 합성 및 벤치마크 데이터셋에 대한 실험에 따르면, SAMPAT는 더 단순한 표현으로도 경쟁력 있는 성능을 달성한다. 많은 태스크에서 2층 SAMPAT만으로도 충분하다. 뉴런 간 연결성에 제약을 부과함으로써, SAMPAT는 일반 다항식 및 삼각 다항식, 유리식, 가우시안, 가우시안 혼합, 그리고 이들의 임의 조합을 포함한 다양한 근사식을 제공하는 데 활용될 수 있으며, 제약이 없는 경우에는 적합한 구조를 스스로 학습한다. SAMPAT는 다항식 인수분해와 비선형 시스템 모델링에도 활용될 수 있다. 스킵 연결(skip connection)을 추가하면, 4~6층의 SAMPAT로 AI/ML에서 널리 사용되는 상당히 광범위한 범위의 방법들을 표현하기에 충분하며, 이를 통해 모델 패밀리의 선택 자체도 파라미터와 마찬가지로 학습 과정의 일부로 최적화할 수 있다.

arXiv:2606.27112v1cs.LG

잔차 가중치 보정 Heavy-Ball Q-learning

Heavy-Ball Q-Learning with Residual Weighting Correction

강화학습(RL)을 위한 잔차 가중 보정 heavy-ball Q-learning 방법을 제안하고, switched linear system(SLS) 표현과 joint spectral radius(JSR) 분석으로 수렴성과 표준 Q-learning보다 빠른 수렴이 이론적으로 보장되는 조건을 제시한다. 동일한 구성을 선형 함수 근사(linear function approximation) Q-learning으로 확장해 유사한 가속화 정리를 도출하며, heavy-ball 모멘텀(momentum)이 Q-learning을 가속화하는 메커니즘에 대한 보완적 통찰을 제공한다.

arXiv:2502.18959v4cs.LG

푸리에 다중 컴포넌트·다층 신경망: 고주파수 잠재력의 실현

Fourier Multi-Component and Multi-Layer Neural Networks: Unlocking High-Frequency Potential

FMMNN은 사인 형태 활성화 함수와 다중 컴포넌트 구조를 결합하여 고주파수 함수 근사를 위한 표현력과 최적화 환경을 개선한다. 제안된 스케일링된 무작위 초기화 방법과 함께 이 모델은 진동 함수 근사 벤치마크에서 우수한 정확도와 수렴 성능을 달성한다.

arXiv:2606.23179v1cs.LG

EML 트리는 보편 근사자이다

EML Trees Are Universal Approximators

EML(Exp-Minus-Log) 함수를 트리로 조합한 EML 트리가 Sobolev 공간 W^{k,∞}에서 보편 근사 성질을 갖음을 다항식 표현을 모방하는 명시적 구성과 고전적 신경망 근사 논증으로 증명한다. 적합 파라미터를 갖춘 EML형 트리 학습 알고리즘을 제안하고 실용적 최적화 문제에서 실행 가능성을 보여, 함수 근사를 위한 이론적 프레임워크로 정당화한다.