PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.35698v3cs.LG

정규화의 입증 가능한 이점: 적대적 모방 학습을 위한 빠른 수렴률

Provable Benefits of Regularization: Fast Rates for Adversarial Imitation Learning

우리는 적대적 모방 학습(adversarial imitation learning, AIL)을 연구한다. AIL에서 에이전트(agent)는 전문가(expert) 행동과 학습자(learner) 행동을 구별하는 적대적 보상(reward)에 대해 정책(policy)을 최적화함으로써 전문가의 시연(demonstration)을 모방하는 법을 학습한다. 역사적으로 보상 정규화(regularization)와 엔트로피 기반 정책 정규화는 GAIL, LS-IQ와 같이 경험적으로 성공을 거둔 방법들의 핵심 구성 요소였지만, 유한 샘플(finite-sample) 환경에서의 이점은 아직 충분히 탐구되지 않았다. 우리는 일반적인 함수 근사(function approximation)를 사용하는 유한 구간(finite-horizon) 마르코프 결정 과정(Markov decision process)에서 공동으로 정규화된 AIL에 대한 빠른 수렴률을 도출한다. 우리의 모델 프리(model-free) 알고리즘인 Dually Regularized AIL은 KL 정책 정규화와 전문가 및 학습자의 점유율(occupancy)로 가중된 2차(quadratic) 보상 페널티를 결합한다. K개의 온라인 에피소드와 N개의 전문가 경로(trajectory)가 주어졌을 때, 고정된 정규화 파라미터에 대해 정규화된 모방 격차(imitation gap)에 대한 $\widetilde{O}\left(\frac{1}{K}+\frac{1}{N}\right)$ 경계(bound)를 증명한다. 우리의 분석은 유한한 전문가 데이터와 확률적(stochastic) 학습자 피드백으로 인한 추정 오차를 제어하기 위해 일반적인 컨벡스(convex) 보상 클래스에 대한 온라인 미러 디센트(mirror descent) 구성과, 낙관적(optimistic) KL 정규화 정책 학습에 대한 정교한(sharp) 분석을 결합한다. 우리가 아는 한, Dually Regularized AIL은 확률적 전문가(stochastic expert)가 존재하는 경우에도 이러한 정규화된 AIL 목적함수에 대해 전문가 시연과 온라인 상호작용(interaction) 양쪽 모두에서 $\widetilde{O}\left(\frac{1}ε\right)$ 샘플 복잡도(sample complexity)를 동시에 달성한 최초의 알고리즘이다. 이러한 결과는 AIL에서 보상 정규화와 정책 정규화가 갖는 상호 보완적인 통계적 이점을 엄밀하게 규명한다.

arXiv:2512.13853v3cs.LG

퍼콜레이션 관점에서 바라본 드롭아웃 신경망 학습

Dropout Neural Network Training Viewed from a Percolation Perspective

본 연구에서는 드롭아웃(dropout)을 사용하여 심층 신경망(neural network, NN)을 학습(training)할 때 퍼콜레이션(percolation)의 존재와 그 효과를 조사한다. 드롭아웃 방법은 G. Hinton 등(2012)이 처음 소개한, 신경망 학습을 위한 정규화(regularisation) 기법이다. 이 방법들은 학습의 각 단계에서 신경망 내의 연결을 무작위로 일시 제거하고, 확률적 경사하강법(Stochastic Gradient Descent, SGD)을 사용하여 남은 서브네트워크를 갱신한다. 네트워크에서 연결을 무작위로 제거하는 과정은 통계물리학의 대표적인 모형인 퍼콜레이션과 유사하다. 만약 드롭아웃이 신경망의 입력과 출력 사이에 경로가 존재하지 않을 정도로 충분히 많은 연결을 제거한다면, 신경망은 데이터에 기반한 예측을 수행할 수 없게 된다. 우리는 신경망의 드롭아웃을 모방하는 새로운 퍼콜레이션 모델을 연구하고, 네트워크 토폴로지(topology)와 이 경로 문제 사이의 관계를 규명한다. 이 이론은 드롭아웃 내에 퍼콜레이션 효과가 존재함을 보여준다. 또한 우리는 이러한 퍼콜레이션 효과가 편향(bias)이 없는 신경망을 드롭아웃으로 학습할 때 붕괴(breakdown)를 일으킬 수 있음을 보이며, 이 붕괴 현상이 편향이 있는 신경망에도 확장됨을 휴리스틱하게 논증한다.

arXiv:2603.20388v2math.ST

교차 검증에서 SURE까지: 조율된 정규화 추정량의 점근적 위험

From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators

우리는 $n$-폴드 교차 검증(CV)으로 조율된 정규화 경험적 위험 최소화(ERM) 추정량의 점근적 위험 함수를 도출한다. 이러한 추정량의 표본 외 예측 손실은 분포적으로, Stein의 비편향 위험 추정(SURE)으로 조율된 정규 평균 모델의 수축 추정량의 제곱 오차 손실(위험 함수)에 수렴한다. 이 위험 함수는 학습 이론에서 흔히 사용되는 최악의 경우 후회에 대한 균등 상한보다 예측 성능을 더 세밀하게 보여준다: 즉, 위험이 실제 매개변수에 따라 어떻게 달라지는지를 정량화한다. 핵심 중간 단계로서, 우리는 (i) $n$-폴드 CV가 SURE로 균등 수렴하며, (ii) SURE는 일반적으로 다수의 지역 최솟값을 가지지만 그 전역 최솟값은 일반적으로 충분히 분리되어 있음을 보인다. 이 충분한 분리성은 CV의 SURE로의 균등 수렴이 CV에 의해 선택된 조율 매개변수의 SURE에 의해 선택된 매개변수로의 수렴으로 이어짐을 보장한다.

arXiv:2606.29951v1cs.LG

로컬 피델리티 정규화를 활용한 메소모픽 신경망의 예측 성능 및 해석 가능성 향상

Improved Predictive Performance and Interpretability for Mesomorphic Neural Networks Using Local Fidelity Regularization

해석 가능한 메소모픽 신경망(IMN)은 선형 출력 층의 가중치가 단일 값에 편중되는 퇴화 문제로 신뢰할 수 없는 해석을 생성할 수 있는데, 이를 해결하기 위해 로컬 피델리티 정규화(LFR)를 도입하여 선형 출력 가중치를 로컬 데이터 변동에 정렬시키는 구조적 제약을 추가하였다. OpenML 벤치마크 평가에서 LFR은 해석 가능성을 보장하면서도 기존 IMN 대비 AUROC를 향상시키고 CatBoost, TabNet 등 최신 블랙박스 모델과 경쟁력 있는 예측 성능을 달성하였다.

arXiv:2603.13826v2cs.LG

The Effective Number of Nonzeros: Theory and Regularization for Sparse Recovery

수치 노이즈로 생기는 무의미한 비영 계수 꼬리를 반영하지 못하는 고전적 희소 복원의 한계를 해소하기 위해, 정규화된 크기 분포의 섀넌 엔트로피로 유효 비영 계수 수(ENZ)를 정의하고 지지 집합 크기와 분포 효율로 분해하는 이론, 제한 등거리 조건 하 안정성, 분리 가능한 엔트로피 대리 정규화를 제안한다. 희소 신호 복원과 그래디언트 도메인 영상 잡음 제거 실험에서 표준 희소성 패널티 대비 강건하고 계산 효율적이며 경쟁력 있는 성능을 보인다.

arXiv:2606.21488v1cs.LG

견고성은 정규화로 환원될 수 없다: 선형 모델을 넘어선 적대적 학습 연구

Robustness Cannot be Reduced to Regularization: Studying Adversarial Training Beyond the Linear Case

머신러닝 모델의 적대적 예시(adversarial examples)에 대한 취약성이 최근 주요 문제로 부각되고 있다. 적대적 학습(adversarial training)은 이 문제에 대한 가장 효과적인 대응책 중 하나이지만, 높은 연산 비용이 실용적 배포의 장애물로 남아 있다. 이 비용을 줄이기 위한 최근의 진전은, 선형 모델의 경우, 적대적 위험(adversarial risk)과 더 단순한 형태의 정규화된 위험(regularized risk) 간의 형식적 동치에 기반해 왔다. 이를 통해 훨씬 더 효율적인 학습 절차가 가능해졌으며, 이는 자연스럽게 그러한 동치가 선형 모델을 넘어 확장될 수 있는지에 대한 의문을 제기한다. 본 연구에서 우리는 2층(two-layer) 네트워크에 대해 그러한 동치가 불가능함을 형식적으로 증명한다. 우리의 증명은 적대적 위험을 오직 약한 형태의 데이터 의존성만을 나타내는 임의의 단순한 정규화된 위험으로부터 근본적으로 분리하는 핵심 속성들로의 환원을 통해 진행된다. 이 설정을 넘어, Wide-ResNets에 대한 실험적 증거를 제시하여 더 깊고 표현력이 풍부한 아키텍처에서도 동일한 유형의 불가능성이 지속됨을 보인다.