PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.13432v1cs.LG

국소 중복성: 합성 기억화로부터의 가소성에 대한 정보 이론적 측정

Local Redundancy: An Information-Theoretic Measure of Plasticity from Synthetic Memorization

가소성(plasticity) — 신경망이 새로운 과제에 적응하는 능력 — 은 지속 학습(continual learning)과 전이학습에 매우 중요하다. 유효 rank, 죽은 뉴런 비율, 가중치 norm과 같은 기존 측정치들은 이론적 근거가 부족하고 새로운 과제에서의 성능과 낮은 상관관계를 보인다. 우리는 보편적 압축 이론(universal compression theory)에서 도출된 정보 이론적 측정인 국소 중복성(local redundancy)을 제안한다. 국소 중복성은 국소 모델 군 — 그래디언트 방향을 따라 무한소(infinitesimal) 이웃에 있는 매개변수 — 의 최악의 경우 중복성(worst-case redundancy)으로 정의하며, 이것이 가소성의 원칙적인 측정임을 보인다. 국소 중복성은 정확히 계산하기 어렵지만(intractable), 합성 기억화(synthetic memorization) 과제에서의 기대 제곱 그래디언트 norm이 효율적으로 계산 가능한 하한(lower bound)을 제공함을 증명한다. 지속적 이미지 분류와 시계열 전이학습(time series transfer learning) 실험에서 국소 중복성은 기존 측정치보다 하류(downstream) 성능을 더 잘 예측하며, 검증 손실이 정체되는(plateau) 구간에서 사전학습 체크포인트 선택을 가능하게 한다.

arXiv:2606.25335v1cs.LG

Stagnant Neuron: Towards Understanding the Plasticity Loss in Multi-Agent Reinforcement Learning Value Factorization Methods

다중 에이전트 강화학습(MARL) 가치 분해(value factorization) 방법의 순차 태스크 전환 시 플라스틱성 손실 원인을 정체 뉴런(stagnant neuron)으로 규명하고, 정체 뉴런을 동결된 지식 뉴런·재초기화된 활성 뉴런·보상 뉴런으로 구성된 복합 유닛으로 대체하는 KNIFE를 제안한다. SMACv2, predator-prey, 행렬 게임 실험에서 KNIFE는 기존 플라스틱성 주입(plasticity injection) 방법보다 적응 성능이 크게 향상된다.