arXiv:2608.07436v2 cs.AI

Muon으로 학습된 트랜스포머의 표현-판독 인터페이스에서 발생하는 그로킹 이후 붕괴 현상

Post-Grokking Collapse at the Representation-Readout Interface in Muon-Trained Transformers

Ali Janati, Kaoutar El Maghraoui, Anass Belfatmi

제출 2026-08-07

저자 비고

arXiv Comments

38 pages, 11 figures. Revised manuscript with expanded experiments and analysis. Preprint. Under review

한국어 초록

Muon으로 학습(training)된 모듈러 연산 트랜스포머는 선형적으로 디코딩 가능한 태스크 정보를 유지하면서도 정확도를 잃을 수 있습니다. 인접 교체 분석을 통해 포착된 5건의 비정규화 실패 원인이 AdamW 판독(readout) 업데이트에 위치함을 국소화했습니다. 실제 판독 변위에 큰 특징(feature) 평균을 곱하면 입력 전반에 공유되는 클래스 종속적 로짓(logit) 오프셋이 발생하며, 이는 각 실패를 거의 재현합니다. 학습 전용 디코더는 98.20~100%의 미학습 검증(held-out) 정확도를 복원합니다. 교차 엔트로피(cross-entropy) 도함수(derivative) 오차를 교정하면 100,000단계까지 5개의 일치된 브랜치가 안정화되지만, 향후 정확한 CE RMS를 적용한 4건의 실험은 임베딩(embedding) 업데이트를 통해 실패합니다.

원문 초록

Muon-trained modular-arithmetic transformers can lose accuracy while retaining linearly decodable task information. Adjacent swaps localize five captured unnormalized failures to AdamW readout updates. Multiplying the actual readout displacement by the large feature mean produces a class-dependent logit offset shared across inputs that nearly reproduces each failure. Training-only decoders recover 98.20-100% held-out accuracy. Correcting cross-entropy derivative errors stabilizes five matched branches through step 100,000; four prospective accurate-CE RMS runs fail through embedding updates.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.07436v2
  2. arXiv:2608.07436v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13750v1cs.LG공통 태그 Representation Learning, grokking, modular arithmetic

작은 수학적 세계를 활용한 과제 다양성의 효과 연구

Studying the Effects of Task Diversity Using Small Mathematical Worlds

모듈러 덧셈과 같은 기초적인 수학적 과제는 노이즈가 많고 검증하기 어려운 대규모 실제 환경에서는 확인하기 힘든 신경망의 동작 양상을 밝히는 데 유용한 도구로 활용되어 왔습니다. 이러한 연구들은 대개 단일 과제에 집중해 왔습니다. 그러나 현대의 언어 모델은 다음 토큰 예측 목적함수로 학습됨에도 불구하고 방대한 수의 과제에 노출됩니다. 본 연구에서는 정수 및 순열에 대한 서로 구별되면서도 관련된 과제들로 구축된 두 가지 수학적 과제 생태계인 IntWorld와 PermWorld를 소개합니다. 두 생태계 모두 과제들이 구별되면서도 서로 연결된 응집력 있는 수학적 '세계' 내에서 과제 다양성을 시뮬레이션하도록 설계되었습니다. 데이터셋이 절차적으로 생성되기 때문에 과제의 수를 정밀하게 조절할 수 있으며, 이를 통해 학습에서 다른 요인들과 분리하여 과제 다양성의 역할을 밝혀내기 시작할 수 있습니다. 데이터셋을 소개한 후, 과제 다양성을 늘리는 것이 모델 내부 표현의 풍부함을 증가시킨다는 견해를 뒷받침하는 초기 결과를 제시합니다.

arXiv:2610.00403v2cs.LG공통 태그 grokking, muon optimizer

논리와 기억 사이의 충돌: 옵티마이저 의존적 규칙 습득을 위한 학습 조건

The Conflict Between Logic and Memory: Training Conditions for Optimizer-Dependent Rule Acquisition

옵티마이저는 동일한 태스크에 적합(fit)되더라도 서로 다른 일반화 관계를 습득할 수 있다. 본 연구에서는 단일 은닉층 ReLU 네트워크에서 복합 증거 태스크, 매개변수 수준의 개입, 그리고 3개 시드에 대한 엄격한 패리티 스캔을 결합하여 이러한 차이를 지배하는 학습 조건을 분석한다. 우리의 핵심 발견은 방해 요인(nuisance)과 연결된 학습 가능성이 공유된 실패와 상대적인 옵티마이저 이점을 모두 재편한다는 것이다. 방해 요인이 많은 태스크에서 테스트된 20개의 옵티마이저 구성 전부는 가장 어려운 단계에서 무작위 추정(chance) 수준에 머문다. 그러나 모든 입력을 유지하면서 방해 요인과 연결된 첫 번째 층 가중치를 초기화 상태로 고정하면, 해당 단계의 정확도가 약 50%에서 모멘텀 SGD는 70.56%, Adam은 68.47%, Muon은 69.00%로 상승한다. 전체 학습이 끝난 후에야 동일한 입력을 마스킹하는 방식으로는 이러한 성능을 복원할 수 없다. 별도의 쌍별 모드 태스크에서는 목표 및 모드 빈도가 고정되어 있는 상태에서도 배경 동결이 모멘텀 SGD 대비 Muon의 희귀 모드 이점을 12.48%포인트 감소시킨다. 각 개입은 조건별 학습률과 체크포인트를 갖춘 공통 검증-선택 프로토콜 하에서 평가된다. 차수 1~20에 걸친 엄격한 패리티 스윕은 허위 단서나 추가적인 방해 요인 좌표가 없는 상호보완적 참조 기준을 제공하며, 옵티마이저들은 차수 9~11에서 분기된 후 상당한 베이즈 예측 가능성이 남아있음에도 무작위 추정 수준에 근접한다. 혼합 태스크를 통해 복원 경계를 규명하고, CIFAR-10으로 외부 아키텍처 비교를 제공한다. 종합적으로 이러한 결과는 옵티마이저 비교를 특정 관계의 습득 및 사용과 연결하며, 허용된 적응을 고정된 아키텍처가 학습하는 내용을 변화시키는 구체적인 학습 변수로 식별한다.

arXiv:2609.26679v1cs.LG공통 태그 Representation Learning, grokking

그로킹의 스펙트럴 이론: 가중치 감쇠가 유도하는 특징 학습

A Spectral Theory of Grokking: Weight Decay induces Feature Learning

그로킹(grokking)에서는 학습 데이터에 대한 초기 적합이 일반화의 훨씬 늦은 개선과 분리된다. 이 지연 기간 동안 학습은 고정된 신경 접선 커널(NTK) 영역에서 과제 관련 커널 고유방향이 계속 진화하는 영역으로 이동할 수 있다. 우리는 lazy에서 rich 학습으로의 이러한 전환이 어떻게 지연된 일반화를 만들어낼 수 있는지에 대한 정량적 이론을 제공한다. 제곱 손실과 $L_2$ 가중치 감쇠로 학습된 동차(homogeneous) 네트워크에 대해, 암기(memorization) 이후에도 유한한 잔차가 남으며, 더 작은 NTK 고유값과 연관된 목표 성분에서는 더 큰 잔차 비율이 나타남을 보인다. 이 잔차들은 NTK 자체의 동역학에 되먹임되며, 결과 동역학을 과제 관련 스펙트럴 방향으로 투영하면 잔차가 주도하는 커널 성장과 가중치 감쇠가 경쟁하는 축약 시스템이 얻어진다. 이 시스템은 그로킹 시간 척도가 학습률과 가중치 감쇠의 곱에 의해 제어되며, 특징 학습이 임계 감쇠 근처에서 로그적으로 느려지고 그 이상에서는 과제 정렬 NTK 구조가 더 이상 일반화를 지탱할 수 없으며, 더 강한 감쇠가 적합(fitting) 자체를 막을 수 있음을 예측한다. 모듈러 덧셈(modular addition)에서 이러한 예측을 검증한다. 동차 MLP에서는 학습 정확도가 포화된 후에도 NTK에서 과제 정렬 푸리에 구조가 계속 출현하며, 다양한 학습률과 가중치 감쇠에 걸친 학습된 네트워크의 84$\times$90 격자가 예측된 위상(phase) 기하와 일반화 시간의 학습률·가중치 감쇠에 대한 역곱 스케일링을 재현한다. 1블록 트랜스포머는 정확한 동차성을 위반함에도 불구하고 42$\times$45 격자에서 유사한 거시적 위상 구조와 동일한 전환 시간 스케일링을 보인다. 종합하면, 이 결과들은 적합 이후 특징 학습을 일반화의 시작과 학습률·가중치 감쇠 평면에서의 위상 구조 모두와 연결하는 기계론적 유도를 제공한다.

arXiv:2609.38840v3cs.LG공통 태그 Representation Learning

scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기

scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning

단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.

arXiv:2610.10850v2cs.LG공통 태그 Representation Learning

유사한 예측 적합도와 상이한 잠재 동역학: 뇌 질환 맞춤형 모델에서 학습된 동역학적 구조 특성화

Similar Predictive Fit but Different Latent Dynamics: Characterizing Learned Dynamical Structure in Personalized Models of Brain Disorders

AI 모델이 임상 의사결정 및 맞춤형 치료로 나아감에 따라, 모델이 무엇을 학습하는지 이해하는 것은 단순한 예측 정확도를 넘어 매우 중요합니다. 본 연구에서는 예측 적합도가 유사하더라도 개인화된 잠재 동역학(latent dynamics)이 임상적으로 연관된 차이를 드러내는지 조사합니다. Temple University EEG Corpus(TUEG)로 사전학습된 경량 CNN-트랜스포머(Transformer) 뇌파(EEG) 파운데이션 모델을 사용하여 세그먼트 수준의 표현을 추출합니다. Temple University Epilepsy Corpus(TUEP)를 활용하여 표현들을 공유 잠재 상태 공간으로 매핑하고, 각 피험자에게 독립적으로 희소 다항 로지스틱 전이 분포(mLTD)를 적합하여 개인화된 전이 의존성 그래프 $W_n$을 얻습니다. 분석 대상은 $n{=}198$명의 피험자(뇌전증 99명 / 비뇌전증 99명)입니다. $k{=}4$에서 뇌전증 피험자는 훨씬 더 조밀한 학습된 의존성 구조를 나타내며($p{=}1.1\times10^{-7}$), $k{=}6$에서도 동일한 패턴을 보입니다(19.90 대 13.46; $p{=}5.2\times10^{-5}$). 그래프 유래 특징들은 5-겹 피험자별 교차 검증(cross-validation) 하에서 중간 수준의 집단 구별 능력을 제공합니다($k{=}4$에서 AUROC 0.68; $k{=}6$에서 0.65). 대조적으로, 홀드아웃 로그 가능도(log-likelihood)는 $k{=}4$에서 두 집단 간에 거의 동일하며($-0.992$ 대 $-0.991$; $p{=}0.95$), 다음 상태 예측 역시 유사하게 일치합니다(AUROC 0.855 대 0.861; $p{=}0.54$). 따라서 유사한 예측 적합도가 유사한 학습 동역학을 의미하지는 않습니다. 즉, 개인화된 모델이 학습한 내부 동역학 구조에는 상당한 차이가 있더라도, 두 집단은 대등한 수준으로 예측 가능할 수 있습니다. 이러한 차이는 개인화된 임상 모델에서 예측 성능과 함께 학습된 구조를 평가해야 할 필요성을 시사합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.