서로 다른 층, 서로 다른 다양체: 트랜스포머 최적화에서의 모듈별 가중치 공간 기하학
Different Layers, Different Manifolds: Module-Wise Weight-Space Geometry in Transformer Optimization
한국어 초록
가중치 공간 기하학(weight-space geometry)은 신경망 최적화에서 중심적인 역할을 하지만, 다양체 제약(manifold constraints)은 종종 모든 가중치 행렬에 균일하게 적용됩니다. 본 연구에서는 서로 다른 트랜스포머 모듈이 서로 다른 다양체 기하학을 선호하는지 여부를 조사합니다. 우리는 GPT-2 사전학습(pre-training)을 위한 Manifold Muon을 연구하고, 어텐션(attention) 및 MLP 블록에 걸쳐 Stiefel 및 DGram 제약의 층별 할당을 비교합니다. 결과는 명확한 비대칭성을 보여줍니다: 어텐션 층에는 Stiefel 기하학으로 제약을 가하고 MLP 층에는 DGram 기하학을 할당하는 것이 테스트된 구성 중 가장 좋은 성능을 보이는 반면, 반대의 할당과 전체 DGram 구성은 공유된 하이퍼파라미터(hyperparameter) 설정에서 불안정해집니다. 우리는 이러한 실패의 원인을 DGram 제약 어텐션 가중치의 특이값(singular value) 성장으로 추적하며, 이는 어텐션 로짓(logit)을 증폭시키고 소프트맥스(softmax) 포화를 유발할 수 있습니다. 이러한 발견은 트랜스포머를 위한 대칭 인식(symmetry-aware) 및 기하학 인식(geometry-aware) 최적화는 균일하기보다는 모듈별로 이루어져야 함을 시사합니다.
원문 초록
Weight-space geometry plays a central role in neural network optimization, yet manifold constraints are often applied uniformly across all weight matrices. In this work, we ask whether different transformer modules prefer different manifold geometries. We study Manifold Muon for GPT-2 pretraining and compare layer-wise assignments of Stiefel and DGram constraints across attention and MLP blocks. Our results show a clear asymmetry: constraining attention layers with Stiefel geometry while assigning DGram geometry to MLP layers gives the best performance among the tested configurations, whereas the inverted assignment and all-DGram configuration become unstable under the shared hyperparameter setting. We trace this failure to singular value growth in DGram-constrained attention weights, which can amplify attention logits and induce softmax saturation. These findings suggest that symmetry-aware and geometry-aware optimization for transformers should be module-specific rather than uniform.
요약
GPT-2 사전학습 과정에서 어텐션 레이어에는 Stiefel 기하학을, MLP 레이어에는 DGram 기하학을 적용하는 모듈별 가중치 공간 제약 방식이 균일한 적용보다 우수한 성능을 보인다. 반면 다른 구성은 특이값 성장으로 인한 소프트맥스 포화 현상으로 인해 불안정성을 겪는다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.13276v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
잠재 분류체계: 언어 모델 사전학습에서 속성 유도는 어떻게 발달하는가
Latent Taxonomies: How Property Induction Develops in Language Model Pre-training
로빈(robin)이 종자골(sesamoid bone)을 가진다는 말을 들으면, 사람들은 이 속성을 참새에게 확장할 가능성이 고래에게 확장할 가능성보다 훨씬 높다. 이러한 행동은 범주 기반 속성 유도(category-based property induction)라고 불리며 인간에게서는 잘 입증되어 있지만, 다음 토큰 예측만으로 학습된 언어 모델에서 이러한 능력이 발달하는지, 그리고 어떻게 발달하는지는 명확하지 않다. 이를 밝히기 위해 우리는 공유하는 속성에 따라 그룹화된 합성 개체(synthetic entity)들의 계층적 분류체계(taxonomy)를 구성한다. 그런 다음 이 잠재 분류체계로부터 얻은 사실들을 Pythia와 OLMo 2 모델(70M에서 7B 파라미터)의 지속적 사전학습(continued pre-training)에 주입하고, 유도적 행동의 발달 과정을 추적한다. 우리는 분류체계에 부합하는 유도가 다음 토큰 예측만으로도 나타난다는 것을 발견했다: 한 개체에 대해 학습된 속성은 동일한 분류 범주 내에서 범주 간보다 더 강하게 전이된다. 내부적으로는 더 깊은 범주를 공유하는 개체들이 활성화 공간(activation space)에서 더 유사해지며, 군집화(clustering)를 수행하면 개체 표현(entity representation)으로부터 전체 분류 트리를 복원할 수 있다. 스케일이 도움이 될 것이라는 일반적인 예상과 달리, 데이터 예산이 고정된 경우 모델 크기가 커질수록 유도 능력이 약화되는 것으로 나타났으며, 이는 더 큰 모델이 개별 사실들을 공유 구조로 압축하기보다는 그대로 암기한다는 것을 시사한다. 또한 유도 능력은 분류체계 주입 이전의 사전학습이 많을수록 강화되고, 새로운 문맥 내(in-context) 속성으로도 전이되며, 프롬프트가 암시하는 잠재 분류체계에 의해 무효화될 수 있다. 종합적으로 이러한 결과는 모델의 유도적 일반화가 학습 데이터의 잠재적 구조를 반영한다는 것을 보여주며, 이는 데이터 큐레이션(data curation)과 학습된 사실이 얼마나 널리 전파될지 예측하는 데에 함의를 지닌다.
보이지 않는 것도 여전히 배우는 것: 증거 마스킹이 조합적 일반화를 이끈다는 사전등록 60-사회 확인
What You Can't See Is Still What You Learn: A Preregistered Sixty-Society Confirmation That Evidence Masking Drives Compositional Generalization
모듈이 읽을 수 있는 것을 제한하면 시스템이 계산하도록 학습하는 내용이 개선될 수 있다. 우리는 동결된 언어 모델 백본을 공유하고 학습된 연속 패킷으로 통신하는 60개의 4-셀 시스템을 사용한 사전등록 확인 연구에서 이를 검증한다. 다섯 가지 조건은 하나의 새로운 태스크 세계에서 여섯 개의 초기화 클러스터(각각 두 가지 데이터 순서)에 걸쳐 증거 마스킹, 소유권 마커, 외부 증거를 동일 토큰 길이의 중립적 필러(태스크와 무관한 텍스트)로 대체하는 방식을 변화시킨다. 두 체제 모두에서 마커를 사용할 수 있을 때, 마스킹은 보류된 2연산 및 3연산 조합에 대한 정확도를 중앙값 쌍별 차이 0.846 및 0.859만큼 개선했고, 12쌍 모두 필요한 여유를 넘겼으며, 전체 사전등록 행동 기준을 통과했다. 마커 없는 복제 실험도 통과했다. 마커가 있는 전역 가시성(G+) 시스템은 어느 것도 마커 추종 검사를 통과하지 못했으므로, 사용 가능한 역할 정보의 효과는 여전히 미결정이다. 필러 조건은 7명의 완전 일반화자를 산출했으나 분해 기준은 결론을 내리기에 불충분했다. 감사 대상 18개 마스킹 시스템 전체에서 패킷 개입은 적격 사례에서 예측된 중간값 변화를 따랐으나, 이러한 유한하고 성공 조건부 감사는 매개를 입증하지는 않는다. 결과는 검증된 마스킹 체제의 큰 이점을 확인하면서, 더 세밀한 귀속과 일반성은 열린 상태로 남긴다. 프로토콜, 결과, 체크포인트는 공개되어 있다.
대규모 언어 모델에서의 계층적 등급화
Hierarchical Grading in Large Language Models
우리는 트랜스포머의 표현 공간에 등급(grading)을 부여하고, 그로 인해 유도된 가중 스칼라 작용을 임베딩, 셀프 어텐션, 그리고 학습 목표 함수 전반에 전파하는 대수적 프레임워크인 등급화 대규모 언어 모델(Graded Large Language Models, GLLM)을 제안한다. 이 구성은 등급화 신경망(graded neural networks) 및 등급화 트랜스포머(graded transformers) 이론을 자기회귀(autoregressive) 언어 모델로 확장하면서, 표현력, 점근적 계산 복잡도, 그리고 추론 비용을 보존한다. 지배적인 기하학적 그림은 기하 불변 이론(geometric invariant theory)에 해당한다. 등급화의 이점은 등급화 토러스(grading torus) 위의 Kempf-Ness 함수로 표현된다. 균일(uniform) 아키텍처보다 나은 등급(grades)들은 개방 볼록 원뿔(open convex cone)을 이루며, 그 소속 여부는 등급 방향을 목표(target)와 데이터의 두 가지 측정 가능한 프로파일(profile)과 짝지어 비교하는 Hilbert-Mumford형 기준에 의해 결정된다. 최적 등급은 두 moment map의 일치점이며, 폐형식(closed form)으로 주어진다. 그리고 일반적인 트랜스포머는 원뿔 경계 위의 반안정(semistable) 등방(isotropic) 점으로 나타난다. 즉, 두드러진 최적점이라기보다 더 큰 등급화 계열의 한 구성원이다. 별도로, 수준 계층화(level-stratified) 목표에 대해 등급화 사전분포(prior)와 그 부재 사이의 minimax 분리를 증명한다. 모든 추정량(estimator)에 걸쳐, 등급화된 목표 클래스와 균일 목표 클래스의 위험(risk)은 명시적인 표본 크기(sample size) 구간 전체에서 분리되며, 기하학적 계층화(geometric stratification) 하에서 수준(level) 수에 대해 지수적으로 감쇠하는 인자만큼 분리된다. 두 프로파일 모두 오프라인으로 추정 가능하므로, 최적 등급은 학습이 시작되기 전에 검증된 볼록 프로그램(convex program)을 풀어 구한다. 등급화는 학습 후 학습된 파라미터에 흡수되므로, 모든 GLLM은 동일한 아키텍처와 추론 복잡도를 갖는 표준 트랜스포머로 컴파일된다.
언어 재생성: 재구성에 대한 정보 국소성 효과 탐구
Language Re-generation: An investigation into information locality effects on reconstruction
정보 국소성(information locality)은 구문적으로 관련된 단어들이 서로 가까이 나타나는 경향으로, 인간의 언어 처리와 언어 모델 학습 모두에 영향을 미친다. 언어 모델이 불가능한 언어(impossible language)를 습득할 수 있는지에 대한 선행 연구가 있었지만, 언어 모델이 그러한 입력으로부터 자연어를 복원할 수 있는지, 그리고 이것이 언어 모델의 귀납적 바이어스에 대해 무엇을 드러내는지는 아직 불분명하다. 우리는 학습 가능성 기반 접근법을 재구성 프레임워크로 보완함으로써 이 문제를 다룬다: 불가능한 언어로 사전학습된 GPT-2 모델을 미세조정하여 세 가지 유형의 교란(perturbation)으로부터 자연스러운 영어를 재구성한다. 우리의 결과에 따르면, 복원된 구조는 원본 텍스트보다 짧은 의존성 길이(dependency length)를 나타내며, 이는 제약 없는 언어 모델 생성에서 관찰되는 국소성 선호를 반영하고 학습 가능성 실험만으로는 드러나지 않는 아키텍처 바이어스의 정량적 특징을 제공한다. 복원 난이도는 국소성 교란의 정도에 따라 증가한다. 구조적 복원(의존성 Triple F1)은 표면적 복원(정확 일치)과 분리되며, 전역 셔플링(global shuffling) 하에서 유창성은 충실한 재구성과 분리된다. 문장 길이는 성능을 추가로 조절하는데, 긴 문장은 지역 구조가 보존될 때 복원을 촉진하지만 전역 셔플링 하에서는 완전한 붕괴를 초래한다. 마지막으로, 복원 난이도는 교란 유형 전반에 걸쳐 학습 가능성 난이도를 추적하며, 이는 정보 국소성이 두 현상 모두를 지배하는 공통 제약임을 시사한다.
음성-텍스트 언어 모델에서 생성 모달리티 간극 정량화
Quantifying the Generation Modality Gap in Speech-Text Language Models
순수 음성 언어 모델(speech language model)은 일관성 있는 콘텐츠를 생성하는 데 있어 텍스트 및 음성-텍스트 언어 모델에 비해 뒤처지는 경우가 많지만, 음성과 텍스트 시스템이 일반적으로 서로 다른 지표로 평가되고 서로 다른 데이터로 학습(training)되기 때문에 이러한 간극을 정량화하기는 어렵습니다. 본 연구에서는 연속적인 음향 특징(feature) 생성을 위한 플로우 매칭(flow matching)을 기반으로 하는 일련의 음성 언어 모델 계열에서 음성-텍스트 모달리티 간극(modality gap)을 연구합니다. 일치된 데이터 분포에서 학습되고 일치된 생성 환경에서 평가되는 음성 전용, 텍스트 전용, 음성-텍스트 언어 모델을 비교하는 통합 생성 기반 평가 스위트를 구축합니다. 생성된 음성을 전사하고 참조 언어 모델로 점수를 매겨 측정한 의미론적 일관성(semantic coherence), 음소 n-그램 분포 통계로 측정한 국소적 음소 구조, 화자 일관성 및 음향 품질, 감정 기반 분포 지표 등 여러 차원에 걸쳐 생성된 연속 발화를 평가합니다. 데이터셋 전반에 걸쳐 음성-텍스트 결합 모델링이 의미론적 일관성을 크게 향상시킨다는 점을 확인했습니다. 그러나 이러한 개선이 모든 지표에서 균일하지는 않습니다. 음소 수준 지표는 미미하게만 변화하고, 음성-텍스트 연속 생성물에서 화자 유사도와 예측 품질은 더 낮은 반면 감정 기반 분포 지표는 향상됩니다. 더 큰 규모의 음성 전용 모델과 비교할 때, 제안하는 음성-텍스트 모델은 전사 기반 의미론적 일관성에서 스케일링(scaling) 격차의 상당 부분을 좁히며, 이는 텍스트가 음성 언어 모델링에 효율적인 의미론적 학습 신호를 제공함을 시사합니다.
PACE-dLLM: 확산 언어 모델을 위한 신뢰도 절벽 추정 기반 탄력적 블록 디코딩
PACE-dLLM: Elastic Block Decoding via Confidence Cliff Estimation for Diffusion Language Models
LLaDA와 Dream 같은 확산 언어 모델(dLLM)은 생성 품질에서 자기회귀(AR) LLM과 경쟁할 수준이 되었으며, 기본적으로 병렬 디코딩을 지원한다. 표준적인 가속 전략은 블록 단위 디코딩으로, 각 순전파에서 길이 B의 블록을 예측하고 신뢰도가 높은 토큰을 확정한다. 신뢰도 임계값 기반 확정은 어떤 토큰을 수용할지를 적응시키지만, 고정된 B는 여전히 예측 범위를 제한한다. 기존의 호라이즌 정책은 수동으로 정한 크기, 변동성 통계, 또는 후보 경계 점수를 사용한다. 이에 반해 우리는 모델 자체의 단계별 신뢰도를 사용한다. 윈도우 내 신뢰도는 대체로 문맥에 의존적인 절벽(cliff) 형태를 따르며, 이는 선행 호라이즌을 적응시키기 위한 직접적인 신호를 제공한다. 본 연구에서는 이 매개변수화된 절벽을 닫힌 형태로 주기적으로 다시 적합하고, 공유된 신뢰도 앵커에서 다음 호라이즌을 설정하며, 신뢰도 임계값 기반 토큰 확정을 유지하는 PACE-dLLM을 제안한다. iid이며 정책과 무관한 단조 프로파일을 갖는 포화 수율 추상화 하에서, 오라클 호라이즌은 최대 패스당 수율을 달성하는 가장 작은 값이며, 고정 블록이 양의 확률로 이에 미달할 때 점근적 순전파 비율을 개선한다. 두 개의 오픈소스 dLLM 백본에 대한 네 가지 추론 및 코드 벤치마크에서, PACE-dLLM은 평가된 디코더 중 두 백본 모두에서 가장 높은 평균 정확도를 달성하며, 가속하지 않은 반자기회귀 기준선 대비 LLaDA에서 평균 5.23배, Dream에서 3.06배(LLaDA MATH에서 최대 8.52배)의 처리량 향상을 얻어 품질–처리량 파레토 경계를 진전시킨다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.