celeris.ai

이 이메일 도메인이 관측된 논문 1건

arXiv:2610.02657v1cs.LG

컨텍스트 타워 변환은 생성 성능을 보존하고 동결은 지식을 유지한다: MoE LLM의 저예산 AR-투-디퓨전 변환

Context-Tower Conversion Preserves Generation While Freezing Retains Knowledge: Low-Budget AR-to-Diffusion Conversion of MoE LLMs

사전학습된 자기회귀(AR) 모델을 디퓨전 언어 모델(dLLM)로 변환하면 새로운 모델을 사전학습하지 않고도 병렬 생성이 가능해진다. 기존에 발표된 변환 방법들은 학습 데이터 양에서 약 세 자릿수(1000배) 차이를 보이며, 공통된 프로토콜 하에서 비교된 적이 없다. 우리는 동일한 300억(30B) 매개변수 규모의 전문가 혼합(MoE) 부모 모델로부터 얻은 두 가지 변환 방식을 비교하며, 코퍼스, 지도 학습 토큰 예산, 학습 가능한 매개변수 집합, 평가 하니스(harness)는 고정한 채 각 방법은 고유한 학습 레시피를 따르도록 했다. 제자리(in-place) 모델은 디노이징(denoising) 및 표현 정렬(representation-alignment) 손실을 사용하여 부모 모델의 가중치 중 일부를 업데이트하는 반면, 동결 타워(frozen-tower) 모델은 부모 모델의 동결된 코잘(causal) 복사본에 대한 크로스 어텐션을 통해 조건화된다. 10억(1B)개의 학습 토큰을 사용했을 때, 동결 타워 모델은 HumanEval pass@10에서 71.60점을 기록한 반면 제자리 모델은 6.19점에 그쳤으며, 이는 11.6배의 성능 향상이다. 같은 예산에서 동결 타워 모델은 부모 모델의 GSM8K 점수의 95%와 MMLU-Pro 점수의 99%를 유지한다. 덴스(dense) 부모 모델을 사용한 실험에서도 HumanEval 점수 격차가 동일하게 재현되었다. 약 5억(500M) 토큰 규모에서 투 타워(two-tower) 구조 내에서는, 컨텍스트 타워를 동결했을 때가 학습시켰을 때보다 MMLU-Pro 성능을 상당히 더 많이 유지하는 반면, HumanEval 점수는 두 경우 모두 비슷하게 관찰되었다. 우리의 이론적 분석에 따르면, 두 변환 방식 모두 하드 어텐션 마스크(hard attention mask)와 라운드당 한 위치씩 왼쪽에서 오른쪽으로 확정하는 방식 하에서 AR 부모 모델에 대한 정확한 샘플러(exact sampler)를 포함한다. 동일한 손실 함수 하에서, 동결은 컨텍스트 상태(context states)를 통한 그래디언트 기여를 제거한다. 또한, 평가 프로토콜은 이미 발표된 5000억(500B) 토큰 규모의 변환 모델의 점수에 과제별로 양방향 모두 상당한 영향을 미치는 반면, 그 AR 부모 모델의 점수는 3점 미만의 차이만 보이므로, dLLM들을 비교하려면 공통된 프로토콜이 필요하다. 이러한 결과는 테스트된 저예산(low-budget) 환경에서 동결 타워 구성이 제자리 변환보다 부모 모델의 생성 성능을 상당히 더 많이 유지함을 보여준다.