DLM-One: 단일 스텝 시퀀스 생성을 위한 확산 언어 모델
DLM-One: Diffusion Language Models for One-Step Sequence Generation
한국어 초록
본 논문은 연속 확산 언어 모델(DLM)을 이용한 단일 스텝 시퀀스 생성을 위한 스코어 증류(score distillation) 기반 프레임워크인 DLM-One을 소개한다. DLM-One은 순방향 확산된 노이즈 공간에서 학생 모델 출력의 스코어를 사전학습된 교사 DLM의 스코어 함수와 정렬함으로써 반복적 정제 과정을 제거한다. 우리는 이 프레임워크가 아키텍처에 구애받지 않으며, 표준 토큰 임베딩 공간과 로짓 심플렉스(logit simplex) 공간을 포함한 다양한 연속 매니폴드에서 견고함을 보인다. 여러 대표적인 DLM에 대한 실험을 통해, DLM-One이 벤치마크 텍스트 생성 과제에서 경쟁력 있는 성능을 유지하면서 샘플링 스텝 수 기준 최대 약 2000배, 실제 소요 시간(wall-clock time) 기준 약 500배의 속도 향상을 달성함을 보인다. 또한 언어 도메인 확산 증류에서의 실패 양상을 분석하고, 학생 모델의 퇴화(degeneration)를 방지하기 위한 적대적 정규화 기반의 2단계 학습 방식을 제안한다. 본 연구 결과는 단일 스텝 스코어 증류가 자연어 처리를 위해 연속 공간에서 동작하는 연속 확산 모델을 효율적으로 배포하기 위한 실현 가능한 방안임을 시사한다.
원문 초록
This paper introduces DLM-One, a score-distillation-based framework for one-step sequence generation with continuous diffusion language models (DLMs). DLM-One eliminates iterative refinement by aligning the scores of a student model's outputs with the score function of a pretrained teacher DLM in the forward-diffused noisy space. We demonstrate that our framework is architecture-agnostic and robust across diverse continuous manifolds, including standard token embedding spaces and logit simplex spaces. Through experiments on multiple representative DLMs, we show that DLM-One achieves up to $\sim$2000$\times$ speedup in sampling steps and $\sim$500$\times$ in wall-clock time, while maintaining competitive performance on benchmark text generation tasks. We further analyze failure modes in language-domain diffusion distillation and propose an adversarially-regularized two-stage training scheme to prevent student degeneration. Our findings position one-step score distillation as a viable path for the efficient deployment of continuous diffusion models operating in continuous space for natural language processing.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2506.00290v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.