arXiv:2506.00290v2 cs.CL

DLM-One: 단일 스텝 시퀀스 생성을 위한 확산 언어 모델

DLM-One: Diffusion Language Models for One-Step Sequence Generation

Tianqi Chen, Shujian Zhang, Mingyuan Zhou

제출 2025-05-30

한국어 초록

본 논문은 연속 확산 언어 모델(DLM)을 이용한 단일 스텝 시퀀스 생성을 위한 스코어 증류(score distillation) 기반 프레임워크인 DLM-One을 소개한다. DLM-One은 순방향 확산된 노이즈 공간에서 학생 모델 출력의 스코어를 사전학습된 교사 DLM의 스코어 함수와 정렬함으로써 반복적 정제 과정을 제거한다. 우리는 이 프레임워크가 아키텍처에 구애받지 않으며, 표준 토큰 임베딩 공간과 로짓 심플렉스(logit simplex) 공간을 포함한 다양한 연속 매니폴드에서 견고함을 보인다. 여러 대표적인 DLM에 대한 실험을 통해, DLM-One이 벤치마크 텍스트 생성 과제에서 경쟁력 있는 성능을 유지하면서 샘플링 스텝 수 기준 최대 약 2000배, 실제 소요 시간(wall-clock time) 기준 약 500배의 속도 향상을 달성함을 보인다. 또한 언어 도메인 확산 증류에서의 실패 양상을 분석하고, 학생 모델의 퇴화(degeneration)를 방지하기 위한 적대적 정규화 기반의 2단계 학습 방식을 제안한다. 본 연구 결과는 단일 스텝 스코어 증류가 자연어 처리를 위해 연속 공간에서 동작하는 연속 확산 모델을 효율적으로 배포하기 위한 실현 가능한 방안임을 시사한다.

원문 초록

This paper introduces DLM-One, a score-distillation-based framework for one-step sequence generation with continuous diffusion language models (DLMs). DLM-One eliminates iterative refinement by aligning the scores of a student model's outputs with the score function of a pretrained teacher DLM in the forward-diffused noisy space. We demonstrate that our framework is architecture-agnostic and robust across diverse continuous manifolds, including standard token embedding spaces and logit simplex spaces. Through experiments on multiple representative DLMs, we show that DLM-One achieves up to $\sim$2000$\times$ speedup in sampling steps and $\sim$500$\times$ in wall-clock time, while maintaining competitive performance on benchmark text generation tasks. We further analyze failure modes in language-domain diffusion distillation and propose an adversarially-regularized two-stage training scheme to prevent student degeneration. Our findings position one-step score distillation as a viable path for the efficient deployment of continuous diffusion models operating in continuous space for natural language processing.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2506.00290v2제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.