arXiv:2611.21669v1 cs.CL

마스크 확산 생성을 조향하기 위한 제어 표면으로서의 토큰 확정

Token Commitment as a Control Surface for Steering Masked Diffusion Generation

Ambroise Aigueperse, Hugo Buurmeijer, Carmen Amo ALonso, Marco Pavone

제출 2026-11-18

한국어 초록

마스크 확산 모델은 샘플러가 어떤 예측을 영구적으로 확정할지 결정하기 전에 임시 토큰을 반복적으로 예측한다. 기존의 추론 시점 조향 방법은 주로 활성화, 로짓, 또는 노이즈 제거 궤적을 수정하며, 이러한 확정 정책은 고정된 디코딩 세부 사항으로 취급한다. 반면 본 논문은 토큰 확정을 확산 모델에 특화된 제어 표면으로 연구하고, 이를 어떤 토큰을 확정할 것인가와 각 단계에서 몇 개의 토큰을 확정할 것인가라는 두 가지 결정으로 분리한다. 첫 번째로, 모델 신뢰도와 한 토큰 제외(leave-one-token-out) 방식의 목표 기여도를 혼합하여 미확정 위치의 순위를 매기는 반사실적 목표 인식 확정을 제안한다. 두 번째로, 목표 진척도와 신뢰도에 따라 결정되는 보정된 적응형 예산을 제안한다. LLaDA 계열의 언어 및 비전-언어 설정, 여러 목표, 두 가지 활성화 조향 방법, 그리고 조향하지 않은 대조군에 걸쳐, 두 메커니즘 모두 평가한 모든 구성에서 경험적으로 단조로운 목표-품질 간 트레이드오프를 보인다. 또한 적응형 스케줄은 평균 노이즈 제거 비용을 맞춘, 점수기(scorer)가 없는 확률적 스케줄과 비교하여 경쟁력 있는 동작점을 회복한다. 두 메커니즘 모두 임시 완성문에 대해 평가된 스칼라 점수만 필요하므로, 목표가 출력 속성이 아니라 과제 성공의 자동 대리 지표일 때도 변경 없이 적용된다. 그 예로 대화 요약에는 NLI 함의를, 캡셔닝에는 CLIPScore를 사용하며, 이들 중 어느 것도 재사용 가능한 단일 조향 방향에 대응하지 않는다. 또한 두 번째 마스크 확산 계열인 Dream-7B에서 하나의 제어 목표와 하나의 과제 성공 목표에 대해 두 메커니즘의 동작을 재현한다. 이러한 결과는 어떤 임시 예측이 되돌릴 수 없게 되는지, 그리고 얼마나 빠르게 그렇게 되는지라는 확정을, 우리가 검증한 조건에서 마스크 확산 생성을 조향하기 위한 해석 가능한 제어 표면으로 규정한다.

원문 초록

Masked diffusion models repeatedly predict provisional tokens before a sampler decides which predictions become permanent. Existing inference-time steering methods primarily modify activations, logits, or denoising trajectories, while treating this commitment policy as a fixed decoding detail. We instead study token commitment as a diffusion-specific control surface and separate it into two decisions: which tokens to commit and how many tokens to commit at each step. For the first, we introduce counterfactual target-aware commitment, which ranks unresolved positions by a mixture of model confidence and leave-one-token-out target contribution. For the second, we introduce calibrated adaptive budgets driven by target progress and confidence. Across language and vision-language settings in the LLaDA family, multiple targets, two activation-steering methods, and an unsteered control, both mechanisms yield empirically monotonic target-quality trade-offs in every configuration we evaluate. Adaptive schedules also recover competitive operating points relative to scorer-free stochastic schedules matched in average denoising cost. Because both mechanisms require only a scalar score evaluated on a provisional completion, they apply unchanged when the target is an automatic proxy for task success rather than an output attribute: NLI entailment for dialogue summarization and CLIPScore for captioning, neither of which corresponds to a single reusable steering direction. We reproduce the behavior of both mechanisms on a second masked-diffusion family, Dream-7B, for one control target and one task-success target. These results characterize commitment--which provisional predictions become irreversible, and how rapidly--as an interpretable control surface for steering masked diffusion generation under the conditions we test.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.21669v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.