디퓨전 MLLM의 두 가지 시계: 추론 근거가 전개되기 전에 답변이 안정화되는 시점
Two Clocks in Diffusion MLLMs: When Answers Stabilize Before Rationales Unfold
마스크드 디퓨전(masked diffusion) MLLM에서 답변 후보는 그 추론 근거(rationale)가 여전히 전개되는 동안에도 안정화될 수 있습니다. 본 연구에서는 기록된 후보의 사후적(retrospective) 안정화와 토큰 확정(token commitment)을 구분하고, 근거 생성과 관련하여 이 두 가지 시계를 조사합니다. 세 가지 시각적 질의응답 벤치마크 전반에서 결과를 분석한 결과, 단일 블록 및 EOS 억제 설정의 LaViDa 실행 시 안정화 시점에서 근거 측 캔버스의 89.4~98.1%가 작성되지 않은 채로 남아 있음을 발견했습니다. V*Bench에서는 블록 길이를 128에서 8로 줄임에 따라 답변 커버리지 및 관찰 가능 윈도우와 함께 이 비율이 89.4%에서 1.7%로 변화합니다. EOS 활성화 프롬프팅 환경에서 직접적인 지시사항은 M3CoT 및 ScienceQA에서 Nemotron의 전체 정확도를 각각 15.0 및 19.5%포인트 향상시키지만, LaViDa/V*Bench 정확도는 11.0%포인트 감소시킵니다. 대칭적 분해 분석을 통해 각 변화에서 더 큰 절대적 구성 요소가 조건부 정확도보다는 커버리지와 관련됨을 보였습니다. 캔버스를 일치시킨 이미지 어블레이션(ablation)은 답변 안정화와 함께 시각적 민감도를 측정하여 두 시간적 판독값을 분리합니다. 종합적으로, 이러한 측정들은 답변 안정화, 근거 전개, 시각적 민감도를 명확히 구분하며, 프롬프팅 차이에서 더 큰 비중을 차지하는 요소가 커버리지임을 규명합니다.