PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.06324v5cs.CL

주변분포에서 결합분포로 가는 티켓: 확산 언어 모델의 1단계 블록 생성을 위한 결합 노이즈 증류

A Ticket from Marginals to Joints: Coupled-Noise Distillation for One-Step Block Generation in Diffusion Language Models

확산 언어 모델(diffusion language model)은 단 한 번의 순전파(forward pass)로 일관된 토큰 블록을 생성할 수 있을까요? 마스크 기반 모델은 이미 모든 위치를 한 번에 예측하지만, 각 예측은 가시적 컨텍스트가 주어졌을 때의 주변분포(marginal distribution)이므로 토큰들이 상호 불일치할 수 있으며 후속 단계에서 이미 확정된 토큰을 수정하게 됩니다. 본 연구에서는 서로 다른 노이즈 샘플을 서로 다른 일관된 블록에 매핑하도록 처음부터 학습(train from scratch)된 CONDOR(Coupled-Noise Distillation for One-Step Readout)를 소개합니다. 초기에는 무작위 노이즈가 목표와 자연스럽게 짝지어지지 않습니다. 승자독식(Winner-take-all) 지도 방식을 통해 서로 다른 샘플이 전문화되도록 하며, 자체 증류(self-distillation)를 통해 1회 순전파 출력이 정제된 일관된 블록과 일치하도록 학습합니다. TinyStories 실험에서는 각각 한 번의 순전파만으로 연속적인 블록에 걸쳐 다양하고 일관된 이어 생성을 보여줍니다. 정성적 MNIST 실험을 통해서는 동일한 접근 방식이 텍스트-이미지 생성 및 무조건적 텍스트-이미지 생성과 같은 멀티모달 생성으로 확장될 수 있음을 보여줍니다.

arXiv:2605.29123v2cs.AI

신뢰도 지름길: 마스크 확산 모델의 추론 실패 모드

The Confidence Shortcut: A Reasoning Failure Mode of Masked Diffusion Models

사고의 연쇄(Chain-of-Thought) 추론은 자기회귀 모델이 이후 예측을 뒷받침하는 중간 단계를 생성함으로써 복잡한 문제를 해결하도록 돕습니다. 마스크 확산 모델(MDM)은 임의 순서 생성을 통해 유사한 기회를 제공하며, 이상적으로는 논리적 의존성에 따라 중간 결과를 드러낼 수 있습니다. 그러나 실제로는 표준 디코딩이 단순히 높은 신뢰도(confidence)를 가진 토큰을 우선시하며, 이는 이러한 의존성 순서와 일치할 필요가 없습니다. 본 연구에서는 이러한 불일치를 모델이 장거리 의존성을 무시한 채 그럴듯한 토큰에 높은 확신을 가지고 전념하는 '신뢰도 지름길(confidence shortcut)'로 규정합니다. 예를 들어 다자리수 덧셈에서 모델은 긴 연쇄를 거치는 자리올림(carry)을 제대로 추적하지 않고 고차 자리 숫자를 예측합니다. 다양한 추론 작업 전반에 걸친 통제된 사전학습(pre-training) 실험을 통해 신뢰도 기반 순서 지정이 차선의 순서를 선택하는 경우가 많으며, 신뢰도에 맞춘 학습(training) 방식이 이러한 실패를 악화시킬 수 있음을 확인했습니다. 일례로 덧셈 오류율이 한 자릿수(order of magnitude) 증가했습니다. 본 연구 결과는 생성 순서를 선택할 때 신뢰도에만 의존하는 것과 이러한 선호를 강화하는 학습 목표에 대해 주의를 당부합니다. 실험 코드는 https://github.com/jinha2536/mdm-arithmetic 에서 확인할 수 있습니다.