arXiv:2605.29123v2 cs.AI

신뢰도 지름길: 마스크 확산 모델의 추론 실패 모드

The Confidence Shortcut: A Reasoning Failure Mode of Masked Diffusion Models

Dueun Kim, Albert No

제출 2026-05-27

한국어 초록

사고의 연쇄(Chain-of-Thought) 추론은 자기회귀 모델이 이후 예측을 뒷받침하는 중간 단계를 생성함으로써 복잡한 문제를 해결하도록 돕습니다. 마스크 확산 모델(MDM)은 임의 순서 생성을 통해 유사한 기회를 제공하며, 이상적으로는 논리적 의존성에 따라 중간 결과를 드러낼 수 있습니다. 그러나 실제로는 표준 디코딩이 단순히 높은 신뢰도(confidence)를 가진 토큰을 우선시하며, 이는 이러한 의존성 순서와 일치할 필요가 없습니다. 본 연구에서는 이러한 불일치를 모델이 장거리 의존성을 무시한 채 그럴듯한 토큰에 높은 확신을 가지고 전념하는 '신뢰도 지름길(confidence shortcut)'로 규정합니다. 예를 들어 다자리수 덧셈에서 모델은 긴 연쇄를 거치는 자리올림(carry)을 제대로 추적하지 않고 고차 자리 숫자를 예측합니다. 다양한 추론 작업 전반에 걸친 통제된 사전학습(pre-training) 실험을 통해 신뢰도 기반 순서 지정이 차선의 순서를 선택하는 경우가 많으며, 신뢰도에 맞춘 학습(training) 방식이 이러한 실패를 악화시킬 수 있음을 확인했습니다. 일례로 덧셈 오류율이 한 자릿수(order of magnitude) 증가했습니다. 본 연구 결과는 생성 순서를 선택할 때 신뢰도에만 의존하는 것과 이러한 선호를 강화하는 학습 목표에 대해 주의를 당부합니다. 실험 코드는 https://github.com/jinha2536/mdm-arithmetic 에서 확인할 수 있습니다.

원문 초록

Chain-of-thought reasoning helps autoregressive models solve complex problems by generating intermediate steps that support later predictions. Masked diffusion models (MDMs) offer a similar opportunity through arbitrary-order generation: they can ideally reveal intermediate results along logical dependencies. In practice, however, standard decoding simply prioritizes high-confidence tokens, which need not align with this dependency order. We identify this discrepancy as the \emph{confidence shortcut}: models commit with high certainty to plausible tokens while neglecting long-range dependencies. In multi-digit addition, models predict higher-order digits without properly tracking carries through long chains. Controlled pretraining across diverse reasoning tasks confirms that confidence-guided ordering often selects suboptimal sequences, and confidence-aligned training schemes can exacerbate these failures---for example, increasing addition error rates by an order of magnitude. Our findings caution against relying solely on confidence to choose generation orders and against training objectives that reinforce this preference. The experimental code is available at https://github.com/jinha2536/mdm-arithmetic.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2605.29123v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13834v1cs.LG공통 태그 Language Modelling, Text Generation

연속 확산 언어 모델의 설계 공간에 관한 연구

On the Design Space of Continuous Diffusion Language Models

연속 확산 언어 모델(CDLM)은 빠른 샘플링 및 제어 가능한 생성을 포함하여 연속 흐름 모델링의 이점을 언어 영역에 가져올 것으로 기대를 모으고 있습니다. 이 분야는 빠르게 발전해 왔으며, CDLM의 성능은 이산 확산 모델과 견줄 만한 수준에 이르기 시작했습니다. 그러나 이미지나 비디오와 같은 연속 양식(modality)과 달리, CDLM을 학습(training)할 때 중요한 핵심 요인(lever)에 대한 우리의 이해는 여전히 제한적입니다. 본 연구에서는 이러한 요인 중 두 가지, 즉 자기 조건화(self-conditioning)와 임베딩(embedding) 기하학에 주목하고 그 이면의 메커니즘을 밝혀내어, 비용 효율적이고 더욱 효과적인 설계를 제안합니다. 먼저, 자기 조건화가 학습 과정에서는 드물게 나타나는 추론(inference) 유사 상태에 모델을 노출시킴으로써 학습과 추론 간의 불일치를 바로잡는다는 점을 보입니다. 이러한 성능 향상은 추가적인 순전파(forward pass) 없이 2단계 보간기(interpolant)인 $\mathrm{DoubleCat}$을 통해 회복될 수 있으며, 이는 TinyGSM 정확도를 세 배 이상 향상시킵니다. 또한 자기 조건화는 큰 노름(norm)의 가우시안에 지배되는 토큰을 인식하는 데도 도움을 주는데, 이는 토큰 식별 가능성(token identifiability)으로 알려진 문제입니다. 이를 직접 해결하기 위해 $\mathrm{DoubleCat}$에 이산적 공개(discrete reveals)를 도입한 $\mathrm{SemiCat}$을 제안하며, 이는 표준 학습 하이퍼파라미터와 튜닝된 샘플러를 사용하여 TinyGSM에서 $49.94\%$를 달성해 이산 확산 수준의 성능을 달성합니다. $1.7$B 규모에서 $\mathrm{SemiCat}$은 6개의 가능도(likelihood) 기반 평가 중 4개에서 이산 확산을 능가하며, 무조건부 생성에서는 원-핫 흐름(one-hot flows)을 능가합니다. 임베딩 공간에서 교차 엔트로피(cross-entropy)는 디코딩 오류율이 원-핫 방식과 밀접하게 일치하는 기하학적 구조로 임베딩을 유도한다는 사실을 발견했습니다. 나아가 비동기 노이즈 스케줄을 포함한 하이브리드 손상 과정 및 노이즈 스케줄 등 다양한 추가 옵션을 간략히 탐험합니다. 본 연구의 탐험이 연구 커뮤니티가 CDLM의 설계 공간을 더 잘 이해하고 발전시키는 데 기여할 것으로 기대합니다.

arXiv:2610.10623v1cs.LG공통 태그 Language Modelling, Math

순환적 자기 개선: 루프 언어 모델을 위한 동적 크로스-루프 온-정책 증류

Recurrent Self-Improvement: Dynamic Cross-Loop On-Policy Distillation for Looped Language Models

루프 언어 모델(LoopLM)은 순환 계산 단계 전반에 걸쳐 공유 매개변수(parameter)를 재사용함으로써 추론을 스케일링하는 매개변수 효율적인 접근 방식을 제공합니다. 이러한 유망성에도 불구하고, LoopLM의 효과적인 사후 학습(post-training)은 여전히 어렵습니다. 기존 접근 방식들은 루프 전반으로 확장하기에 희소하거나 비용이 많이 드는 보상(reward) 기반 감독을 제공하거나, 외부 교사 또는 특권 정보에 의존하여 교사의 가용성이 제한되거나 교사-학생 간 문맥 불일치를 초래합니다. 이러한 한계를 해결하기 위해, 본 논문에서는 LoopLM 내의 추가적인 순환 계산을 자체 감독의 원천으로 활용하는 크로스-루프 온-정책(on-policy) 지식 증류(distillation) 프레임워크인 LoopOPD를 소개합니다. LoopOPD는 동결된 최종 루프 정책을 학생 생성 롤아웃에 대한 중간 루프 학생의 계산 특권 교사로 활용하여, 외부 교사나 특권 정보 없이도 조밀한 감독을 제공합니다. 더 나아가 공유 모델 매개변수가 업데이트됨에 따라 최종 루프 교사를 지속적으로 갱신하여 순환적 자기 개선을 가능하게 하는 Dynamic LoopOPD(D-LoopOPD)를 제안합니다. 본 논문에서는 증류 업데이트가 루프 깊이 전반에 걸쳐 어떻게 전파되는지 특성화하고, 단일 업데이트가 두 루프 깊이 모두에서 동시적인 국소 개선을 도출하는 충분조건을 유도합니다. Ouro-Thinking 모델을 대상으로 한 실험에 따르면 LoopOPD는 수학적 추론을 향상시키며, D-LoopOPD는 동적 교사 업데이트를 통해 추가적인 성능 향상을 달성합니다. 수학 데이터로만 학습(training)되었음에도 불구하고, 결과 모델은 일반 추론 및 코드 생성 벤치마크에서도 향상된 성능을 보여 순환 계산이 LoopLM의 효과적인 감독 원천으로 기능할 수 있음을 입증합니다. 코드와 모델 체크포인트는 논문 채택 시 공개될 예정입니다.

arXiv:2610.02359v1cs.LG공통 태그 Language Modelling, Math

사전식 다중 목적 온-정책 증류

Lexicographic Multi-Objective On-Policy Distillation

검증 가능한 보상 기반 강화학습(RLVR)은 일반적으로 정답의 정확성을 최적화하지만, 유용한 언어 모델 동작을 위해서는 고품질의 추론과 간결한 응답 또한 필요합니다. 기존의 다중 보상 사후 학습(post-training) 방법들은 대개 보상을 스칼라화하거나 명시적인 보상 우선순위를 보호하지 않고 전문가 모델들을 결합합니다. 이는 트레이드오프가 비대칭적일 때 문제가 됩니다. 예를 들어 간결성을 개선하기 위해 정확성을 희생해서는 안 됩니다. 본 논문에서는 명시적인 우선순위 하에서 보상 특화 정책들을 통합하기 위한 다중 교사 방법인 사전식 다중 목적 온-정책 증류(LMOPD)를 소개합니다. 학생 모델의 각 롤아웃(rollout)에 대해, LMOPD는 게이트가 결함을 감지한 첫 번째 목적의 전문가를 선택한 다음, 더 높은 우선순위의 전문가와 상충하는 구성 요소를 제거하도록 중심화된 로그-정책 보정을 국소적으로 투영합니다. 저자들은 3개의 수학 벤치마크에서 2개 및 4개 전문가 설정의 30B-A3B 전문가 혼합(MoE) 트랜스포머 모델을 평가하여 유지된 전문가 성능 향상을 측정합니다. 2개 전문가 설정에서 LMOPD의 점 추정치는 정확도와 추론 품질 향상을 온전히 유지하면서 간결성 향상의 $46.9\%$를 확보합니다. 4개 전문가 설정에서는 차상위 기준선(baseline)이 $\approx57\%$에 그친 것에 비해 정확도 향상과 추론 정확성 향상을 모두 $\approx90\%$ 유지합니다. 동일 조건의 4개 전문가 어블레이션 연구는 사전식 라우팅이 무작위 라우팅보다 우수하며 투영이 최우선 역량을 더욱 강화함을 보여줍니다. 두 규모 모두에서 LMOPD는 평가된 기존 기준선보다 최우선 역량을 더 효과적으로 보존하여 전문가 통합에서 명시적 우선순위의 가치를 입증합니다.

arXiv:2610.03326v1cs.AI공통 태그 Language Modelling, Math

궤적 인식 저순위 근사를 통한 압축된 확산 언어 모델의 수학적 추론 능력 보존

Preserving Mathematical Reasoning in Compressed Diffusion Language Models via Trajectory-Aware Low-Rank Approximation

확산 언어 모델(dLLM) 압축은 캘리브레이션(calibration)이 일반적으로 노이즈가 없는 완전히 가시적인 활성화에서 수행되는 반면, 추론(inference)은 부분적으로 마스킹된 중간 상태들을 거친다는 잘 알려진 과제에 직면합니다. 저순위(low-rank) 압축의 경우, 이는 두 가지 질문을 제기합니다. 첫째, 근사 품질을 궤적 분포 상태 전반에서 측정할 때도 저순위 최적성을 여전히 규명할 수 있는가? 둘째, 캘리브레이션 상태의 선택이 압축 시 수학적 추론 보존에 영향을 미치는가? 본 연구에서는 손상 수준(corruption levels)과 마스킹 실현 전반에 걸친 궤적 인식 저순위 목적식을 정식화하여 이러한 질문을 해결합니다. 이 목적식을 효율적으로 추정하기 위해, 몬테카를로 샘플링을 통해 궤적 2차 모멘트를 추정하고 정확한 표본 상태 최적성 및 모집단 일관성을 산출하는 Traj-MC를 제안합니다. 동일한 압축 예산 하에서, 궤적 인식 캘리브레이션은 생성 궤적 전반의 재구성을 개선하며, 수학적 추론 벤치마크에서 클린 캘리브레이션 대비 훨씬 더 많은 수학적 추론 능력을 보존합니다. 본 연구 결과는 궤적 인식 저순위 최적성을 dLLM 압축 후 유지되는 추론 능력과 연결합니다. 코드는 https://github.com/Zishan-Shao/traj-mc.git 에서 확인할 수 있습니다.

arXiv:2607.22629v3cs.AI공통 태그 Language Modelling, Math

마스크 자기 증류: 언어 모델 내 사고의 연쇄 내재화

Masked Self-Distillation: Internalizing the Chain-of-Thought in Language Models

대규모 추론 모델은 추론(inference) 시점에 최종 답변을 생성하기 전에 중간 단계들의 길고 명시적인 연쇄를 생성합니다. 최종 답변의 정확성이 중간 추적(trace)의 정확성과 인과적으로 연결되어 있지 않고 추적 길이가 문제의 복잡성을 나타내는 신뢰할 만한 지표가 아님에도 불구하고, 이러한 중간 추적은 지연 시간, 메모리 사용량 및 서빙 비용의 대부분을 차지합니다. 이는 자연스럽게 다음과 같은 질문을 제기합니다. 이러한 중간 토큰에 표현된 계산을 언어 모델의 파라미터 내부로 내재화하여 훨씬 더 짧은 중간 추적만으로 답변을 생성하도록 만들 수 있을까요? 본 논문에서는 동일한 모델의 복제본을 교사 모델과 학생 모델(student model)로 인스턴스화하고, 학생 모델이 중간 추적의 전체 또는 일부를 내재화하도록 학습(training)시켜 추론 효율성을 높이는 지식 증류(knowledge distillation) 기반 사후 학습(post-training) 프레임워크인 마스크 자기 증류(masked self-distillation)를 제안합니다. 우리는 학생 모델이 내재화하도록 학습되는 중간 추적의 비율을 변화시키며, 완전한 내재화와 무내재화 사이를 보간합니다. 수학 및 그래프 색칠하기라는 두 가지 추론 영역에서 통제된 실험을 수행하였으며, 마스크 자기 증류 프레임워크를 사용하여 Qwen3-4B 및 8B 모델을 사후 학습시켰습니다. 실험 결과는 이 방법이 다양한 도메인과 모델 크기 전반에서 추론 효율성을 높이는 동시에 작업 성능을 향상시키는 데 사용될 수 있음을 보여줍니다. 또한 사후 학습된 모델에서 향상된 효율성 이득이 OOD(분포 외) 문제로 일반화되는지 체계적으로 분석합니다. 그 결과 마스크 자기 증류 모델은 도메인 내 OOD 문제에 대해 잘 일반화되며, 마스크 자기 증류 학습이 도메인 외 문제에서 학생 모델의 치명적 망각(catastrophic forgetting)을 유발하지 않음을 확인했습니다. 나아가 절제 연구(ablation study)를 통해 지도 미세조정(supervised fine-tuning) 역시 모델이 더 짧은 추적을 생성하도록 학습시킬 수 있지만 일반화 성능이 저하됨을 보임으로써, 마스크 자기 증류에서 온-정책(on-policy) 학습의 중요성을 강조합니다.

arXiv:2610.00047v1cs.AI공통 태그 Math, chain-of-thought reasoning

추론 시점 PRM 가지치기 파편 접목이 비활성인 구성의 특성 규명: 세 가지 추론 언어 모델(LM)을 통한 실증

Characterizing a Configuration Where Inference-Time PRM-Pruned Fragment Grafting Is Inert: Evidence from Three Reasoning LMs

병렬 사고의 연쇄(parallel Chain-of-Thought)에서 발생하는 다양성 붕괴(diversity collapse)는 자연스러운 설계를 기반으로 한 추론 시점 개입 방식을 촉발했습니다. 즉, 과정 보상 모델(PRM)이 체인을 가지치기(pruning)할 때 높은 PRM 점수를 받은 접두 문맥을 추출하여 여전히 디코딩 중인 형제 체인에 문맥 내 데모(in-context demonstration)로 그대로 접목하는 방식입니다. 본 연구에서는 궤적 간 단계 수준 전이(cross-trajectory step-level transfer)의 가장 비용 효율적인 구현체로서 PRM 가지치기 파편 접목(PPFG, PRM-Pruned Fragment Grafting) 메커니즘을 분리하고, 선행 파편 접목 연구들이 추가적인 보완 요소 하에서만 성능 향상을 보고했던 작동 지점에서 이를 테스트합니다. 전체 MATH500(n=500, 3개 시드)에서 Math-Shepherd와 결합한 Qwen2.5-7B-Instruct를 대상으로 평가한 결과, 정체 타깃팅 및 무작위 타깃팅 변형 PPFG 모두 측정된 모든 축에서 독립적인 병렬 CoT 기준선과 통계적으로 구별되지 않았습니다. 본 논문은 그 이유를 규명합니다. 322건의 정체 규칙 주입 이벤트를 4개 버킷으로 분류한 결과, 진정으로 어려움을 겪고 있는 체인을 타깃으로 삼은 경우는 14%에 불과했습니다. 나머지는 이미 성공했거나, 완료 직전이거나, 평평한 PRM 고원(plateau)에 머물러 있어 구원 접목으로 상태를 바꿀 수 없는 체인에 적용되었습니다. 어떠한 복합 게이트 정밀화도 잘 타깃팅된 발화와 적절한 밀도를 동시에 달성하지 못했으며, 무작위 대조군 역시 2.4배의 발화율에서도 동일한 동등성을 보여 이러한 비활성(inertness)이 특정 휴리스틱에 국한된 것이 아님을 확인했습니다. 이러한 발견은 3개의 기반 LM, 6개의 벤치마크, 두 번째 PRM, 호환성 게이트 탐색 전반에 걸쳐 재현되었으며, 양측 단측 검정(TOST) 분석을 통해 12개 Qwen/LLaMA 셀 모두에서 동등성이 통계적 동등성으로 확증되었습니다. 이벤트별 점검 결과 주입된 체인은 매칭 단계 대비 2.75배의 비율로 가지치기되지만, 생존 형제 반사실적 분석(surviving-sibling counterfactual)에서는 집단 수준의 보상이 발견되지 않았습니다. 사후 오라클(hindsight oracle)은 독립 방식 대비 PPFG 선택으로 인한 문제당 이득의 상한을 +0.13%p로 제한합니다. 본 연구는 모든 주장을 테스트된 작동 지점으로 범위를 한정하며, 추론 시점 메커니즘 영가설(nulls)을 확립하기 위한 동등성 검정 템플릿을 제공합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.