PyTorchKR Papers

최신 논문

총 18편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29164v2cs.LG

잠재 추론에 부족한 것은 신호가 아니라 불변성이다: 강건한 추론을 위한 부분공간 제약 정제

Latent Reasoning Does Not Lack Signal, It Lacks Invariance: Subspace-Constrained Refinement for Robust Reasoning

잠재 추론 모델은 임베딩 공간에서 다단계 추론을 수행하여 사고 사슬 추론의 토큰 오버헤드를 줄인다. 최근의 무학습 정제 방법들은 더 강한 참조 체크포인트와 더 약한 참조 체크포인트로부터 얻은 대조 신호를 사용해 잠재 궤적을 조향한다. 우리는 이러한 방법에서 취약성의 세 가지 원천, 즉 하이퍼파라미터 민감성, 참조 쌍 의존성, 입력 민감성을 규명한다. 우리는 보정을 안정적인 정제 부분공간에 제약하고 그 크기를 적응적으로 제어하는 무학습 프레임워크 궤적 불변 잠재 정제(Trajectory-Invariant Latent Refinement, TILR)를 제안한다. 첫째, 보정 집합 전반에 걸친 강-약 참조 차이로부터 스펙트럼적으로 집중된 부분공간을 추출하고, 대조 업데이트를 그 위로 사영하여 불안정한 변동을 걸러 낸다. 둘째, 적응형 게이트는 각 업데이트의 크기를 학습된 부분공간과의 정렬 정도에 따라 조절하여, 신뢰할 수 없는 보정을 억제하고 정렬이 낮을 때는 수정되지 않은 백본을 복원한다. 6개의 추론 벤치마크에서 TILR은 경쟁력 있는 정확도를 유지하면서 입력 교란과 참조 선택에 대한 강건성을 향상시킨다. Coconut 백본에서 TILR은 의미상 동등한 바꿔 쓰기에 대한 답변 일치도를 11.4% 높이고, 기존 정제 기준선 대비 잠재 궤적 분산을 약 30% 줄인다. 이러한 결과는 불변 부분공간이 재학습이나 역전파 없이 신뢰할 수 있는 잠재 정제를 위한 실용적 기반임을 뒷받침한다.

arXiv:2606.29712v2cs.CL

연속 잠재 변수와 씨름할 이유가 있는가? 렌더링 압축을 통한 해석 가능한 이산 잠재 추론

Why Struggle with Continuous Latents? Interpretable Discrete Latent Reasoning via Rendered Compression

대규모 언어 모델은 명시적 사고 사슬과 강화학습을 통해 높은 추론 성능을 달성하지만, 긴 출력 시퀀스와 긴 추론 시간을 필요로 한다. 잠재 추론은 계산을 잠재 공간으로 옮겨 이러한 비용을 줄이지만, 연속 잠재 방법은 학습이 어렵고 추론 궤적이 불안정하며 해석이 불가능하다는 문제가 있다. 우리는 이러한 문제가 연속 공간 추론과 이산 기호 지도 사이의 불일치에서 비롯된다고 주장하는데, 연속 상태에는 단계별 정렬을 위한 명시적 기준점이 없기 때문이다. 이를 해결하기 위해 연속 잠재 상태를 명시적인 이산 토큰으로 변환하는 최초의 방법인 \textbf{이산 잠재 추론(Discrete Latent Reasoning, DLR)}을 제안한다. 렌더링 기반 압축에서 착안하여, 텍스트 사고 사슬을 이미지로 렌더링하고 시각적 특징을 추출한 뒤, 군집화 기반 미세 조정을 통해 이산 잠재 어휘를 구성한다. 어휘와 출력 헤드를 확장하면 자연어와 잠재 토큰 모두에 대해 표준 자기회귀 모델링이 가능해지며, 사전학습 정렬, SFT, RL을 지원한다. 다섯 개의 추론 벤치마크와 두 모델 계열(Qwen3-VL 및 LLaMA-3)에 대한 실험에서 \textbf{DLR}이 최대 \textbf{20$\times$ 압축}에서 기존 잠재 추론 베이스라인을 능가함을 확인하였다. 또한 학습된 잠재 궤적은 해석 가능한 의미 구조를 유지한다. 종합하면, 이산 잠재 토큰은 효율적인 잠재 추론을 위한 제어 가능하고 해석 가능한 기반을 제공한다. 코드는 github.com/Miraclecsc/Discrete-Latent-Reasoning 에서 확인할 수 있다.

arXiv:2605.19376v5cs.AI

생성적 재귀 추론

Generative Recursive Reasoning

미래의 신경 추론 시스템은 확장된 계산을 어떻게 구현해야 하는가? 재귀 추론 모델(RRM)은 공유된 전이 함수로 반복적인 잠재 상태 정제를 수행함으로써 자기회귀적 시퀀스 확장에 대한 유망한 대안을 제공한다. 그러나 기존 RRM은 대체로 결정론적이어서 단일 잠재 궤적을 따라 단일 예측으로 수렴한다. 본 연구는 재귀적 잠재 추론을 확률적 다중 궤적 계산으로 전환하는 프레임워크인 Generative Recursive reAsoning Models(GRAM)를 소개한다. GRAM은 추론을 확률적 잠재 궤적으로 모델링하여, 다중 가설과 대안적 해결 전략, 그리고 재귀 깊이와 병렬 궤적 샘플링을 통한 추론 시점 확장을 가능하게 한다. 이는 $p_\theta(y \mid x)$를 통한 조건부 추론을 지원하고, 입력이 고정되거나 없는 경우 $p_\theta(x)$를 통한 무조건부 생성을 지원하는 잠재 변수 생성 모델을 만든다. 상각 변분 추론으로 학습된 GRAM은 구조화된 추론과 다중 해 제약 충족 과제에서 결정론적 순환 및 재귀 기준선을 능가하며, 무조건부 생성 능력도 보여준다. https://ahn-ml.github.io/gram-website

arXiv:2610.10996v1cs.LG

불변 측도 추론기: 잠재 추론을 위한 안정적 표현

Invariant-Measure Reasoners: Stable Representations for Latent Reasoning

잠재 추론(latent reasoning) 모델은 동일한 순환 블록(recurrent block)을 사용하여 잠재 상태(latent state)를 반복적으로 갱신한다. 순환 깊이(recurrent depth)가 증가함에 따라 잠재 상태의 수열은 고정점(fixed point)으로 반드시 수렴하지는 않으면서도 상태 공간의 한 콤팩트한 부분집합으로 수렴할 수 있다. 기존 모델들은 일반적으로 단일 잠재 상태에 예측 헤드(prediction head)를 적용하여 예측을 수행한다. 그러나 잠재 상태는 여러 번의 갱신 이후에도 계속 변화할 수 있으며, 이는 순환 깊이에 따라 예측이 불안정해질 가능성을 만든다. 이러한 불안정성을 해결하기 위해, 우리는 불변 측도(invariant measure)를 안정적 표현으로 사용하는 프레임워크인 불변 측도 추론기(invariant-measure reasoners, ImR)를 제안한다. 이 측도는 콤팩트한 부분집합 위에서 잠재 상태의 장기 분포(long-run distribution)를 나타내며, 순환 블록에 의한 갱신에 대해 불변이다. ImR은 이 측도 하에서 예측 헤드 출력의 기댓값으로부터 예측을 수행한다. 우리는 ImR을 두 가지 방식으로 사용한다: 기존 모델의 예측 헤드만을 미세조정(fine-tuning)하는 방식과 모델을 처음부터 학습(training)하는 방식이다. 두 방식 모두 미로(maze) 및 스도쿠(Sudoku) 과제에서 많은 설정에서 예측 불안정성을 줄이고 정확도를 향상시킨다. 일부 설정에서는 ImR로 학습된 모델이 기존 모델보다 비고정점(non-fixed-point) 행동을 더 자주 보이면서도, 기존 모델과 달리 그러한 행동에서도 높은 정확도를 달성한다. 이러한 결과는 ImR이 그렇지 않았다면 불안정화를 유발했을 동역학(dynamics)을 잠재 추론에 활용할 수 있음을 시사한다.

arXiv:2610.10563v1cs.CV

SLVR: 인간과 유사한 추론 흐름을 통한 구조화된 잠재 시각적 추론

SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows

멀티모달 대규모 언어 모델(MLLM)은 과제와 관련된 시각적 증거보다 언어적 사전 확률에 의존하여 시각적 추론 질문에 답하는 경우가 많습니다. 텍스트 기반 사고의 연쇄(Chain-of-Thought, CoT) 추론은 모델이 시각적 질문을 중간 증거 탐색 단계로 분해하도록 유도하여 이 문제를 부분적으로 완화할 수 있지만, 이러한 단계를 자기회귀적(autoregressively)으로 생성하면 추론(inference) 비용이 증가합니다. 잠재 추론(latent reasoning)은 명시적인 근거 생성을 피하지만, 기존 접근법은 중간 상태가 인코딩하는 정보에 대한 제어가 제한적이어서 계획(planning), 그라운딩(grounding), 증거 선택에 대한 개별적인 지도(supervision)를 적용하기 어렵습니다. 본 논문에서는 멀티모달 추론을 계획, 그라운딩, 증거 선택, 추론 통합을 위한 유형화된 잠재 단계로 구성함으로써 명시적 사고의 연쇄와 잠재 추론을 연결하는 학습(training) 프레임워크인 SLVR(Structured Latent Visual Reasoning)을 제안합니다. SLVR은 먼저 정답을 드러내는 텍스트를 마스킹하고 정답을 시각적으로 그럴듯한 오답과 대조함으로써 모델이 이미지에 의존하도록 학습시킵니다. 그런 다음 추론을 계획, 그라운딩, 증거 선택, 통합을 위한 잠재 단계로 구성하고, 각 단계를 그에 대응하는 신호인 계획, 바운딩 박스, 시각적 증거, 최종 근거로 지도합니다. 이를 통해 추론 시점에 생성되는 텍스트 체인을 피하면서도 잠재 추론에 명시적인 기능적 구조를 부여합니다. Qwen2.5-VL-7B를 기반으로 구축된 SLVR은 멀티모달 추론 벤치마크 전반에서 일관된 성능 향상을 보였으며, MMVP에서 +9.4, BLINK Relation에서 +14.2의 절대적 향상을 기록했을 뿐만 아니라 V*, MathVista, ChartQA에서도 성능이 향상되었습니다. 이러한 결과는 구조화된 잠재 지도가 텍스트 CoT의 디코딩 오버헤드 없이 미세한 시각적 추론을 개선할 수 있음을 시사합니다. 프로젝트 페이지는 \href{https://bogao-code.github.io/SLVR/}{여기}에서 확인할 수 있습니다.

arXiv:2605.00206v2cs.LG

State Stream Transformer(SST) V2: 잠재 공간 추론을 위한 비선형 순환의 병렬 학습

State Stream Transformer (SST) V2: Parallel Training of Nonlinear Recurrence for Latent Space Reasoning

현재의 트랜스포머는 위치들 사이에서 풍부한 잠재 잔차 스트림을 버리고, 매 새로운 위치마다 잠재 추론 맥락을 다시 구성하여 잠재적인 추론 역량을 활용하지 못하고 있다. State Stream Transformer(SST) V2는 각 디코더 층에서 FFN 기반의 비선형 순환을 통해 연속 잠재 공간에서의 매개변수 효율적인 추론을 가능하게 하며, 이때 잠재 상태들은 학습된 블렌드를 통해 전체 시퀀스에 걸쳐 수평으로 스트리밍된다. 이와 동일한 메커니즘은 추론 시점에서 위치별 연속적인 잠재 숙고를 지원하여, 토큰을 확정하기 전에 추가적인 FLOPs를 추상적 추론 탐색에 할당할 수 있게 한다. 2단계 병렬 학습 절차는 순차적 순환을 근사하여 공동 학습을 계산적으로 실용적으로 만든다. 은닉 상태 분석에 따르면, 상태 스트림은 연속 잠재 공간에서 명확하고 내용에 의존적인 재구성을 통해 추론을 촉진하며, LM 헤드는 그 결과로 나타나는 잠재 신념 상태를 출력 분포를 통해 드러내고, 상태 스트림은 이를 이후 위치들에 영향을 미치도록 전달한다. 학습된 프로브는 첫 번째로 생성된 토큰에서 이미 잠재 상태가 이후의 모든 위치에서 추가적인 잠재 계산 하에 최종 답이 유지될지 또는 무너질지를 예측함을 보여준다. 단지 소규모의 GSM8K 예제 데이터셋만을 사용하여 기존 27B 백본에 공동 학습시키고, 각 질문을 토큰당 1회에서 4회의 순환적 순전파 깊이로 라우팅하는 오라클을 사용하여 평가한 결과, SST는 분포 외 GPQA-Diamond에서 61.11%의 아키텍처 역량 상한을 달성했으며, 이는 미세조정 매칭 기준선 대비 +15.15포인트의 향상이고, 동일한 기준선에 남아 있는 GSM8K 오류를 46% 줄인다. 이러한 결과들은 비선형 순환을 효율적으로 학습시키는 방법을 제시하며, 상태 스트림이 그 외에는 학습이 매칭된 트랜스포머가 가진 역량을 넘어서는 추가적인 추론 역량을 제공함을 보여준다.

arXiv:2610.01917v1cs.CV

MoLE: 상호보완적 시각 추론을 위한 잠재 전문가 혼합

MoLE: Mixture of Latent Experts for Complementary Visual Reasoning

잠재 시각 추론(latent visual reasoning)은 명시적인 텍스트 추론 경로(trace)나 반복적인 이미지 연산 없이도 시각적 증거를 처리할 수 있는 연속적인 중간 상태를 비전-언어 모델(vision-language model)에 제공합니다. 그러나 기존 방식들은 공유된 가치 프로젝션(value projection)을 통해 여러 잠재 토큰이 동일한 시각적 증거에 접근하도록 허용하는 경우가 많아, 상호보완적인 시각 정보를 추출할 수 있는 메커니즘을 제공하지 못합니다. 따라서 단순히 잠재 토큰의 예산(budget)을 늘리는 것만으로는 중복된 잠재 표현이 생성될 수 있습니다. 본 연구에서는 효과적인 잠재 추론을 위해 서로 다른 잠재 토큰들이 상호보완적인 시각 정보를 추출하도록 유도하여 전문화된 시각 전문가 역할을 수행하게 해야 한다고 주장합니다. 이러한 통찰을 바탕으로, 각 잠재 시각 전문가가 관찰하는 시각적 증거와 이를 변환하는 방식을 모두 제어하는 잠재 전문가 혼합(Mixture of Latent Experts) 프레임워크인 MoLE를 제안합니다. MoLE는 증거 추출 과정에서 잠재 시각 전문가들을 격리하고, 전용 잠재 요약 전문가를 활용해 잠재 시각 전문가들의 상호보완적인 표현을 집계합니다. 2단계 학습 파이프라인은 먼저 시각적 증거가 이 잠재 경로를 통과하도록 강제한 후 직접적인 시각적 접근을 복원하므로, 사전에 정의된 전문가 역할이나 중간 시각적 목표가 필요하지 않습니다. 5개의 시각 추론 벤치마크 전반에서 MoLE는 평균 점수 78.6점을 달성하여, 동일한 데이터로 매칭된 지도 미세조정(supervised fine-tuning)보다 4.9점, 동일한 잠재 예산에서 평가된 가장 강력한 잠재 시각 추론 기준선(baseline)보다 3.6점 높은 성능을 보였습니다. 표현 분석 결과 잠재 상태 간 유사도가 낮아지고 더 다양한 시각적 어텐션이 나타났으며, 잠재 경로를 마스킹했을 때는 평균 성능이 9.2점 감소했습니다. 이러한 결과는 단순히 잠재 토큰 수를 늘리는 것보다 잠재 연산을 전문화하는 것이 더 효과적임을 입증합니다.

arXiv:2607.21981v1cs.CL

J-CoT: J-Space에서의 사고의 연쇄

J-CoT: Chain-of-Thought in J-Space

사고의 연쇄(Chain-of-Thought) 프롬프팅은 연속적인 계산 단계에 걸쳐 중간 상태를 전달함으로써 언어 모델의 추론을 향상시킨다. 그러나 자연어를 유일한 순환(recurrent) 인터페이스로 의존하는 것은 과도하게 제한적이다. 많은 일시적인 계산은 완전히 언어화될 필요가 없기 때문이다. 기존 잠재 추론(latent-reasoning) 방법들은 연속적인 은닉 상태를 순환적으로 전파함으로써 이러한 제약을 제거한다. 그러나 이러한 방법들은 다음 추론 단계에 필요한 정보를 선택하고 조직화하는 명시적 메커니즘 없이, 밀집된 은닉 벡터를 통째로 전달한다. 이는 디코딩된 문장을 요구하지 않으면서도 언어적으로 그라운딩(grounding)된 중간 인터페이스에 대한 동기를 제공한다. 우리는 모델의 은닉 표현 내 어휘 색인 좌표계인 J-space를 기반으로 한 순환 추론 프레임워크인 J-CoT를 제안한다. 각 사이클 내에서 모델은 전체 은닉 공간에서 계산한다. 사이클 경계에서 J-CoT는 중간 상태를 어휘 색인 계수로 표현하고, 이 계수들을 J-thought로 전달하며, 다음 사이클을 위해 모델의 은닉 표현으로 다시 매핑한다. 따라서 J-CoT는 유창한 중간 근거(rationale)도, 전체 은닉 상태에 대한 순환(recurrence)도 요구하지 않는다. 일치하는 백본 및 추론 설정 하에서, J-CoT-Zero는 모든 벤치마크에서 평가된 가장 강력한 잠재 추론 기준선과 동등하거나 이를 초과하며, J-CoT-Train은 평가된 수학, 과학, 코딩 및 구조화된 경로 추론(path-reasoning) 과제 전반에서 최고 점수를 달성한다.

arXiv:2607.20952v1cs.LG

침묵의 가중치: 잠재 체스 추론에서 스크래치패드보다 가중치를 우선하는 인과적 근거

The Weight of Silence: A Causal Case for Weights Over the Scratchpad in Latent Chess Reasoning

잠재(latent) 또는 침묵(silent) 추론은 언어 모델이 중간 계산을 단어 대신 연속적인 벡터 공간에서 수행하게 하며, 추론 중 모델이 능동적으로 참조하는 내부 스크래치패드(scratchpad)로 기능한다고 널리 가정된다. 그 가정이 강화학습 이후에도 성립하는지는 직접 검증되지 않았다. 기존 잠재 추론의 인과 분석은 수학 및 논리 과제에 한정되어 있으며, 단일 체크포인트 내에서 모델의 사고 의존도만 비교할 뿐 강화학습 단계 전후를 비교한 적은 없다. 단계적 잠재 추론 커리큘럼과 이어지는 강화학습을 통해 체스 플레이 모델을 학습시킨 결과, 합법성은 강화학습 전 기준선 48%에서 단조롭게 61%까지 상승하고 체크메이트 날조(confabulation)는 완전히 사라졌다. 이 이득의 원인을 규명하기 위해 동일 모델에 대해 강화학습 전후로 6조건 인과 개입 실험을 수행했다. 잠재 사고 벡터를 대체하거나 동일한 노이즈를 추가해도 성능은 변하지 않고, 이를 제거(ablate)하면 경미한 저하만 발생하며, 정확히 영(zero) 벡터일 때만 붕괴가 일어난다. 이 견고성 격차 자체가 발견이다. 정확한 영 벡터 손상 하에서 합법성은 강화학습 전 1%, 강화학습 후 9%로 붕괴하며, 이 격차는 전체 검정 배터리에 대한 다중 검정 보정 후에도 유지된다. 더 완화된 조건들도 유사한 경향을 보이나 개별적으로는 유의성에 이르지 못한다. 강화학습은 사고 내용에 대한 의존이 아니라 교란에 대한 견고성을 더하는 것으로 보인다. 이 결과는 잠재 사고가 추론 시점에 능동적으로 참조되는 스크래치패드로 기능한다는 분야의 기본 가정에 반론을 제기하며, 대신 여기서 잠재 추론의 주된 효과는 학습 중 모델의 매개변수를 형성하는 데 있다는 점을 시사한다. 또한 수학·논리 설정 밖의 영域인 체스에서 작동하는 강화학습 이득을 입증했는데, 여러 그룹이 동일한 잠재 추론+강화학습 레시피가 SFT(지도 미세조정) 대비 정확도를 개선하지 못한다고 보고한 바로 그 맥락과 대비된다.

arXiv:2607.15178v2cs.CL

T^2MLR: 시간적 중간층 순환 트랜스포머

T^2MLR: Transformer with Temporal Middle-Layer Recurrence

트랜스포머의 추론은 자기회귀(autoregressive) 디코딩에 의해 제한되며, 이는 풍부한 은닉 계산을 토큰 공간을 통해 반복적으로 압축하여 중간 추론 상태가 시간에 걸쳐 지속되기 어렵게 만든다. 우리는 이전 토큰의 캐시된 중간층 표현을 현재 토큰 위치의 더 앞쪽 층에 직접 융합하여, 추상적인 중간 계산이 디코딩 단계마다 적은 추론 오버헤드로 지속될 수 있게 하는 잠재 추론(latent reasoning) 아키텍처인 시간적 중간층 순환(T2MLR) 트랜스포머를 제안한다. 자연어 사전학습과 다중 홉(multi-hop) 추론 파인튜닝 전반에 걸쳐, T2MLR은 데이터 및 매개변수가 동일한 트랜스포머 기준선(baseline)을 일관되게 능가한다. 게다가, 국소화된 중간층 블록(네트워크의 20%에 불과할 수 있음)에만 순환(recurrence)을 적용하는 것이 종종 전체 층 순환보다 더 나은 성능을 낸다. 중요하게도, T2MLR은 처음부터의 사전학습을 요구하지 않는다: 기존 사전학습된 1.7B 트랜스포머에 순환 경로를 개조(retrofitting)하고 짧게 파인튜닝하면 수학 추론이 상당히 개선되어 실용적 도입의 장벽을 낮춘다. 이 결과는 트랜스포머에서 효과적인 잠재 추론이 이전 연구들처럼 모든 층을 반복(loop)할 필요가 없으며, 대신 표적화된 중간층 순환에서 더 강하게 창발(emergent)할 수 있음을 시사한다.

arXiv:2606.13061v2cs.CV

LaME: 정보 병목을 통한 멀티모달 임베딩을 위한 잠재 공간에서의 사고 학습

LaME: Learning to Think in Latent Space for Multimodal Embedding via Information Bottleneck

추론 기반 범용 멀티모달 임베딩은 임베딩 파이프라인에 사고의 연쇄(Chain-of-Thought, CoT) 추론을 도입하면서 빠르게 발전해 왔다. 일반적·복잡한 작업 모두에서 강한 성능을 보임에도 불구하고, 이 패러다임은 두 가지 핵심 한계를 갖는다: (i) 자기회귀적 CoT 추론은 계산 비용이 높아 저지연 검색에는 비실용적이며; (ii) 임베딩 성능이 CoT 주석 품질에 크게 종속되어 대규모 학습이 신뢰하기 어렵다. 이는 근본적인 질문을 제기한다: 텍스트 기반 CoT가 임베딩을 위한 최적의 추론 형태인가, 그리고 효과적인 임베딩 추론을 잠재 공간에서 수행할 수 있는가? 이를 위해 우리는 LaME(Latent Reasoning Multimodal Embedding)를 제안한다. 이는 임베딩 지향 잠재 추론을 약지도 정보 병목으로 공식화한다. LaME는 K개의 학습 가능한 reason token을 고정 용량 병목으로 사용하여, 모든 추론을 단일 순전파 내에 완료한다. 두 약지도 신호는 대조(contrastive) 목표와 자기회귀(autoregressive) 목표를 구조적으로 분리하고 CoT 주석에 대한 의존성을 제거하며, 2단계 학습 파이프라인은 안정적인 수렴을 보장한다. MMEB-v2 및 MRMR에서의 실험은 LaME가 경쟁력 있는 성능을 달성하고 일부 명시적 CoT 기반 모델을 능가함을 보여준다. 동시에 명시적 CoT 방법 대비 60배 빠른 추론과 잠재 기준선 대비 2배 빠른 처리량을 제공하며, 판별적 임베딩 모델과 유사한 처리량을 달성한다. 코드는 https://github.com/PeppaWu/LaME 에서 제공된다.

arXiv:2602.10229v2cs.CL

잠재 사고 튜닝: 잠재 토큰의 융합 정보로 컨텍스트와 추론 연결

Latent Thoughts Tuning: Bridging Context and Reasoning with Fused Information in Latent Tokens

명시적 사고의 연쇄(Chain-of-Thought, CoT)는 대규모 언어 모델(LLM)에 강력한 추론 능력을 부여하지만, 모델의 사고를 이산적인 어휘 공간으로 제한한다. 최근 연속 잠재 공간에서의 추론이 유망한 대안으로 부상하고 있으나, 현재의 패러다임은 은닉 상태를 반복적으로 재사용할 때 발생하는 분포 불일치로 인한 특징 붕괴(feature collapse)와 불안정성, 또는 보조 모델에 의존할 때 발생하는 정렬 문제로 어려움을 겪는다. 이를 해결하기 위해 우리는 잠재 사고가 구성되고 활용되는 방식을 재정의하는 사후 학습 프레임워크인 잠재 사고 튜닝(Latent Thoughts Tuning, LT-Tuning)을 제안한다. 원시 은닉 상태에만 의존하는 대신, 우리의 방법은 컨텍스트 은닉 상태와 어휘 임베딩 공간의 예측적 의미 안내를 공동으로 활용하는 컨텍스트-예측-융합(Context-Prediction-Fusion) 메커니즘을 도입한다. 점진적인 3단계 커리큘럼 학습 파이프라인과 결합하여, LT-Tuning은 잠재 사고 모드와 명시적 사고 모드 간의 동적 전환도 가능하게 한다. 실험 결과, 우리의 방법은 기존 잠재 추론 기준선을 능가하며 특징 붕괴를 효과적으로 완화하고 견고한 추론 정확도를 달성함을 입증한다.

arXiv:2510.25741v5cs.CL

Scaling Latent Reasoning via Looped Language Models

사전학습(pre-training) 단계에서 잠재 공간(latent space)의 반복 연산을 통해 추론 능력을 내재화하는 루프 언어 모델(LoopLM) 계열 Ouro를 제안하며, 엔트로피 정규화 기반 적응적 깊이 할당 기법으로 7.7조 토큰 규모까지 학습시켰다. Ouro 1.4B·2.6B 모델은 최대 12B SOTA 대규모 언어 모델(LLM)에 필적하는 성능을 달성했으며, 이 성능 향상이 지식 저장 용량 증가가 아닌 다중 단계 추론 등 지식 조작(knowledge manipulation) 능력의 향상에서 비롯됨을 실험적으로 규명했다.

arXiv:2607.00461v1cs.CV

비대칭 상호 변분 학습을 통한 멀티모달 연속 추론

Multimodal Continuous Reasoning via Asymmetric Mutual Variational Learning

AMVL(Asymmetric Mutual Variational Learning)은 멀티모달 연속 잠재 추론에서 학습 시 정답 정보에 접근 가능한 사후 분포와 추론 시 목표에 무관한 사전 분포 간의 불일치 문제를 순방향·역방향 이중 KL 발산 목적 함수로 해소하는 프레임워크다. BLINK 벤치마크에서 평균 +10.83, 개별 태스크 최대 +32.00의 성능 향상을 달성하며 기존 이산 및 잠재 추론 기반 모델들을 일관되게 능가하였다.

arXiv:2604.20328v2cs.CV

HyLaR: 분리된 정책 최적화를 통한 하이브리드 잠재 추론

HyLaR: Hybrid Latent Reasoning with Decoupled Policy Optimization

사고의 연쇄(Chain-of-Thought, CoT) 추론은 멀티모달 대규모 언어 모델(MLLM)의 복잡한 문제 해결 능력을 크게 향상시킨다. 그러나 비전에 CoT를 적용할 때는 일반적으로 LLM 입력에 맞추기 위해 신호를 이산화하며, 이로 인해 조기 의미 붕괴가 발생하고 세밀한 세부 정보가 버려진다. 외부 도구로 이를 완화할 수 있지만, 경직된 병목을 도입하여 추론을 사전 정의된 연산에 국한시킨다. 최근 잠재 추론(latent reasoning) 패러다임은 이러한 한계를 극복하기 위해 시각 상태를 내재화하지만, 그 결과로 생기는 하이브리드 이산-연속 행동 공간의 최적화는 여전히 어렵다. 본 연구에서는 이산 텍스트 생성과 연속적인 시각 잠재 표현을 원활하게 교차 배치하는 프레임워크인 HyLaR(Hybrid Latent Reasoning)을 제안한다. 구체적으로, 초기 콜드스타트 지도 미세조정(SFT) 이후, 이러한 하이브리드 공간에서 효과적인 강화학습을 가능하게 하는 DePO(Decoupled Policy Optimization)를 도입한다. DePO는 정책 그래디언트 목적을 분해하여 텍스트 구성 요소와 잠재 구성 요소에 각각 독립적인 신뢰 영역(trust-region) 제약을 적용하고, 정확한 폐형식 von Mises-Fisher(vMF) KL 정규화를 함께 사용한다. 광범위한 실험을 통해 HyLaR이 표준 MLLM 및 최첨단 잠재 추론 접근법보다 세밀한 인지와 일반 멀티모달 이해 벤치마크에서 우수함을 입증한다. 코드는 https://github.com/EthenCheng/HyLaR 에서 이용 가능하다.

arXiv:2606.22870v1cs.CV

VideoLatent: Latent Self-Forcing을 통한 비디오-언어 학습

VideoLatent: Video-Language Learning via Latent Self-Forcing

최근 사고의 연쇄(Chain-of-Thought, CoT) 추론의 발전은 멀티모달 대규모 언어 모델(MLLM)의 비디오 이해 및 추론 능력을 향상시키는 데 가능성을 보여주었다. 그러나 기존 CoT 기반 MLLM은 노동 집약적인 CoT 주석이 필요하고 상당한 학습 및 추론 오버헤드를 발생시킨다. 시각적 잠재 추론(visual latent reasoning)이 더 효율적인 대안으로 부상했지만, 기존 방법은 주로 이미지 과제에 초점을 맞추며 시각적 잠재 생성을 위해 추가적인 감독 신호(예: CoT trace, 보조 이미지, 또는 세밀한 주석)에 크게 의존하여, 비디오 과제로의 확장성과 전이 가능성을 제한한다. 이 격차를 메우기 위해, 우리는 비디오 이해 및 추론에 맞춤화된 잠재 주입(latent injection) 모듈을 갖춘 새로운 MLLM인 VideoLatent를 제안한다. 구체적으로, VideoLatent는 잠재 정렬(latent alignment) 및 잠재 다양성(latent diversity) 목적 함수로 구성된 새로운 latent self-forcing 학습 패러다임을 사용하여 시각적 잠재 추론을 수행하도록 학습하며, 표준 비디오-질문-답변 트리플에만 의존한다. 14개 벤치마크에 걸친 광범위한 실험은 우리 모델이 일반적인 비디오 이해 및 복잡한 비디오 추론에서 기존 표준 및 잠재 MLLM을 일관되게 능가함을 보여준다. Video-R1과 비교했을 때, 우리의 VideoLatent는 우수한 계산 효율성을 달성하여 학습/추론 오버헤드를 각각 $\sim$6$\times$/ $\sim$68$\times$ 줄였다. 게다가, 실험은 우리 방법이 다양한 MLLM 백본 및 다양한 모델 규모에 대해 강한 일반화 가능성을 갖음을 보여준다.

arXiv:2606.12689v1cs.CL

관찰 가능한 패턴은 설명이 아니다: 잠재 추론 모델에 대한 인과-기하학적 분석

Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models

잠재 추론 모델(LRM)에서 관찰 가능한 패턴이 내부 추론 기제를 증명한다는 기존 가정을 인과적 개입과 기하학적 분석을 통해 재검증한다. 연구 결과, 해당 패턴은 통제 모델에서도 나타나며 잠재 사고의 활용은 모델 행동에 대한 인과적 효과에 따라 등급적으로 결정됨을 보여준다.

arXiv:2606.13106v1cs.LG

히든 상태 순환 해명: 온폴리시 강화학습 기반 스위치 가능한 잠재 추론

Demystifying Hidden-State Recurrence: Switchable Latent Reasoning with On-Policy Reinforcement Learning

기존 잠재적 추론(Latent reasoning) 방식의 최적화 및 해석 어려움을 해결하기 위해, 명시적인 경계 토큰을 사용하여 온폴리시 강화학습(RL)과 기계적 분석이 가능한 SWITCH 프레임워크를 제안합니다. 이 방법은 유사한 규모의 이전 접근 방식보다 우수한 성능을 보이며, 잠재 단계가 문제 특화적이고 인과적으로 중요한 연산을 수행함을 밝혀냈습니다.