한국어 초록
기존의 잠재 추론기는 일반적으로 추론 시 미리 설정된 잠재 지평 동안 실행된다. 직관적으로는 지평이 길수록 추론의 기회가 더 많아져야 한다. 그러나 본 연구에서는 잠재 사고 사슬(CoT)을 미리 설정된 전체 지평까지 확장하면 오히려 추론 성능이 저하될 수 있음을 발견한다. 우리는 잠재 CoT가 뚜렷한 기능적 단계를 거쳐 진화함을 관찰하였다. 초기 연산은 최전선 추론 상태를 형성하는 반면, 후기 연산은 주로 기존 후보를 재구성하며 정답 후보에 대한 지지를 약화시킬 수 있다. 이러한 발견은 고정 지평 잠재 추론을 재고하게 한다. 이를 위해 우리는 잠재 CoT의 추론 이점을 실현된 건설적 진전과 남은 건설적 진전으로 규정한다. 실험적으로, 실현된 건설적 진전이 높을수록 현재 추론 정확도가 높고, 남은 진전이 많을수록 잠재 CoT를 계속할 때 미래 이득이 크다는 것을 확인한다. 이에 따라 우리는 남은 추론 진전을 추정하여 추론 중 잠재 지평을 적응적으로 조정하는 경량 방법을 도입한다. 대표적인 잠재 CoT 추론기와 여러 산술 벤치마크에서, 우리의 방법은 LLM을 재학습하지 않고도 추론 정확도를 최대 7.2%p 향상시키면서 잠재 연산을 최대 29.0% 줄인다.
원문 초록
Existing latent reasoners typically run for a preset latent horizon during inference. Intuitively, a longer horizon should provide more opportunity for reasoning. However, in this work, we find that extending latent Chain-of-Thought (CoT) to the full preset horizon may in fact degrade reasoning performance. We observe that latent CoT evolves through distinct functional stages, with earlier computation forming frontier reasoning states, while later computation mainly reorganizes existing candidates and can weaken gold candidate support. These findings motivate a rethink of fixed-horizon latent inference. To address this, we characterize the reasoning benefits of latent CoT by realized and remaining constructive progress. Empirically, we find that higher realized constructive progress corresponds to higher current reasoning accuracy, while more remaining progress corresponds to larger future gains from continued latent CoT. To this end, we introduce a lightweight method that estimates the remaining reasoning progress and adaptively adjusts the latent horizon during inference. Across representative latent CoT reasoners and multiple arithmetic benchmarks, our method improves reasoning accuracy by up to 7.2 percentage points while reducing latent computation by up to 29.0%, without retraining the LLM.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24001v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.