arXiv:2611.23564v1 cs.AI

LProp: LLM 에이전트에서 증거 조건부 신념 수정을 통한 잠재 불확실성 전파

LProp: Propagating Latent Uncertainty through Evidence-Conditioned Belief Revision in LLM Agents

Kaiwen Shi, Zheyuan Zhang, Weixiang Sun, Han Bao, Colby Nelson, Yanfang Ye

제출 2026-11-19

한국어 초록

LLM 에이전트가 불확실성 없이 중간 판단을 하류로 전달하면, 이후의 결정이 잠정적 가정을 사실로 취급할 수 있다. 효과적인 불확실성 전파는 수정을 위한 정보를 보존해야 하며 새로운 증거가 도착함에 따라 상속된 신념을 갱신해야 한다. 그러나 스칼라 점수는 수정에 필요한 정보를 생략하며, 상세한 설명과 성찰은 추가 비용을 초래한다. 우리는 긴 설명 없이 불확실성 관련 정보를 보존하는 잠재 공간 추정기인 잠재 불확실성(Latent Uncertainty)을 소개한다. 이를 바탕으로, 추가적인 궤적 샘플링 없이 잠재 표현과 새로운 증거를 이용해 상속된 답 분포를 수정하는 LProp(Latent Uncertainty Propagation)를 제안한다. 두 방법을 객관식, 예/아니오, 개방형 질의응답, 수학적 추론 과제 전반에서 평가한다. 제안 방식은 대부분의 지표에서 기준 방법을 능가하며, LProp는 여덟 가지 전파 설정 모두에서 가장 낮은 평균 추론 토큰 사용량을 달성한다. 대응되는 특징 제거 실험은 상속된 잠재 내용이 답 확률이나 모델 용량만으로는 얻을 수 없는 수준으로 오류 복구를 향상시킨다는 점도 보여 준다.

원문 초록

When LLM agents pass intermediate judgments downstream without uncertainty, later decisions may treat tentative assumptions as facts. Effective uncertainty propagation must preserve information for correction and update inherited beliefs as new evidence arrives. Yet scalar scores omit information needed for revision, while detailed descriptions and reflection incur additional costs. We introduce Latent Uncertainty, a latent-space estimator that preserves uncertainty-relevant information without lengthy descriptions. Building on this, we propose LProp (Latent Uncertainty Propagation), which revises inherited answer distributions using latent representations and new evidence without additional trajectory sampling. We evaluate both methods across multiple-choice, yes/no, open-ended question answering, and mathematical reasoning tasks. Our approach outperforms baselines on most metrics, while LProp achieves the lowest mean inference-token usage in all eight propagation settings. Matched feature ablations further demonstrate that inherited latent content improves error recovery beyond answer probabilities or model capacity alone.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23564v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.