arXiv:2608.30650v1 cs.AI

발산의 기하학: 적응형 멀티턴 추론을 위한 은닉 상태 궤적 추적

Geometry of Divergence: Tracking Hidden-State Trajectories for Adaptive Multi-Turn Reasoning

Jie Liang, Zhengxin Yu, Hamid Nasiri, Peter Garraghan

제출 2026-08-31

한국어 초록

LLM 에이전트는 엄격한 자원 제약 아래에서 긴 멀티턴 상호작용 전반에 걸쳐 목표 일관적인 추론을 유지해야 합니다. 그러나 멀티턴 컨텍스트가 누적되면 이전 턴의 과제 관련 정보에 대한 기반 LLM의 내부 표현이 불안정해질 수 있으며, 이로 인해 건설적인 추론과 표현 드리프트(representation drift) 사이의 경계가 흐려집니다. 우리는 멀티턴 추론을 기반 LLM의 은닉 상태 궤적으로 정식화하고, 이를 두 가지 상호 보완적인 신호로 특성화합니다. 하나는 턴 간 업데이트의 방향 일관성을 포착하는 시간적 곡률(temporal curvature)이고, 다른 하나는 탐험 공간의 팽창 또는 수축을 측정하는 분산 기울기(variance slope)입니다. 네 가지 과제와 세 가지 기반 LLM에 걸쳐, 이러한 기하학적 신호가 에피소드가 완료되기 전에 올바른 에피소드와 잘못된 에피소드를 구별한다는 점을 관찰했습니다. 또한 각 에피소드를 네 가지 행동(Read, Write, Respond, Transfer)으로 구성된 세 행동 체인으로 분해하여, 분리 가능성이 행동에 의존적이며 신호마다 서로 다른 체인 패턴을 구별함을 보입니다. 실험 결과, 궤적 기하학은 추론 과정의 핵심 턴을 식별할 수 있으며, 이를 통해 $τ$-Bench에서 과제 성공률을 24.1%에서 39.6%로 높이는 동시에 토큰 비용을 11.2% 줄였습니다.

원문 초록

LLM agents need to sustain goal-consistent reasoning across long multi-turn interactions under strict resource constraints. However, as the multi-turn context accumulates, it can destabilize the underlying LLM's internal representation of task-relevant information from earlier turns, blurring the boundary between constructive reasoning and representation drift. We formulate multi-turn reasoning as a hidden-state trajectory of the underlying LLM that is characterized via two complementary signals: temporal curvature that captures the directional consistency of turn-to-turn updates, and variance slope which measures the expansion or contraction of the exploration space. Across four tasks and three underlying LLMs, we observed that these geometric signals distinguish between correct and incorrect episodes prior to completion. We further decompose each episode into three-action chains formed from four actions (Read, Write, Respond, Transfer) and show that separability is action-dependent, with different signals distinguishing various chain patterns. Our experiments demonstrate that trajectory geometry can identify critical turns in the reasoning process, increasing task success rates on $τ$-Bench from 24.1% to 39.6% while reducing token cost by 11.2%.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.30650v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.