장기 에이전트를 위한 요청 시 증거 제공 기반 의미적 컨텍스트 인계
Semantic Context Handoff with On-Demand Evidence for Long-Horizon Agents
한국어 초록
전통적인 장기 LLM 에이전트는 이전의 모든 행동–관찰 상호작용을 유지하는 전체 이력 프롬프팅으로 컨텍스트를 인계하는 경우가 많다. 실행이 진행됨에 따라 이 이력은 계속 늘어나 추론 비용을 증가시키고 정확도를 저하시킬 수 있다. 기존 방법은 이전 관찰을 제거하는 대신 간결한 결론을 보존함으로써 이러한 증가를 제어하지만, 그렇게 하면 나중에 관련성이 생기는 증거가 폐기될 수 있다. 본 논문은 상태–증거 분리를 핵심 추상화로 하는 의미적 컨텍스트 인계(Semantic Context Handoff, SCH)를 소개한다. 간결한 의미 상태가 에이전트의 현재 해석을 담고, 이를 뒷받침하는 행동–관찰 증거는 별도로 주소 지정이 가능하게 남아 있다가 이후 실행에서 관련성이 생기면 별도의 요약이나 검색 모델 호출 없이 컨텍스트에 다시 들어올 수 있다. 실증적으로 SCH는 컨텍스트 비용을 크게 줄이면서 장기 에이전트 성능을 향상시킨다. 통제된 150개 과제 SWE-bench 연구에서 SCH의 증거 복구는 토큰 사용량과 실행 시간이 거의 변하지 않은 상태로 Pass@1을 $80.0\%$에서 $86.9\%$로 향상시킨다. 전체 시스템 비교에서 SCH는 과제 성능 기준 최강 베이스라인보다 토큰을 43%, 실제 소요 시간을 41% 적게 사용하면서 86.9%의 Pass@1을 달성한다. 여러 모델과 벤치마크 전반에서 SCH는 전체 이력 프롬프팅에 비해 토큰 사용량을 일관되게 줄이면서 평가된 베이스라인과 대등하거나 이를 능가한다. 궤적 분석은 SCH가 단순히 최근 컨텍스트 창을 보존하는 것이 아니라 상호작용 이력의 훨씬 앞선 부분에서 증거를 복구함을 확인해 준다.
원문 초록
Traditional long-horizon LLM agents often hand off context through full-history prompting, retaining all previous action--observation interactions. As execution proceeds, this history keeps growing, increasing inference cost and potentially degrading accuracy. Existing methods control this growth by preserving compact conclusions while removing earlier observations, but doing so can discard evidence that later becomes relevant. We introduce Semantic Context Handoff (SCH), whose central abstraction is state--evidence separation: a compact semantic state carries the agent's current interpretation, while supporting action--observation evidence remains separately addressable and can re-enter context when later execution makes it relevant, without separate summarization or retrieval-model calls. Empirically, SCH improves long-horizon agent performance while substantially reducing context cost. In a controlled 150-task SWE-bench study, SCH's evidence recovery improves Pass@1 from $80.0\%$ to $86.9\%$ at essentially unchanged token use and execution time. In the complete-system comparison, SCH achieves 86.9% Pass@1 while using 43% fewer tokens and 41% less wall-clock time than the strongest baseline by task performance. Across models and benchmarks, SCH consistently reduces token use relative to full-history prompting while remaining competitive with or improving upon the evaluated baselines. Trajectory analysis confirms that SCH recovers evidence from substantially earlier parts of the interaction history rather than merely preserving a recent context window.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24357v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.