StateComp: 장기 에이전트에서 과거 기록을 언제 압축할지 학습
StateComp: Learning When to Compress History in Long Horizon Agents
한국어 초록
장기 에이전트는 과업 수행 중 상호작용 기록을 지속적으로 축적하지만, 에이전트 상태가 변함에 따라 과거 상호작용의 중요도는 달라진다. 기존 컨텍스트 관리 방법은 대부분 고정 윈도우, 주기적 스케줄, 또는 현재 관련성에 따라 기록을 압축하여, 더 근본적인 질문인 ‘과거 상호작용을 안전하게 대체할 수 있는 시점은 언제인가’를 간과한다. 성급한 압축은 미래 행동에 여전히 필요한 정보를 제거할 수 있고, 지나치게 보수적인 보존은 상당한 컨텍스트 오버헤드를 초래한다. 이를 위해 우리는 현재 에이전트 상태에 따라 과거 상호작용을 언제 안전하게 압축할 수 있는지 판단하는 프레임워크인 상태 조건 압축(State Conditioned Compression, StateComp)을 제안한다. StateComp는 2단계 어노테이션 절차로 KEEP 및 READY 지도(supervision)를 구성하고, 동결된 언어 모odel의 은닉 표현 위에서 불균형 인식(imbalance-aware) 라우터를 학습한다. 유계(bounded) 상태 표현은 긴 기록 평가 비용을 더 줄이며, 인접한 READY 상호작용은 연속 구간으로 묶여 실행 중 간결한 요약으로 대체된다. WorkBuddyBench 실험에서 StateComp는 과업 성능을 유지하면서 에이전트 및 요약 토큰 총량을 52.27% 줄였고, 표현 추출에서 12.67배 속도 향상을 달성했다.
원문 초록
Long-horizon agents continuously accumulate interaction history during task execution, yet the importance of past interactions changes as the agent state evolves. Existing context management methods largely compress history based on fixed windows, periodic schedules, or current relevance, overlooking a more fundamental question: when has a past interaction become safe to replace? Premature compression may remove information still needed for future actions, while overly conservative retention leads to substantial context overhead. To address this, we propose State Conditioned Compression (StateComp), a framework that determines when historical interactions can be safely compressed according to the current agent state. StateComp constructs KEEP and READY supervision through a two-stage annotation procedure and trains an imbalance-aware router on hidden representations from a frozen language model. A bounded state representation further reduces the cost of evaluating long histories, while adjacent READY interactions are grouped into continuous spans and replaced with compact summaries during execution. Experiments on WorkBuddyBench show that StateComp reduces total agent and summarization tokens by 52.27% while maintaining task performance, and achieves a 12.67-fold speedup in representation extraction.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.27298v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
장기 호라izon 에이전트에서 행동 전에 형성되는 메모리 제어 신호
Memory Control Signals Emerge Before Action in Long Horizon Agents
장기 호라izon 언어 모델 에이전트는 상호작용 기록을 계속 축적하면서 계산 비용이 커지고, 관련 정보를 보존·재사용하기도 어려워진다. 기존 컨텍스트 관리 방법은 주로 기록을 압축하거나 검색하는 데 초점을 두지만, 메모리 연산이 일어나기 전에 모델 자체가 그 필요성을 이미 내부적으로 표현하는지는 대체로 밝히지 않았다. 우리는 각 에이전트 행동 직전의 은닉 상태를 분석한 결과, 압축과 회상(기억 인출) 필요성이 이미 모델의 내부 표현에 인코딩되어 있음을 보였다. 이러한 신호는 단순한 컨텍스트 길이나 상호작용 진행만으로는 설명되지 않으며, 모델 깊이에 따라 서로 다른 형성 패턴을 보인다. 또한 대부분의 메모리 결정 정보는 압축된 최근 컨텍스트에 남아 있고, 선택적으로 복원한 과거 근거가 최근 컨텍스트가 놓치는 장거리 의존성을 보완함을 보였다. 이에 따라 상태 기반 압축과 외부 근거 검색을 결합한 Preaction Memory with Evidence Retrieval(PaMER)을 제안한다. PaMER+는 현재 과제에 필요한 과거 정보만 되살리기 위한 단계(step) 수준 근거 선택을 추가한다. WorkBuddyBench에서 여러 컨텍스트 관리 베이스라인과 모델 백본에 대한 실험 결과, 본 프레임워크는 과제 성능을 경쟁력 있게 유지하면서 컨텍스트 소비를 크게 줄였다.
발산하는 과제 증거와 안정적 기하를 활용한 효율적 장기 에이전트 압축
Stable Geometry with Divergent Task Evidence for Efficient Long-Horizon Agent Compression
장기 에이전트는 상호작용 기록이 누적되면서 컨텍스트와 추론 비용이 커진다. 기하학적 중복만으로는 안전한 압축의 기준이 되기에 불충분함을 확인했다. 에이전트 기록은 강한 저차원 구조를 보이지만, 유사한 전역 기하가 매우 다른 양의 과제 증거(task evidence)를 보존할 수 있다. 동일한 보존 블록 수에서 증거 인식(evidence-aware) 선택은 다음 행동 Top 3 보존률을 0.31에서 0.69로 높이는 반면, centroid 유사도는 0.98로 유지된다. 통제된 대체 실험은 전역 기하 측정치가 거의 변하지 않은 채 행동 관련 정보가 상당히 바뀔 수 있음을 추가로 보여준다. 기하와 증거 사이의 이러한 간극에 착안하여, 과제 및 실행 증거를 먼저 보호한 뒤 기하 잔차로 커버리지를 완성하는 학습 불필요(training-free) 압축기 Geometry Guided Evidence Preserving Memory(GEM)를 제안한다. GEM은 과제당 평균 결합 토큰 사용량을 2.69M에서 2.11M으로 줄여 21.4% 감소시키면서, 유사한 수준의 과제 보상을 유지한다. 결과는 효율적인 에이전트 기록 압축이 기하 커버리지만이 아니라 보존된 과제 증거를 최적화해야 함을 보여준다.
Self-GC: Self-Governing Context for Long-Horizon LLM Agents
압축을 넘어서: 장기 수평 에이전트를 위한 구조화된 컨텍스트 제거
Beyond Compaction: Structured Context Eviction for Long-Horizon Agents
본 논문에서는 장기 수평(long-horizon) LLM 에이전트에게 사실상 무제한의 작업 범위를 제공하는 컨텍스트 관리 체계인 Context Window Lifecycle (CWL)을 제시합니다. 세션이 기록을 축적해 감에 따라 CWL은 단계적이고 의미를 인식하는 방식의 제거(eviction)를 통해 컨텍스트를 예산 내로 유지합니다. 즉, 에이전트는 작업 진행 중 자신의 궤적을 유형화되고 의존성이 연결된 에피소드로 주석 달고, 토큰 예산 초과 시 해당 구조 내에서 우선순위에 따라 콘텐츠를 제거하는 결정론적이며 LLM을 사용하지 않는 정책을 적용합니다. CWL은 사용자 턴과 에이전트가 현재 적극적으로 추론 중인 탐색적 컨텍스트는 보존하면서, 그 효과가 이미 환경에 반영된 행동 에피소드는 적극적으로 제거하여, 활성 컨텍스트를 안정적인 상한선 근처로 유지함으로써 매우 큰 프롬프트와 관련된 성능 저하를 방지합니다. 요약 기반 압축(compaction)과 비교할 때 CWL은 예측 불가능한 정보 손실, 인과 구조 파괴, 모델 비용에 의한 차단, 압축으로 인한 환각(hallucination)이라는 네 가지 잘 알려진 문제를 회피합니다. 최신성 기반 잘라내기(recency truncation)와 비교할 때 CWL은 의미를 인식합니다. 즉, 관련성 여부와 상관없이 시간 순서상 가장 오래된 콘텐츠를 삭제하는 대신, 의존성 그래프에 따라 가장 오래되었으면서도 복구 가능한 콘텐츠를 삭제합니다. 본 논문에서는 주석 프로토콜, 에피소드 그래프, 제거 정책, 토큰 계산 루프를 설명하고 장기 수평 에이전트 벤치마크에서 CWL을 평가합니다. 그 결과, 8,000만 토큰에 걸쳐 89개의 순차적 작업을 완료한 단일 에이전트 세션이 작업별 독립 세션에 비해 작업 정확도의 측정 가능한 저하 없이 수행되었습니다.
장기 작업 언어 에이전트의 두터운 꼬리 메모리 흔적
Heavy-Tailed Memory Traces in Long-Horizon Language Agents
MemTrace: 장기 코딩 에이전트를 위한 상태 일관적 메모리
MemTrace: State-Consistent Memory for Long-Horizon Coding Agents
코딩 에이전트(agent)가 여러 파일과 단계에 걸친 장기 소프트웨어 발전 작업을 수행함에 따라, 길어진 실행 궤적은 두 가지 연계된 문제를 야기합니다. (1) 누적된 이력으로 인해 컨텍스트 예산에 부담이 가중되고, (2) 저장소의 변경 사항으로 인해 이전 실행 근거의 유효성이 상실될 수 있습니다. 기존 접근 방식은 더 큰 컨텍스트 윈도우(context window), 압축, 검색 또는 저장소 표현과 같은 기법을 통해 이러한 문제를 해결하지만, 컨텍스트 갱신 후 일관된 작업 상태를 재구성하지 못하거나 회상된 근거가 여전히 유효한지 검증하지 못하는 경우가 많습니다. 이에 따라 본 논문에서는 실행 이력을 보존하고 변화하는 작업(예: 반복적인 파일 간 수정) 및 저장소 상태와 이력의 재사용을 정렬하는 출처 인식 메모리 시스템인 MemTrace를 제안합니다. MemTrace는 이력을 주요 정보(예: 파일, 심볼, 테스트)에 고정된 불변의 Memory Trace로 저장하며, 이들의 실행 순서와 의존성을 Memory Trace Graph로 구조화합니다. 컨텍스트가 제한될 때 작업 메모리는 컴팩트한 Memory Anchor만 유지하며, 에이전트는 이를 통해 최신 실행 상태를 재구성하고 다음 행동과 관련된 근거를 찾을 수 있습니다. 과거 근거를 복원하기 전에 MemTrace는 현재 저장소 상태에 대해 유효성을 검사하고 다음 행동에 필요한 정보만을 검색합니다. 세 가지 상호보완적인 장기 코딩 벤치마크(benchmark) 전반에서, MemTrace는 동일한 백본 및 하네스 조건 하에 완전히 평가된 모든 베이스라인을 일관되게 능가하여 Codex CLI 환경에서 DeepSWE pass@1을 21.2포인트, SWE-EVO 해결률(Resolved Rate)을 4.4포인트, SWE-Milestone 점수를 17.8포인트 향상시켰습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.