PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.11213v1cs.CL

압축을 넘어서: 장기 수평 에이전트를 위한 구조화된 컨텍스트 제거

Beyond Compaction: Structured Context Eviction for Long-Horizon Agents

본 논문에서는 장기 수평(long-horizon) LLM 에이전트에게 사실상 무제한의 작업 범위를 제공하는 컨텍스트 관리 체계인 Context Window Lifecycle (CWL)을 제시합니다. 세션이 기록을 축적해 감에 따라 CWL은 단계적이고 의미를 인식하는 방식의 제거(eviction)를 통해 컨텍스트를 예산 내로 유지합니다. 즉, 에이전트는 작업 진행 중 자신의 궤적을 유형화되고 의존성이 연결된 에피소드로 주석 달고, 토큰 예산 초과 시 해당 구조 내에서 우선순위에 따라 콘텐츠를 제거하는 결정론적이며 LLM을 사용하지 않는 정책을 적용합니다. CWL은 사용자 턴과 에이전트가 현재 적극적으로 추론 중인 탐색적 컨텍스트는 보존하면서, 그 효과가 이미 환경에 반영된 행동 에피소드는 적극적으로 제거하여, 활성 컨텍스트를 안정적인 상한선 근처로 유지함으로써 매우 큰 프롬프트와 관련된 성능 저하를 방지합니다. 요약 기반 압축(compaction)과 비교할 때 CWL은 예측 불가능한 정보 손실, 인과 구조 파괴, 모델 비용에 의한 차단, 압축으로 인한 환각(hallucination)이라는 네 가지 잘 알려진 문제를 회피합니다. 최신성 기반 잘라내기(recency truncation)와 비교할 때 CWL은 의미를 인식합니다. 즉, 관련성 여부와 상관없이 시간 순서상 가장 오래된 콘텐츠를 삭제하는 대신, 의존성 그래프에 따라 가장 오래되었으면서도 복구 가능한 콘텐츠를 삭제합니다. 본 논문에서는 주석 프로토콜, 에피소드 그래프, 제거 정책, 토큰 계산 루프를 설명하고 장기 수평 에이전트 벤치마크에서 CWL을 평가합니다. 그 결과, 8,000만 토큰에 걸쳐 89개의 순차적 작업을 완료한 단일 에이전트 세션이 작업별 독립 세션에 비해 작업 정확도의 측정 가능한 저하 없이 수행되었습니다.