PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.11007v1cs.AI

LLM 에이전트를 위한 상시 로드 컨텍스트 큐레이션: 중도절단 피드백을 갖는 용량 제한 구색 모델

Curating Always-Loaded Context for LLM Agents: A Capacitated Assortment Model with Censored Feedback

모든 세션이 시작될 때, 대규모 언어 모델(LLM) 에이전트는 $\texttt{AGENTS.md}$와 같은 고정된 컨텍스트 파일을 로드합니다. 파일에 로드된 각 토큰은 세션의 후속 라운드마다 반복해서 비용이 청구되며, 이러한 파일은 크기가 커질수록 성능을 저하시킬 수 있습니다. 그러나 실제로는 사람 또는 자동화된 큐레이터가 대개 내용을 덧붙이는(append) 방식으로 이러한 파일의 크기를 늘립니다. 본 연구에서는 컨텍스트 큐레이션을 용량 제한 구색 문제(capacitated assortment problem)로 정식화합니다. 지시문은 유한한 어텐션 용량 내에서 토큰을 소모하며, 지시문을 추가하더라도 다른 지시문의 준수율이 결코 높아지지 않는 반면 유지되는 지시문은 세션당 설정 비용(setup cost)을 발생시킵니다. 본 논문에서는 사용 가능한 후보 지시문의 수와 관계없이 최적 파일 크기의 상한을 증명하며, 단독 가치가 양수인 모든 지시문을 단순히 덧붙이는 방식이 최적의 부분 집합을 선택하는 것에 비해 순가치(net value) 측면에서 임의로 크게 악화될 수 있음을 증명합니다. 또한 토큰 예산은 토큰 가격이 과소평가되었을 때의 손실을 제한합니다. 이어 과거 세션으로부터 무엇을 학습할 수 있는지, 그리고 이 정보가 지시문의 추가 또는 제거 결정을 어떻게 이끌 수 있는지 살펴봅니다. 피드백은 본질적으로 중도절단(censored)되어 있습니다. 로드된 지시문의 이점과 위해는 관찰 가능한 반면, 누락된 지시문은 그 부재가 위해를 초래할 때만 피드백을 생성합니다. 이러한 환경에서 에이전트가 무시한 지시문을 삭제하는 것은 유용한 지시문까지 필연적으로 제거할 수 있음을 보입니다. 또한 지시문을 추가하기 전에 수집해야 하는 근거의 양을 특성화합니다. 아울러 인간 검토자가 기간당 제한된 수의 수정 사항만 검토할 수 있을 때의 후회(regret) 한계를 제시합니다. 실증 실험을 통해서도 실제 컨텍스트 파일에서 추출한 무관한 규칙들이 언어 모델의 준수율을 낮춘다는 점을 추가로 보입니다.

arXiv:2610.10590v1cs.AI

도구 사용 에이전트를 위한 에이전트 제어 망각: 실전에서의 가역적 컨텍스트 큐레이션

Agent-Controlled Forgetting for Tool-Using Agents: Reversible Context Curation in Practice

도구를 사용하는 에이전트(agent)는 원래의 페이로드보다 유용한 내용이 훨씬 적을 수 있는 관측 결과를 반복해서 전달받습니다. 본 연구에서는 에이전트 제어 망각을 다룹니다. 이는 행동하는 모델(model)이 이전에 관측된 도구 결과를 선택하여 원래 위치에서 짧은 메모로 대체하고, 복구 가능한 아카이브에 정확한 원본을 보관하는 방식입니다. 파이썬(Python) 하네스는 사용자 지시사항과 어시스턴트 메시지를 이러한 작업으로부터 보호하면서, 작업별 모델 학습(training) 없이 배치(batch) 아카이브 생성 및 명시적 복구 기능을 제공합니다. 탐색적 OpenTelemetry 디버깅 사례와 이후 이어진 무관한 구현 작업에서, 이 방법은 히스토리를 그대로 유지한 경우의 912,492개 대비 제공자 보고 기준 231,951개의 프롬프트(prompt) 토큰으로 끝났고, 누적 입력 토큰을 50% 적게 사용했으며, 추정 API 비용은 약 4.38달러 대비 1.28~1.44달러였습니다. 두 실험군 모두 두 사례의 주요 행동 오라클을 통과했으나, 후속 평가를 완전히 만족하지는 못했습니다. 제안된 방법은 더 많은 요청을 수행했고 17% 더 오랜 시간이 걸렸습니다. 이와 대조적인 애플리케이션 개발 쌍에서는 컨텍스트나 비용 절감이 발생하지 않았으며, 이전의 연속 작업에서는 컨텍스트 감소에도 불구하고 수동 평가 품질이 더 낮게 나타났습니다. 이러한 관찰 결과는 노이즈가 많은 도구 사용 궤적에서 상당한 자원 절감을 입증하며, 가역적 컨텍스트 관리에서 워크로드 의존성이 핵심 고려사항임을 보여줍니다.