PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27276v1cs.AI

DRSR: 효율적인 장기 지평 에이전트를 위한 집합 수준 삭제 위험 학습

DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents

장기 지평 언어 모델 에이전트는 추론 추적, 도구 교환, 관측을 축적하며, 이들의 관련성은 현재 의사결정에 따라 달라진다. 기존 압축 전략은 종종 과거 단위를 독립적으로 점수화하지만, 여러 단위를 삭제하는 것의 안전성은 일반적으로 각 단위의 개별 점수만으로 결정되지 않는다. 중복 증거, 누적된 미세 효과, 삭제 후 남는 정보가 모두 중요하다. 우리는 에이전트 이력 압축을 삭제 집합에 대한 위험 제약 선택 문제로 공식화하는 Direct Relational Set-Risk Pruning(DRSR)을 제안한다. 오프라인에서 DRSR은 프로토콜상 유효한 이력 Block을 공동으로 삭제하고, 동일하게 기록된 다음 출력에 대한 teacher-forced 가능도 변화를 측정하여 정확한 반사실(counterfactual) supervision을 구성한다. 경량 scorer는 후보 이력과 현재 행동 전(pre-action) 상태 사이의 온라인에서 관측 가능한 관계, 삭제-유지 및 pairwise 집합 구조와 함께 집합 수준 해로함을 예측한다. 배포 시 DRSR은 경량 scorer로 구조적으로 유효한 소수의 삭제 후보를 평가하고, 최근성, 프로토콜, 예산, 학습된 위험 제약 하에서 제거 가능한 최대 집합을 제거하며, 충분히 안전한 집합이 없으면 삭제를 보류(abstention)한다. WorkBuddyBench Full260에서 DRSR은 평균 보상을 0.699에서 0.802로 높이는 동시에 총 모델 토큰을 20.820% 줄인다. 고정된 Eval40 비교에서, 압축하지 않은 에이전트 대비 35.850% 적은 토큰을 사용하며 작업당 1.211M 토큰에서 0.794 보상을 달성한다. 기전 분석과 ablation은 또한 의사결정 조건부 관계, 유지된 컨텍스트 정보, 쌍 상호작용, 보류(abstention)가 각각 신뢰할 수 있는 가지치기에 기여함을 보여준다.