ESCROW: 정책 기반 엔터프라이즈 워크플로 내 에이전트를 위한 보호 및 이중 목표 지속적 유지보수
ESCROW: Guarded and Dual-Objective Continual Maintenance for Agents in Policy-Governed Enterprise Workflows
대규모 언어 모델(LLM) 에이전트는 규칙을 일관되게 적용하고 감사 가능성을 유지해야 하는 정책 기반 엔터프라이즈 워크플로를 점점 더 많이 수행하고 있습니다. 이러한 에이전트를 배포하는 것은 장기 유지보수 주기의 시작에 불과합니다. 에이전트는 지속적인 운영 신호 스트림에 적응해야 하지만, 희소하고 라벨이 지정되지 않은 이러한 신호를 재사용 가능한 스킬 수정안으로 안정적으로 전환하는 것은 어렵습니다. 또한 부주의한 업데이트는 전체적인 이득을 위해 특정 작업 범주의 정확도를 희생시키거나, 이미 해결된 오류를 다시 발생시키거나, 배포 불가능한 비용 수준에 도달할 위험이 있습니다. 본 논문에서는 엄격한 업데이트 경계(Strict Update Boundary) 하에서 에이전트의 외부 검토 가능 스킬을 업데이트하는 사후 배포 유지보수 프레임워크인 ESCROW를 제안합니다. 여기서는 LLM이 후보 수정안을 제안하지만, 실증적으로 평가된 버전만 배포됩니다. ESCROW는 합의 기반 분산 진단, 범주별 비퇴행 가드(non-regression guard), 주기 간 퇴행 방지, 정확도-비용 파레토(Pareto) 탐색을 결합하여 변경 사항마다 버전이 지정되고 감사가 가능한 diff를 출력합니다. 자체 내부 금융 문서 감사 시스템의 실제 운영 환경에서 ESCROW는 공개 $\tau$-bench에 대한 전이 프로브와 함께 베이스라인 중 가장 우수한 평가 정확도-비용 절충(trade-off)을 달성했습니다.