LedgerAgent: 정책 준수 도구 호출 에이전트를 위한 구조화된 상태
LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents
고객 서비스 도메인의 정책 준수 도구 호출 에이전트는 도구를 호출하고 도메인 정책을 준수하면서 여러 턴에 걸쳐 작업 상태를 유지해야 합니다. 작업 상태는 사용자 상호작용과 도구 호출을 통해 관찰된 관련 사실, 식별자, 제약 조건 및 조건으로 구성됩니다. 표준 에이전트에서는 작업 상태가 별도로 표현되지 않습니다. 관찰 결과, 도구 반환값 및 정책 지침은 프롬프트에 배치되므로, 에이전트는 다음에 수행할 작업을 결정할 때마다 프롬프트에서 관련 상태를 재구성해야 합니다. 이러한 설계는 상태 관리를 암묵적으로 만들어 두 가지 일반적인 실패 모드를 야기합니다. 에이전트가 올바른 사실을 검색했더라도 나중에 오래되었거나 누락되었거나 잘못된 정보에 그라운딩(grounding)하여 결정을 내릴 수 있으며, 구문적으로 유효한 도구 호출이라도 현재 작업 상태에 의존하는 도메인 정책을 위반할 수 있습니다. 우리는 관찰된 작업 상태를 별도의 원장(ledger)에 유지하고 이를 프롬프트에 렌더링하는 도구 호출 에이전트를 위한 추론 시간 방법인 LedgerAgent를 소개합니다. 원장은 환경을 변경하는 도구 호출이 실행되기 전에 상태 의존적 정책 제약 조건을 확인하는 데에도 사용되어 정책 위반을 차단합니다. 4개의 고객 서비스 도메인과 오픈 및 클로즈드 가중치 모델의 혼합 패널에 걸쳐, LedgerAgent는 표준 프롬프트 기반 도구 호출 방식보다 평균 pass@k를 개선했으며, 특히 더 엄격한 다중 시도 일관성 메트릭에서 가장 큰 향상을 보였습니다.