AI 에이전트를 위한 설명 기반 도구 실행: 모델의 추론 근거를 맹신하지 않는 서버 검증 행동 클레임
Explanation-Bound Tool Execution for AI Agents: Server-Verified Action Claims Without Trusting Model Rationales
한국어 초록
도구를 사용하는 에이전트(agent)는 구조화된 호출을 수행하지만 일반적으로 자유 형식의 근거(rationale)를 덧붙입니다. 이러한 근거는 인가(authorization) 수단이 될 수 없으며, 신뢰할 만한 자기 성찰(introspection) 결과도 아닙니다. 본 연구에서는 의사결정과 관련된 근거 내용을 타입이 지정된 행동 클레임(action claim)으로 변환하고, 이를 서버 측이 보유한 의도, 정책, 페이로드, 도구, 위험, 출처(provenance), 최신성(freshness) 정보와 대조하여 검증하는 클레임 전달 매개 층인 설명 기반 도구 실행(EBTE, Explanation-Bound Tool Execution)을 제안합니다. EBTE는 기준선(baseline) 권한을 임의로 확장할 수 없습니다. 즉, 불일치가 발생하면 거부(deny)되고, 불완전하거나 불확실한 클레임은 검토(review) 단계로 넘어가며, 일치하는 클레임만이 통제된 실행 자격을 얻습니다. 본 논문에서는 명시적 중재 및 신뢰된 사실 가정을 기반으로 이러한 구성을 정형화하고, 최소화된 감사 패킷을 갖춘 버전 관리형 참조 프로파일을 구현합니다. 작성된 136건의 적합성(conformance) 시나리오 전반에서 전체 프로파일은 명시된 모든 처리 결과와 일치하였으며, 지정된 96건의 중대한 모순(hard contradiction)을 하나도 허용하지 않았고, 232건의 메타모픽(metamorphic) 검사를 통과했습니다. 드래프트 전용 참조 통합 환경에서는 EBTE 적용 시 48건의 작성된 고난도 사례를 전혀 통과시키지 않으면서도 16건의 소프트 검토 경로와 4건의 정렬된 드래프트 경로를 온전히 보존했습니다. 2026-07-12 기준 동결된 224회 시도의 탐색적 호스팅 모델 기록에서 기존 생성/러너(runner) 일치 건수는 각각 71/96, 66/96, 19/32였으며, 현재 파이프라인에서 보존된 최소화 클레임을 제로 호출(zero-call)로 재검증한 결과 70/96, 65/96, 17/32의 일치 건수를 기록했습니다. AgentDojo 기반 시맨틱 검사에서는 기존 고위험 제어 체계가 12건의 공격 제안을 모두 비허용(non-allow) 처리한 반면, EBTE는 작업-제안 간의 모순을 거부(deny)로 해결했습니다. 이러한 실험 결과들을 종합하면 프로파일 적합성을 확립할 수 있으며, 평가된 환경 내에서 서버 검증 행동 클레임의 실현 가능성을 입증할 수 있습니다.
원문 초록
Tool-using agents expose structured calls but commonly attach free-form rationales. Such rationales are neither authorization nor reliable introspection. We present Explanation-Bound Tool Execution (EBTE), a claim-carrying mediation layer that converts decision-relevant rationale content into typed action claims and checks them against server-held intent, policy, payload, tool, risk, provenance, and freshness facts. EBTE cannot widen baseline authority: conflicts deny, incomplete or uncertain claims review, and only matching claims remain eligible for governed execution. We formalize this composition under explicit mediation and trusted-fact assumptions and implement a versioned reference profile with minimized audit packets. Across 136 authored conformance scenarios, the full profile matches all specified dispositions, admits none of 96 designated hard contradictions, and passes 232 metamorphic checks. A draft-only reference integration forwards none of 48 authored hard cases under EBTE while preserving all 16 soft-review and 4 aligned draft paths. In a frozen 2026-07-12 exploratory 224-attempt hosted-model record, the historical generation/runner agreement counts are 71/96, 66/96, and 19/32; a zero-call revalidation of the preserved minimized claims under the current pipeline yields 70/96, 65/96, and 17/32. In an AgentDojo-derived semantic check, existing high-risk controls make all 12 attack proposals non-allow, while EBTE resolves the task--proposal contradictions as deny. Together, these studies establish profile conformance and demonstrate the feasibility of server-checked action claims within the evaluated settings.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.25364v3제출 시각 미확인
- arXiv:2607.25364v2제출 시각 미확인
- arXiv:2607.25364v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.