에이전트 신뢰 인프라(ATI): 조직 간 자율 AI 에이전트를 위한 연합 신원·신뢰·증명·책임 추적 아키텍처
Agent Trust Infrastructure (ATI): A Federated Identity, Trust, Attestation, and Accountability Architecture for Cross-Organization Autonomous AI Agents
한국어 초록
AI 에이전트가 조직 경계를 넘어 협력하고, 도구를 호출하며, 독립된 주체가 운영하는 에이전트와 상호작용하는 일이 늘고 있다. 기존 에이전트 프레임워크는 계획 수립과 조율을 지원하지만, 다른 조직의 에이전트 신원, 실행 무결성, 권한을 검증할 공통 수단이 없다. 공개키 기반 구조(PKI), 제로 트러스트 아키텍처(ZTA), 원격 증명에 기반한 프레임워크 독립적 보안 아키텍처인 에이전트 신뢰 인프라(ATI)를 제안한다. ATI는 조직별 에이전트 인증 기관(AgentCA)이 서로 신뢰하는 방식으로 공통 루트 인증 기관 없이 연합 신뢰를 구축한다. 요청을 실행하기 전에 에이전트 인증서가 유효한지 확인하고 모델, 도구, 시스템 프롬프트의 구성이 승인된 것인지 검증한 뒤 세 가지 정책 검사로 권한을 적용한다. 기반 모델을 수정하지 않고도 기존 에이전트 프레임워크에 통합할 수 있도록 ATI를 외부 보안 집행 계층으로 구현했다. 조직 8개가 참여하는 모의 연합 환경에서 에이전트 프레임워크 6종을 평가했으며, 프레임워크별로 에이전트 5개로 구성된 팀을 배치했다. 두 조직이 참여하는 보안 실험에서는 에이전트 모델 5종으로 공격 시나리오 14개와 정상 과제 6개를 평가했다. 공격 변형 5개를 사용하고 변형마다 3회 반복했다. 여러 판정 모델이 실험 결과를 평가했다. 모든 집행 장치를 활성화하면 공격 차단율은 43%에서 84%로 높아졌다. 모든 설정에서 공통으로 평가한 공격 시나리오 11개에서는 40%에서 80%로 높아졌다. 보안 집행에 따른 추가 지연은 요청당 약 174마이크로초였다. ATI는 프레임워크에 종속되지 않는 공개 소스 패키지로 공개됐다. 신원과 요청 검증에는 IETF WIMSE의 워크로드 토큰 형식을, 모델·도구·시스템 프롬프트의 무결성 검증에는 Entity Attestation Token을 사용한다.
원문 초록
AI agents increasingly collaborate across organizational boundaries, invoking tools and interacting with agents operated by independent entities. Although existing agent frameworks support planning and coordination, they lack a common mechanism for verifying cross-organizational agent identity, execution integrity, and authorization. We propose the Agent Trust Infrastructure (ATI), a framework-independent security architecture built on Public Key Infrastructure (PKI), Zero Trust Architecture (ZTA), and remote attestation. ATI establishes federated trust through peer organizational certificate authorities (AgentCAs), eliminating the need for a shared root authority. Before executing requests, ATI validates agent certificates, verifies approved model, tool, and system-prompt configurations, and enforces authorization through three policy checks. We implement ATI as an external security enforcement layer that integrates with existing agent frameworks without modifying their underlying models. We evaluate ATI in a simulated federation of eight organizations using six agent frameworks, each deploying a five-agent team. Security experiments involve two organizations and assess 14 attack scenarios and six benign tasks across five agent models, using five attack variations and three repetitions per variation. A panel of judge models evaluates the experimental outcomes. With all enforcement mechanisms enabled, attack containment increases from 43% to 84% (40% to 80% for the 11 attack scenarios evaluated consistently across all configurations), while enforcement introduces approximately 174 microseconds of overhead per request. ATI is released as an open-source, framework-independent package that uses IETF WIMSE workload token formats for identity and request verification and Entity Attestation Tokens for model, tool, and system-prompt integrity verification.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23202v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.