PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.22961v1cs.CR

조직 경계를 넘는 에이전트적 신뢰: 구조적 외부화와 신뢰 증거를 위한 참조 모델

When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence

에이전트 시스템은 점점 더 조직 경계를 넘어 도구, 서비스, 데이터 및 다른 에이전트를 호출하지만, 의존 당사자(relying party)는 위임된 행동을 생산 도메인의 통제와 기록만으로 평가할 수 없다. 본 논문은 신뢰할 수 있는 AI 거버넌스, 에이전트 보안, 분산 신뢰 관리, 신원(identity), 출처(provenance), 보증(assurance), 제어 평면(control-plane) 연구를 종합하여 서비스로서의 신뢰성(Trustworthiness as a Service, TaaS)을 정립한다. 분석 단위는 발행자(issuer), 대상(subject)과 행동(action), 의존 당사자, 행정 경계(administrative boundary), 증거 의존성(evidence dependencies), 불리한 조건(adverse condition), 그리고 요구되는 검증 또는 심사(adjudication) 의미론을 명명하는 교차 도메인 의존 명제(cross-domain reliance proposition)이다. 세 가지 조건의 구조적 외부화(structural-externalization) 진단은 여러 도메인에 의존하고, 생산자 독립적 의존(producer-independent reliance)을 요구하며, 철회, 실패, 상충하는 기록, 또는 분쟁 이후에도 검토 가능(reviewable)해야 하는 명제를 식별한다. 이러한 명제에 대해 논문은 신뢰 증거 봉투(trust-evidence envelope)를 규정한다: 변경 불가능한 워크플로 매니페스트를, 과제 범위 권한(task-scoped authority), 정책 및 실행 결정, 출처, 유효성, 공개(disclosure), 상태, 이의 제기(challenge), 복구(recovery)에 대한 발행자 귀속(issuer-attributed), 추가 전용(append-only) 증명(attestation)과 연결한다. 토폴로지 중립(topology-neutral) 논리 참조 모델은 이러한 기능을 명시적 역할과 신뢰 도메인(trust domain)에 배치한다. 세 가지 분석 시나리오와 TaaS-Eval 프로토콜 제안은 매니페스트, 독립 소비자(independent consumer), 하드 게이트(hard gate), 적대적 증거 시험(adversarial evidence test), 지표, 재현 가능한 산출물 보고를 정의한다. 신원, 권한 부여(authorization), 출처, 보증, 거버넌스 메커니즘을 경계가 있는 위임 행동(bounded delegated action) 주위로 구성함으로써 TaaS는 교차 도메인 의존을 위한 재사용 가능한 프로파일을 제공한다. 이는 증거 의존성, 독립 검증, 이의 제기, 복구를 명시화하여 상호운용 가능한 거버넌스와 생산자 주장을 근거 진실(ground truth)로 취급하지 않는 향후 평가를 지원한다.