arXiv:2609.30614v2 cs.CR

작성자가 아닌 대상: 에이전틱 데이터스페이스에서의 작성자성 위험

Subjects, Not Authors: The Authorship Hazard in Agentic Dataspaces

Seungho Lee, Changbin Lee

제출 2026-09-24

저자 비고

arXiv Comments

16 pages, 3 figures, 13 tables

한국어 초록

데이터스페이스 커넥터는 전송된 값에 무엇이 포함되어 있는지가 아니라 전송 발생 여부만을 결정하는데, 이는 계약된 애플리케이션에서는 허용될 수 있지만 도구 호출(tool call)을 구성하는 대규모 언어 모델(LLM) 에이전트(agent)에게는 그렇지 않습니다. 거버넌스 아티팩트를 생성하는 에이전트에 관한 연구는 아티팩트 사용을 누가 승인할 수 있는지가 아니라 출력 품질만을 평가합니다. 게시된 정책은 결정 지점이 강제하는 대상이므로 게시 자체는 하나의 거버넌스 이벤트이며, 정책의 대상(subject)이자 정책의 작성자(author)인 에이전트는 자신을 구속하는 규범을 직접 작성하게 됩니다. 본 연구에서는 이를 작성자성 위험(authorship hazard)이라 명명하고 한 가지 원칙을 제시합니다. 즉, 에이전트는 거버넌스 평면의 대상일 뿐 결코 그 작성자가 될 수 없다는 것입니다. 에이전트의 게시 권한 부여 경로는 구조적으로 차단되며, 인간이 승인할 내용을 초안 작성하는 에이전트의 영향력 경로는 집행의 문제가 됩니다. 본 논문의 실행 계약에 대해 사전에 등록된 90건의 수정 사항(각각 344,512건의 요청에 대해 평가됨) 중, 필드 재분류만을 수행하는 6건은 정책 텍스트를 건드리지 않고도 모두 권한 부여를 변경하고 의무를 축소했으며, 정책 차분(policy-diff) 분류기는 이 6건을 모두 통과시킵니다. 문자 그대로 해석할 경우 권한 델타(privilege-delta) 조건은 69건의 유효한 정책 텍스트 수정 중 33건을 통과시키지만, 모든 완화를 포괄하는 것으로 해석하면 한 건도 통과시키지 않습니다. 분류를 작성 행위로 취급하면 이 6건이 모두 검토로 전달되지만, 이에 필요한 레지스트리는 아직 구축되지 않았습니다. 실행 경계에서 보호된 필드는 프롬프트(prompt)로 명시된 의무 조건에서는 105건 중 105건 모두 모델(model)에 도달한 반면, 컴파일된 도구 호출 제약 조건에서는 105건 중 0건에 도달했으나 지정된 필드 외부의 값은 7건 중 7건 모두에서 노출되었습니다. 측정된 검토 비율에서 중앙 승인 풀은 참가자 20명에서 138명당 1명의 승인자를 필요로 합니다.

원문 초록

Dataspace connectors decide whether a transfer may occur, not what the transferred value contains, tolerable for contracted applications, not for LLM agents that compose tool calls. Work on agents that generate governance artifacts evaluates output quality, not who may authorize an artifact for use. A published policy is what the decision point enforces, so publication is a governance event, and agents that are both policy subjects and policy authors write the norms that bind them. We name this the authorship hazard and state one principle: an agent is a subject of the governance plane, never an author of it. Its authorization channel to publication is closed by construction; its influence channel, drafting what humans approve, becomes an enforcement problem. Across 90 preregistered edits to the paper's running agreement, each evaluated on 344,512 requests, the six that only reclassify a field all change authorization and narrow a duty without touching policy text, and a policy-diff classifier passes all six. Read as worded, the privilege-delta conditions also pass 33 of 69 effective policy-text edits; read as covering any relaxation, none. Treating classification as authorship routes all six to review; the registry this requires is not yet built. At the execution boundary, protected fields reach the model in 105 of 105 cases under prompt-stated duties and in 0 of 105 under a compiled tool-call constraint, but values outside named fields are exposed in 7 of 7. At the review share measured, a central approval pool needs one approver per 20 to 138 participants.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.30614v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2512.11147v2cs.CR공통 태그 access control

MiniScope: 최소 권한을 통한 에이전트 인가

MiniScope: Authorizing Agents with Least-Privilege Permissions

AI 에이전트(agent)가 민감한 사용자 데이터 및 타사 서비스에 자율적으로 접근하는 경우가 점점 늘어남에 따라, 효과적인 권한 관리가 핵심적인 보안 과제로 대두되고 있습니다. 그러나 기존 권한 모델(model)은 보안성과 사용 편의성 간의 균형을 맞추지 못하는 평면적 권한 구조에 의존하는 경우가 일반적입니다. 세분화된 확인 방식은 사용자의 피로를 유발하는 반면, 조잡한 단위의 승인이나 영구적인 승인은 에이전트에 과도한 권한이 부여되는 문제를 초래합니다. 이러한 트레이드오프를 해결하기 위해, 본 연구에서는 모든 도구 호출마다 별도의 권한 결정을 요구하는 대신 에이전트를 특정 작업 역할 내에서 작동하는 대리인으로 취급하는 작업 중심의 계층적 권한 모델을 제안합니다. 이 모델을 기반으로, 권한 계층 탐색을 자동화하고 런타임에 문맥적 최소 권한을 강제하는 엔드투엔드 에이전트 권한 시스템인 MiniScope를 제시합니다. 평가 결과, MiniScope는 도구별 프롬프트 방식에 비해 신중한 페르소나 및 일반적인 페르소나에서 시뮬레이션된 권한 확인 횟수를 43.4%~89.4% 줄였으며, 유용성과 런타임에 미치는 영향을 최소화하면서 모든 권한 상승 공격을 완화했습니다. 실제 환경에 적용했을 때, MiniScope는 ChatGPT와 Claude에서 6개의 과도한 권한이 부여된 커넥터 설정을 추가로 발견했습니다.

arXiv:2610.00347v1cs.CR공통 태그 access control

자기 수정 AI 에이전트 집단을 위한 인가: 교체, 포킹, 롤백 전반에 걸친 권한 보존

Authorization for Self-Modifying AI Agent Populations: Conserving Authority across Replacement, Forking, and Rollback

자기 수정(self-modifying) AI 에이전트는 후손이 계속 실행 가능한 상태를 유지하면서도 식별성을 지닌 소프트웨어를 교체(replace), 포크(fork), 롤백(roll back)할 수 있습니다. 그러나 후계자별(per-successor) 인가(authorization) 방식은 그로 인해 발생하는 에이전트 집단을 제약하지 못합니다. 즉, 형제 개체들이 쿼터를 복제하거나, 권한을 결합하거나, 조상 차단(ancestor cut) 후에도 살아남거나, 승격 도중 이전 개체와 중첩될 수 있습니다. 본 연구에서는 단일 부모 세대 포레스트(forest)의 활성 프런티어 전반에서 권한을 보존하는 '인가 승계(authorization succession)'를 정의합니다. 본 논문의 외부 프로토콜은 각 세대를 매니페스트, 루트, 고유한 부모, 완전한 계통(lineage), 새로운 집단 시퀀스에 바인딩합니다. 서로 독립적인 불변조건(invariants)을 통해 루트 생애주기 동안의 소비량과 현재 집단 노출을 제한합니다. 단계별 예약(staged reservation)을 통해 교체 중 이전 개체의 잔여 권한을 동결하는 한편, 분할 포크(partitioning fork)를 통해 완전한 자식 패밀리를 검증합니다. 각 커밋은 원자적(atomically)으로 이전 개체에 펜스를 치고 후계자들을 활성화합니다. 조상 차단은 종속된 후손들을 무효화하며, 롤백은 이미 소진된 권한을 복구하지 않고 새로운 세대를 생성하며, 새로운 루트는 독립적인 승인 부여를 요구합니다. 완전한 매개(complete mediation), 인증된 레코드, 건전한 효과 추상화(sound effect abstraction), 지속적인 단조 상태(durable monotone state), 완전한 계통 회계 처리를 바탕으로, 집단 안전 승계(population-safe succession), 포크 보존, 폐기 폐쇄(revocation closure), 원자적 인계, 롤백 시 재발행 방지(non-reminting), 자체 인증 배제를 증명합니다. 실행 가능한 평가는 직접 호출 및 메일박스 매핑을 통해 등록된 32개의 결정을 다룹니다(64/64 재생, 28건 허용, 36건 거부). 독립적인 검사기는 64개의 원본 트레이스를 모두 수락하고 28/28개의 의미론적 변연체(semantic mutants)를 거부하며, 12/12 프로파일 불변조건, 16/16 충돌 차단, 32/32 경쟁자 스케줄을 통과합니다. 두 개의 외부 어댑터는 새로운 프로세스 재시작, 원자적 승계, 이전 개체 거부를 포함하여 측정된 OurArk 및 Darwin Godel Machine 돌연변이 전반에서 32개의 결정을 모두 재현합니다. 이러한 결과는 등록된 보호 효과에 대한 인가 승계의 유효성을 입증합니다.

arXiv:2610.00371v1cs.MA공통 태그 access control

비활성화 없는 거부: 다중 에이전트 시스템을 위한 권한 결합 평가 및 제어

Deny Without Disabling: Authorization-Paired Evaluation and Control for Multi-Agent Systems

다중 에이전트(multi-agent) 시스템은 증거를 공유하고, 작업을 위임하며, 여러 에이전트에 걸쳐 정보를 결합함으로써 역량을 이끌어냅니다. 그러나 동일한 프로세스가 안전성(safety) 문제를 야기합니다. 단독으로는 허용되는 기여들이 결합하여 금지된 사용을 가능하게 만들 수 있기 때문입니다. 모든 민감한 작업을 차단하면 정보 유출은 방지되지만 협업의 목적이 훼손됩니다. 본 논문에서는 금지된 사용의 차단과 필요한 인가된 사용의 완료를 결합 성공 기준으로 삼는 권한 결합 평가(authorization-paired evaluation)와, 객체 확인(object resolution), 권한 순위화(permission ranking), 결정론적 집행(deterministic enforcement)을 연결하는 프레임워크인 FlowReview를 소개합니다. 통제된 결합 실험에서 결합된 산출물을 검토함으로써 인가된 공급의 손실 없이 거부된 커밋 비율을 86.0%에서 0으로 줄였습니다. 본 연구 결과는 정보와 계통(lineage)을 보존하는 것만으로는 올바른 권한 귀속을 보장하지 못함을 보여줍니다. 출력을 검증할 수 있는 컴포넌트를 통해 객체 식별성과 권한이 실행과 계속 연결되어 있어야 합니다. 종합적으로, 이러한 결과는 다중 에이전트 안전성에 대한 시스템 수준의 요구사항을 확립합니다. 즉, 협업을 유용하게 만드는 인가된 역량을 보존하면서 구성된 정보 흐름을 통제해야 한다는 점입니다.

arXiv:2609.24036v1cs.AI공통 태그 access control

신뢰할 수 있는 LLM 생성 접근 제어 정책을 위한 구조화된 분해

Structured Decomposition for Reliable LLM-Generated Access Control Policies

본 논문은 자연어 접근 제어 정책(NLACP)을 Open Policy Agent(OPA)용 실행 가능한 Rego 코드로 변환하는 LLM 기반 시스템을 제시한다. 정책 탐지, 구성 요소 추출, 스키마 검증, 린팅, 컴파일, 자동화된 테스트 생성 및 실행을 포함하는 모듈형 end-to-end 파이프라인을 제공한다. 이 시스템은 사람이 읽을 수 있는 접근 요구사항과 기계적으로 집행 가능한 policy-as-code(PaC) 사이의 간극을 메우도록 설계되었으며, 배포 신뢰성과 보안 정확성에 초점을 둔다. 구조화된 분해와 스키마 인식 검증의 기여를 분리하기 위해, subject·action·resource 주석이 비어 있지 않은 372개의 ACRE-complete 접근 제어 문장에 대해 단일 프롬프트 LLM 기준선과 비교하여 시스템을 평가한다. 시스템은 end-to-end 정책 정확도 50.3%를 달성했으며, 기준선 15.3% 대비 3.3배 개선이다. 정책은 컴파일, 린팅, 양성·음성 테스트를 모두 만족할 때만 올바른 것으로 집계하므로, 이는 배포 가능한 정확성에 대한 엄격한 척도이다. 보안에 중요한 패턴에서, 시스템은 deny 정책의 87.5%에 대해 올바른 deny 의미론을 생성했고(기준선: 37.5%), 소유권 조건이 붙은 정책 100%에 대해 소유권 조건을(기준선: 40%), 상태 한정 조건이 붙은 정책 100%에 대해 상태 한정 조건을(기준선: 55.6%) 생성했다. 이 결과는 구조화된 분해와 스키마 인식 검증이 LLM 생성 인가 정책의 신뢰성 향상에 핵심적인 역할을 함을 시사한다.

arXiv:2607.22611v1cs.AI공통 태그 access control

중요 인프라에서 에이전트형 AI 시스템을 위한 분산형 세분화 접근 제어

Decentralized Granular Access Control for Agentic AI Systems in Critical Infrastructure

프로덕션 인프라에 자율 AI 에이전트를 배치하면, 기존 역할 기반 접근 제어(RBAC) 모델로는 해결할 수 없는 근본적인 보안 과제가 발생한다. 결정론적 자동화와 달리 AI 에이전트는 확률적(stochastic) 행동을 보이므로, 중요 시스템에 대한 접근을 통제하기에 기존 신뢰 모델로는 불충분하다. 본 논문은 중요 클라우드 인프라에서 운영되는 에이전트형 AI 시스템을 위해 특별히 설계된 분산형 다계층 접근 제어 아키텍처를 제시한다. 우리 프레임워크는 네 가지 핵심 혁신을 도입한다: (1) 에이전트 행동을 위임된 인간 권한에 연결하는 복합 신원 모델, (2) 글로벌 플랫폼 접근부터 매개변수별 제약까지 다섯 단계의 세분화 수준에 걸친 계층적 권한 시스템, (3) 도구 팀이 각자의 인가 경계를 독립적으로 관리하는 분산형 정책 소유 모델, (4) 자율 에이전트가 고위험 작업을 실행하지 못하도록 하는 안전성 인터록(safety interlocks)을 갖춘 점진적 신뢰 상승. 우리는 설계를 대규모 언어 모델(LLM) 애플리케이션용 OWASP Top 10(2025) 위협 분류체계에 기반을 두고, 각 아키텍처 결정이 특정 공격 벡터를 어떻게 완화하는지 보여준다. 수백 개의 데이터센터에 걸친 네트워크 인프라를 관리하는 주요 클라우드 제공업체의 프로덕션 환경에 배포된 본 시스템은, 20개 이상의 전문 AI 에이전트와 60개 이상의 결정론적 플레이북에 대해 세분화된 접근 제어를 시행하며, 매일 수천 건의 작업을 처리하면서 8개월간의 프로덕션 배포 기간 동안 무단 쓰기 작업을 0건으로 유지했다. 우리는 접근 패턴 분포, 거부율, 그리고 비결정론적 행위자에 의한 권한 상승을 방지하는 다층 인가의 효과에 대한 실증 데이터를 제시한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.