arXiv:2512.11147v2 cs.CR

MiniScope: 최소 권한을 통한 에이전트 인가

MiniScope: Authorizing Agents with Least-Privilege Permissions

Jinhao Zhu, Xiao Huang, Kevin Tseng, Gil Vernik, Shishir G. Patil, Vivian Fang, Raluca Ada Popa

제출 2025-12-11

한국어 초록

AI 에이전트(agent)가 민감한 사용자 데이터 및 타사 서비스에 자율적으로 접근하는 경우가 점점 늘어남에 따라, 효과적인 권한 관리가 핵심적인 보안 과제로 대두되고 있습니다. 그러나 기존 권한 모델(model)은 보안성과 사용 편의성 간의 균형을 맞추지 못하는 평면적 권한 구조에 의존하는 경우가 일반적입니다. 세분화된 확인 방식은 사용자의 피로를 유발하는 반면, 조잡한 단위의 승인이나 영구적인 승인은 에이전트에 과도한 권한이 부여되는 문제를 초래합니다. 이러한 트레이드오프를 해결하기 위해, 본 연구에서는 모든 도구 호출마다 별도의 권한 결정을 요구하는 대신 에이전트를 특정 작업 역할 내에서 작동하는 대리인으로 취급하는 작업 중심의 계층적 권한 모델을 제안합니다. 이 모델을 기반으로, 권한 계층 탐색을 자동화하고 런타임에 문맥적 최소 권한을 강제하는 엔드투엔드 에이전트 권한 시스템인 MiniScope를 제시합니다. 평가 결과, MiniScope는 도구별 프롬프트 방식에 비해 신중한 페르소나 및 일반적인 페르소나에서 시뮬레이션된 권한 확인 횟수를 43.4%~89.4% 줄였으며, 유용성과 런타임에 미치는 영향을 최소화하면서 모든 권한 상승 공격을 완화했습니다. 실제 환경에 적용했을 때, MiniScope는 ChatGPT와 Claude에서 6개의 과도한 권한이 부여된 커넥터 설정을 추가로 발견했습니다.

원문 초록

AI agents are increasingly granted autonomous access to sensitive user data and third-party services, making effective permission management a critical security challenge. Existing permission models, however, typically rely on flat permission structures that fail to balance security with usability: fine-grained confirmation induces user fatigue, while coarse-grained or persistent approval leads to overprivileged agents. To address this tradeoff, we propose a task-centric, hierarchical permission model that treats an agent as a delegate operating within a task-specific role instead of requiring a separate permission decision for every tool call. Building on this model, we present MiniScope, an end-to-end permission system for agents that automates permission-hierarchy discovery and enforces contextual least privilege at runtime. Our evaluation shows that MiniScope reduces simulated permission confirmations by 43.4%-89.4% for cautious and typical personas relative to per-tool prompting and mitigates all privilege-escalation attacks with negligible impact on utility and runtime. Applied to real-world deployments, MiniScope further uncovers six overprivileged connector configurations in ChatGPT and Claude.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2512.11147v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22445v1cs.AI공통 태그 agent security, access control, least privilege

기업 AI 에이전트를 위한 동적 권한 범위 지정: 합성 데이터셋과 3원천 권한 아키텍처

Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture

기업 AI 에이전트는 일반적으로 구성 시점에 정적 자격 증명 집합이 부여되며, 수행하는 모든 작업에 대해 해당 역할이 필요할 수 있는 모든 도구를 보유한다. 이러한 지속적인 과도한 권한은 공격 표면을 확대한다. 우리는 권한 범위 지정(capability scoping)이 동적 최소 권한 원칙을 따라야 하며, 탐지 메커니즘보다 예방 메커니즘으로 취급되어야 한다고 주장한다. 에이전트의 컨텍스트에 존재하지 않는 자격 증명은 에이전트의 추론이나 회피 정교함과 관계없이 오용될 수 없다. 우리는 이 원칙을 구현하는 3원천 아키텍처를 개요한다: 역할 기반 상한, 작업 컨텍스트 분류기, 정책 기반 조합 금지가 LLM 에이전트의 정렬 실패(misalignment) 및 오용 사례에 대한 계층적 선제적 방어를 형성한다. 이 아키텍처는 강제(enforcing) 및 관찰 전용(observe-only) 배포를 모두 지원한다. 후자는 작업 컨텍스트와 일치하지 않는 에이전트의 권한 요청을 기록하여, 정렬 실패(misalignment) 연구에 활용할 수 있는 행동 신호를 생성한다. 이 아키텍처를 평가하기 위한 첫 단계로, 우리는 다부서 회사 정책에 기반한 600개의 기업 작업 프롬프트로 구성된 합성 데이터셋을 기여한다. 이 데이터셋은 배포 가능한 자격 증명 또는 강제 가능한 가드레일에 직접 매핑되는 15개 권한 도구 기반 분류 체계에 걸쳐 최소 필요 권한으로 라벨링되어 있다. 데이터셋은 순환성을 피하기 위해 프롬프트 생성과 권한 라벨링을 분리한 2단계 파이프라인으로 구성되며, 60개 레코드/688개 결정에 대한 인간 검토 샘플에 대해 검증되었다(Cohen's $κ= 0.917$ 사전 검토, $κ= 0.967$ 사후 검토). 데이터셋과 정책 간 반복 작업은 상한 위반을 46건에서 3건으로 줄였으며, 93% 감소를 달성했다. 이는 두 요소를 함께 개발할 때 합성 프롬프트 생성이 정책 개선을 이끌 수 있음을 보여준다. 데이터셋, 환경 명세, 생성 파이프라인은 동적 범위 지정 메커니즘의 평가를 지원하기 위해 공개된다.

arXiv:2607.09744v1cs.AI공통 태그 access control, least privilege

AI에서의 최소 자율성 이론

A Theory of Least Autonomy in AI

최소 권한(least privilege)은 신원이 자신의 작업에 엄격히 필요한 권한만을 보유해야 한다는 원칙으로, 수십 년간 접근 제어의 근본적인 기초 개념이었다. 우리는 이 원칙이 에이전트형 AI 시스템에는 불충분하다고 주장한다. 에이전트형 AI 시스템은 단순히 권한을 보유하는 것이 아니라 워크플로우와 시스템 경계를 넘어 권한을 조합하고, 승인하고, 증폭시킬 수 있기 때문이다. 우리는 최소 자율성(least autonomy)을 적절한 일반화로 제안하고 형식적 이론을 전개한다. 첫째, 우리는 기업 계층 구조 내 행위들 간의 구조적 분리를 측정하는 합성적 폭발 반경(compositional blast radius) d(a,b)를 정의한다. 이는 울트라메트릭 트리(ultrametric tree)와 격자값 기밀성(confidentiality), 무결성(integrity), 제어 컨텍스트 레이블을 결합한다. 둘째, 우리는 방향성 에이전트 영향 그래프 G(theta)를 정의한다. U에서 V로의 아크는 방향성 공유 자원 쓰기-읽기 교점(write-to-read meeting) 또는 보수적 무방향 에이전트-간(A2A) 통신 교점, 그리고 외부에서 선택된 정책 임계값 theta 이상의 교점 조건부 영향 잠재력을 필요로 한다. 카탈로그 반경 프로파일은 theta의 보정과 감사를 지원한다. 마지막으로, 우리는 그래프 도달 가능성에 대한 공모 술어(collusion predicate)를 정의하여 권한 합성, 의사결정 조작, 교차 도메인 역량 합성을 탐지한다.

arXiv:2609.30614v2cs.CR공통 태그 access control

작성자가 아닌 대상: 에이전틱 데이터스페이스에서의 작성자성 위험

Subjects, Not Authors: The Authorship Hazard in Agentic Dataspaces

데이터스페이스 커넥터는 전송된 값에 무엇이 포함되어 있는지가 아니라 전송 발생 여부만을 결정하는데, 이는 계약된 애플리케이션에서는 허용될 수 있지만 도구 호출(tool call)을 구성하는 대규모 언어 모델(LLM) 에이전트(agent)에게는 그렇지 않습니다. 거버넌스 아티팩트를 생성하는 에이전트에 관한 연구는 아티팩트 사용을 누가 승인할 수 있는지가 아니라 출력 품질만을 평가합니다. 게시된 정책은 결정 지점이 강제하는 대상이므로 게시 자체는 하나의 거버넌스 이벤트이며, 정책의 대상(subject)이자 정책의 작성자(author)인 에이전트는 자신을 구속하는 규범을 직접 작성하게 됩니다. 본 연구에서는 이를 작성자성 위험(authorship hazard)이라 명명하고 한 가지 원칙을 제시합니다. 즉, 에이전트는 거버넌스 평면의 대상일 뿐 결코 그 작성자가 될 수 없다는 것입니다. 에이전트의 게시 권한 부여 경로는 구조적으로 차단되며, 인간이 승인할 내용을 초안 작성하는 에이전트의 영향력 경로는 집행의 문제가 됩니다. 본 논문의 실행 계약에 대해 사전에 등록된 90건의 수정 사항(각각 344,512건의 요청에 대해 평가됨) 중, 필드 재분류만을 수행하는 6건은 정책 텍스트를 건드리지 않고도 모두 권한 부여를 변경하고 의무를 축소했으며, 정책 차분(policy-diff) 분류기는 이 6건을 모두 통과시킵니다. 문자 그대로 해석할 경우 권한 델타(privilege-delta) 조건은 69건의 유효한 정책 텍스트 수정 중 33건을 통과시키지만, 모든 완화를 포괄하는 것으로 해석하면 한 건도 통과시키지 않습니다. 분류를 작성 행위로 취급하면 이 6건이 모두 검토로 전달되지만, 이에 필요한 레지스트리는 아직 구축되지 않았습니다. 실행 경계에서 보호된 필드는 프롬프트(prompt)로 명시된 의무 조건에서는 105건 중 105건 모두 모델(model)에 도달한 반면, 컴파일된 도구 호출 제약 조건에서는 105건 중 0건에 도달했으나 지정된 필드 외부의 값은 7건 중 7건 모두에서 노출되었습니다. 측정된 검토 비율에서 중앙 승인 풀은 참가자 20명에서 138명당 1명의 승인자를 필요로 합니다.

arXiv:2610.02569v1cs.CR공통 태그 agent security

Pincer: 디지털 트윈을 활용한 에이전트의 리소스 권한 부여

Pincer: Resource Authorization for Agents using a Digital Twin

코딩 에이전트(agent)는 점점 더 장기적인 과제를 수행하고, 자율화되며, 범용 셸에 의존하고, 자체 개선을 위해 영구 메모리를 유지하도록 발전하고 있습니다. 이러한 기능 덕분에 에이전트는 더욱 강력해졌지만, 외부 공격자로부터 방어하기는 더욱 어려워졌습니다. 타입 기반 도구, 정보 흐름 제어, 정책 예측 엔진과 같이 이러한 아키텍처를 제한하는 방어 방식은 채택하기에는 너무 많은 기능을 희생시킵니다. 현재 배포된 에이전트(예: Claude, Codex)는 주요 방어 수단으로 사용자 중재형 샌드박싱과 자동 모드 샌드박싱의 결합에 의존합니다. 사용자 중재형 샌드박싱에서는 사용자가 관리하는 정책이 시간이 지남에 따라 약화되고 반복적인 권한 요청으로 사용자 피로가 발생하는 반면, 자동 모드의 도구 호출 분류기는 사용자별 정책을 학습하지 않으며 적대적 설정에 대한 방어를 목적으로 하지 않습니다. Pincer는 리소스 층(layer)에서 작동하며 자동 모드와 같은 도구 호출 층의 기존 방어 체계와 함께 작동하는 새로운 방어 방식입니다. Pincer의 핵심에는 격리된 컨텍스트 모델(model)인 디지털 트윈이 있으며, 이는 동적인 사용자별 최소 권한 정책을 자동으로 학습하고 시행합니다. 디지털 트윈은 사용자의 선호도를 지속적으로 학습하여 에이전트의 권한 요청에 대해 사용자의 대리인 역할을 수행할 수 있도록 합니다. 학습 단계를 모사하기 위해, 수일에 걸친 사용자-에이전트 상호작용 트랜스크립트를 따르는 예제를 포함한 새로운 사용자 중심 데이터셋(dataset)을 제안합니다. 평가 결과, Pincer는 다양한 대규모 언어 모델(LLM) 판정관 변형 및 Conseca(HotOS '25)의 적응 버전을 포함한 여러 베이스라인과 비교하여 보안성과 유용성 모두에서 뛰어난 성능을 보였습니다. Pincer의 설계가 다른 모든 베이스라인에 비해 현저한 보안 향상을 가져오는 공격 유형을 조명하며, 다른 유형의 공격에 대해서도 베이스라인을 능가함을 보입니다.

arXiv:2607.23147v2cs.CR공통 태그 agent security

거짓 예언자: 에이전트 시스템 내 월드 모델의 보안성에 대하여

False Prophets: On the Security of World Models in Agentic Systems

대규모 언어 모델(LLM)은 이제 다양한 환경에서 복잡한 다단계 작업을 수행할 수 있는 자율 에이전트의 기반이 되고 있습니다. 이러한 작업을 정확하고 안정적으로 수행하려면 에이전트가 자신의 행동 결과를 예측해야 합니다. 최근 연구에서는 특별히 학습된 환경 시뮬레이터인 월드 모델(world model)을 통해 이러한 예측 능력을 향상시킬 것을 제안합니다. 월드 모델은 성능을 향상시킬 수 있지만, 에이전트가 유해한 행동을 실행하도록 오도하여 심각한 보안 및 개인정보 보호 위험을 초래할 수도 있습니다. 본 논문에서는 에이전트 시스템에서 월드 모델을 사용하는 것에 대한 보안 우려를 제기합니다. 저자들은 터미널 기반 에이전트에서 악성 코드를 실행하거나 민감한 데이터를 탈취하는 데 악용될 수 있는 월드 모델 특화 취약점들을 발견했습니다. 향후 발전을 촉진하기 위해 텍스트 기반 월드 모델용으로 설계된 보안 벤치마크 데이터셋을 소개합니다. 저자들은 일부 위험이 근사 월드 모델링(approximate world modeling)에 내재되어 있다고 주장하며, 공격자가 에이전트 파이프라인에서 최대 95%의 성공률로 오예측을 유도할 수 있음을 보입니다. 이는 의도치 않은 명령어 실행, 서비스 거부(DoS), 지갑 자금 유출 및 개인정보 탈취로 이어질 수 있습니다. 마지막으로, 발견된 위해를 완화하고 에이전트 시스템을 강화하기 위해 실무자를 위한 실용적인 권장사항을 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.