AI 에이전트(agent)가 민감한 사용자 데이터 및 타사 서비스에 자율적으로 접근하는 경우가 점점 늘어남에 따라, 효과적인 권한 관리가 핵심적인 보안 과제로 대두되고 있습니다. 그러나 기존 권한 모델(model)은 보안성과 사용 편의성 간의 균형을 맞추지 못하는 평면적 권한 구조에 의존하는 경우가 일반적입니다. 세분화된 확인 방식은 사용자의 피로를 유발하는 반면, 조잡한 단위의 승인이나 영구적인 승인은 에이전트에 과도한 권한이 부여되는 문제를 초래합니다. 이러한 트레이드오프를 해결하기 위해, 본 연구에서는 모든 도구 호출마다 별도의 권한 결정을 요구하는 대신 에이전트를 특정 작업 역할 내에서 작동하는 대리인으로 취급하는 작업 중심의 계층적 권한 모델을 제안합니다. 이 모델을 기반으로, 권한 계층 탐색을 자동화하고 런타임에 문맥적 최소 권한을 강제하는 엔드투엔드 에이전트 권한 시스템인 MiniScope를 제시합니다. 평가 결과, MiniScope는 도구별 프롬프트 방식에 비해 신중한 페르소나 및 일반적인 페르소나에서 시뮬레이션된 권한 확인 횟수를 43.4%~89.4% 줄였으며, 유용성과 런타임에 미치는 영향을 최소화하면서 모든 권한 상승 공격을 완화했습니다. 실제 환경에 적용했을 때, MiniScope는 ChatGPT와 Claude에서 6개의 과도한 권한이 부여된 커넥터 설정을 추가로 발견했습니다.
기업 AI 에이전트는 일반적으로 구성 시점에 정적 자격 증명 집합이 부여되며, 수행하는 모든 작업에 대해 해당 역할이 필요할 수 있는 모든 도구를 보유한다. 이러한 지속적인 과도한 권한은 공격 표면을 확대한다. 우리는 권한 범위 지정(capability scoping)이 동적 최소 권한 원칙을 따라야 하며, 탐지 메커니즘보다 예방 메커니즘으로 취급되어야 한다고 주장한다. 에이전트의 컨텍스트에 존재하지 않는 자격 증명은 에이전트의 추론이나 회피 정교함과 관계없이 오용될 수 없다. 우리는 이 원칙을 구현하는 3원천 아키텍처를 개요한다: 역할 기반 상한, 작업 컨텍스트 분류기, 정책 기반 조합 금지가 LLM 에이전트의 정렬 실패(misalignment) 및 오용 사례에 대한 계층적 선제적 방어를 형성한다. 이 아키텍처는 강제(enforcing) 및 관찰 전용(observe-only) 배포를 모두 지원한다. 후자는 작업 컨텍스트와 일치하지 않는 에이전트의 권한 요청을 기록하여, 정렬 실패(misalignment) 연구에 활용할 수 있는 행동 신호를 생성한다. 이 아키텍처를 평가하기 위한 첫 단계로, 우리는 다부서 회사 정책에 기반한 600개의 기업 작업 프롬프트로 구성된 합성 데이터셋을 기여한다. 이 데이터셋은 배포 가능한 자격 증명 또는 강제 가능한 가드레일에 직접 매핑되는 15개 권한 도구 기반 분류 체계에 걸쳐 최소 필요 권한으로 라벨링되어 있다. 데이터셋은 순환성을 피하기 위해 프롬프트 생성과 권한 라벨링을 분리한 2단계 파이프라인으로 구성되며, 60개 레코드/688개 결정에 대한 인간 검토 샘플에 대해 검증되었다(Cohen's $κ= 0.917$ 사전 검토, $κ= 0.967$ 사후 검토). 데이터셋과 정책 간 반복 작업은 상한 위반을 46건에서 3건으로 줄였으며, 93% 감소를 달성했다. 이는 두 요소를 함께 개발할 때 합성 프롬프트 생성이 정책 개선을 이끌 수 있음을 보여준다. 데이터셋, 환경 명세, 생성 파이프라인은 동적 범위 지정 메커니즘의 평가를 지원하기 위해 공개된다.
최소 권한(least privilege)은 신원이 자신의 작업에 엄격히 필요한 권한만을 보유해야 한다는 원칙으로, 수십 년간 접근 제어의 근본적인 기초 개념이었다. 우리는 이 원칙이 에이전트형 AI 시스템에는 불충분하다고 주장한다. 에이전트형 AI 시스템은 단순히 권한을 보유하는 것이 아니라 워크플로우와 시스템 경계를 넘어 권한을 조합하고, 승인하고, 증폭시킬 수 있기 때문이다. 우리는 최소 자율성(least autonomy)을 적절한 일반화로 제안하고 형식적 이론을 전개한다. 첫째, 우리는 기업 계층 구조 내 행위들 간의 구조적 분리를 측정하는 합성적 폭발 반경(compositional blast radius) d(a,b)를 정의한다. 이는 울트라메트릭 트리(ultrametric tree)와 격자값 기밀성(confidentiality), 무결성(integrity), 제어 컨텍스트 레이블을 결합한다. 둘째, 우리는 방향성 에이전트 영향 그래프 G(theta)를 정의한다. U에서 V로의 아크는 방향성 공유 자원 쓰기-읽기 교점(write-to-read meeting) 또는 보수적 무방향 에이전트-간(A2A) 통신 교점, 그리고 외부에서 선택된 정책 임계값 theta 이상의 교점 조건부 영향 잠재력을 필요로 한다. 카탈로그 반경 프로파일은 theta의 보정과 감사를 지원한다. 마지막으로, 우리는 그래프 도달 가능성에 대한 공모 술어(collusion predicate)를 정의하여 권한 합성, 의사결정 조작, 교차 도메인 역량 합성을 탐지한다.
Large language models increasingly act as agents: they call tools, move money, delete records, and send messages on a user's behalf. To keep them safe, practitioners imported the chatbot-era recipe (train the model to refuse unsafe inputs) into the agentic setting, and treat the resulting capability loss as a manageable ``alignment tax.'' We argue this is a \emph{category error}. Refusal is a primitive for \emph{content safety}, where the harm is in the model's output and is therefore a learnable function of it. Agentic harm is different in kind: it lies not in any output but in the relation between the authority an action exercises and the authority the user granted, which is absent from the text the model sees. Importing content-safety methods into this regime does not trade capability for safety; it pays capability and buys negative security. We support this with three lines of evidence spanning the autonomy spectrum: defense-trained models learn surface patterns rather than intent; the same training collapses multi-step agents before any threat appears while leaving them exploitable; and even undefended frontier models exceed granted authority under ordinary use. We conclude that action safety cannot be installed in weights. It must be expressed as \emph{least privilege}, enforced \emph{outside} the model at the action boundary, and evaluated as \emph{action alignment} (a relational, deployment-conditioned property) rather than a refusal score.