Coding agents are capable; human oversight is the bottleneck. Unconstrained agents introduce security risks, erode codebase scalability, and make human review increasingly costly. We argue that the same methods used for decades to manage large human engineering teams: access control, network policies, strict coding conventions enforced by tooling; transfer directly to coding agents, and are cheaper (in token) than recent agentic scaffolding. We sketch a start-to-end system on this principle, and report a controlled experiment in scalable oversight: a small reviewer (Gemma 4 e4b) inspects a Python codebase containing 11 inserted backdoors. Recall rises from 54.5% (unconstrained, no tools) to 90.9% (constrained substrate plus a ~200-LoC `docs` CLI), with substrate and tools contributing independently. We choose Python deliberately: substrate-level oversight gains are largest where the language gives the fewest guarantees by default; the principles extend to languages like Rust.
에이전트형 AI 시스템은 비공개 컨텍스트를 검색하고, 도구를 호출하며, 파일을 작성하고, 외부 서비스를 호출하고, 다른 에이전트와 협조하며, 인간의 승인 없이 행동할 수도 있다. 기존 자재 명세서(BOM) 아티팩트는 종속성, 모델 메타데이터, 학습 출처에 대한 투명성을 개선하지만, 에이전트형 투명성 공백을 남긴다: 능력 불투명성(capability opacity), 즉 배포된 에이전트가 무엇에 접근할 수 있고, 무엇을 기억하고, 무엇을 변경하며, 무엇을 위임하고, 이후 무엇을 증명할 수 있는지에 대한 구조화된 기록이 부재한 것이다. 본 논문은 도구를 사용하는 AI 에이전트의 리스크 범위 설정을 위한 보안 BOM인 AgentRiskBOM을 제안한다. 이는 SBOM, AIBOM, MLBOM 아티팩트 위에 더해지는 층으로, 권위 있는 경우 이를 참조하면서 런타임 권한에 대한 필드를 추가한다: 자율성, 도구 권한, 메모리, 자격 증명 범위, 승인 게이트, 감사 신호, 에이전트 간 통신, 외부 행동 능력. 우리는 AgentRiskBOM을 JSON 스키마 아티팩트로 구현하고, 재현 가능한 코퍼스, 리스크 시나리오, 스코어러, diff 탐지기, 통제 매퍼, 보고서를 함께 제공한다. 코딩, RAG, 멀티 에이전트 아키타입을 아우르는 13개의 오픈소스 에이전트와 14개 카테고리에 걸친 52개 리스크 시나리오에 대해 AgentRiskBOM을 평가한다. 스키마는 13개 코퍼스 아티팩트를 모두 검증한다. 커버리지 분석 결과 AgentRiskBOM은 16개 능력 차원에서 네이티브 동등 점수 14를 기록한 반면, SBOM은 1, AIBOM은 1.5, MLBOM은 2였다. 모델링된 리스크 카테고리 전반에서 AgentRiskBOM은 100%의 리스크 카테고리 가시성을 제공하는 반면, SBOM 유사 뷰는 10.5%, AIBOM 유사 뷰는 20.9%였다. 에이전트 권한 drift를 검증하기 위해 33개의 구조화된 배포 변이를 주입했으며, diff 탐지기는 모든 변이에 대해 올바른 변경 유형을 식별했다. 보조 페널티 기반 스코어러는 주 스코어러와 Spearman 상관계수 0.73을 산출하여, 순위 수준의 일관성을 뒷받침하면서 임계값에는 인간의 보정이 필요함을 보여준다. 결과는 에이전트형 AI 보안에 사고 발생 이전에 기계 판독 가능한 권한-리스크 아티팩트가 필요함을 보여준다.