arXiv:2610.00371v1 cs.MA

비활성화 없는 거부: 다중 에이전트 시스템을 위한 권한 결합 평가 및 제어

Deny Without Disabling: Authorization-Paired Evaluation and Control for Multi-Agent Systems

Yunbei Zhang, Saiyue Lyu, Janet Wang, Yingqiang Ge, Jiang Guo, Jihun Hamm, Chandan K Reddy

제출 2026-09-30

저자 비고

arXiv Comments

44 pages, 9 figures. Code and data: https://github.com/yunbeizhang/FlowReview

한국어 초록

다중 에이전트(multi-agent) 시스템은 증거를 공유하고, 작업을 위임하며, 여러 에이전트에 걸쳐 정보를 결합함으로써 역량을 이끌어냅니다. 그러나 동일한 프로세스가 안전성(safety) 문제를 야기합니다. 단독으로는 허용되는 기여들이 결합하여 금지된 사용을 가능하게 만들 수 있기 때문입니다. 모든 민감한 작업을 차단하면 정보 유출은 방지되지만 협업의 목적이 훼손됩니다. 본 논문에서는 금지된 사용의 차단과 필요한 인가된 사용의 완료를 결합 성공 기준으로 삼는 권한 결합 평가(authorization-paired evaluation)와, 객체 확인(object resolution), 권한 순위화(permission ranking), 결정론적 집행(deterministic enforcement)을 연결하는 프레임워크인 FlowReview를 소개합니다. 통제된 결합 실험에서 결합된 산출물을 검토함으로써 인가된 공급의 손실 없이 거부된 커밋 비율을 86.0%에서 0으로 줄였습니다. 본 연구 결과는 정보와 계통(lineage)을 보존하는 것만으로는 올바른 권한 귀속을 보장하지 못함을 보여줍니다. 출력을 검증할 수 있는 컴포넌트를 통해 객체 식별성과 권한이 실행과 계속 연결되어 있어야 합니다. 종합적으로, 이러한 결과는 다중 에이전트 안전성에 대한 시스템 수준의 요구사항을 확립합니다. 즉, 협업을 유용하게 만드는 인가된 역량을 보존하면서 구성된 정보 흐름을 통제해야 한다는 점입니다.

원문 초록

Multi-agent systems derive their capabilities from sharing evidence, delegating tasks, and combining information across agents. The same process creates a safety problem: contributions that are admissible in isolation can jointly enable a prohibited use. Blocking every sensitive action avoids disclosure but defeats the purpose of collaboration. We introduce authorization-paired evaluation, which makes blocking prohibited uses and completing required authorized uses a joint success criterion, and FlowReview, a framework connecting object resolution, permission ranking, and deterministic enforcement. In controlled composition experiments, reviewing combined artifacts reduces the denied-commit rate from 86.0% to zero with no loss of authorized supply. Our findings show that preserving information and lineage alone does not ensure correct permission attribution. Object identity and permission must remain connected to execution through components whose outputs can be verified. Together, these findings establish a system-level requirement for multi-agent safety: govern composed information flows while preserving the authorized capabilities that make collaboration useful.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00371v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13455v1cs.AI공통 태그 multi-agent systems

에이전틱 대규모 언어 모델

Agentic Large Language Models

대규모 언어 모델(LLM)은 전 세계적으로 큰 반향을 일으키고 있습니다. 인간의 언어로 소통하고 세상을 추론하는 능력 덕분에 LLM은 글쓰기, 질의응답 등 다양한 작업에 널리 활용되는 도구가 되었습니다. 모델이 제공하는 답변은 이미 우리의 결정과 행동에 영향을 미치고 있습니다. 만약 LLM이 세상에서 직접 행동할 수 있다면 어떻게 될까요? LLM끼리 서로 상호작용할 수 있다면 어떤 일이 일어날까요? 에이전틱 LLM은 대규모 언어 모델의 역량과 현실 세계에서 행동하는 능력을 결합합니다. 이 책에서는 에이전틱 LLM이 어떻게 작동하고, 행동하며, 상호작용하는지, 그리고 이것이 사용자로서 우리에게 무엇을 의미하는지 논의합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.