다중 에이전트(multi-agent) 시스템은 증거를 공유하고, 작업을 위임하며, 여러 에이전트에 걸쳐 정보를 결합함으로써 역량을 이끌어냅니다. 그러나 동일한 프로세스가 안전성(safety) 문제를 야기합니다. 단독으로는 허용되는 기여들이 결합하여 금지된 사용을 가능하게 만들 수 있기 때문입니다. 모든 민감한 작업을 차단하면 정보 유출은 방지되지만 협업의 목적이 훼손됩니다. 본 논문에서는 금지된 사용의 차단과 필요한 인가된 사용의 완료를 결합 성공 기준으로 삼는 권한 결합 평가(authorization-paired evaluation)와, 객체 확인(object resolution), 권한 순위화(permission ranking), 결정론적 집행(deterministic enforcement)을 연결하는 프레임워크인 FlowReview를 소개합니다. 통제된 결합 실험에서 결합된 산출물을 검토함으로써 인가된 공급의 손실 없이 거부된 커밋 비율을 86.0%에서 0으로 줄였습니다. 본 연구 결과는 정보와 계통(lineage)을 보존하는 것만으로는 올바른 권한 귀속을 보장하지 못함을 보여줍니다. 출력을 검증할 수 있는 컴포넌트를 통해 객체 식별성과 권한이 실행과 계속 연결되어 있어야 합니다. 종합적으로, 이러한 결과는 다중 에이전트 안전성에 대한 시스템 수준의 요구사항을 확립합니다. 즉, 협업을 유용하게 만드는 인가된 역량을 보존하면서 구성된 정보 흐름을 통제해야 한다는 점입니다.
대규모 언어 모델(LLM)은 계획을 수립하고, 도구를 호출하고, 신뢰할 수 없는 데이터를 읽고, 그 결과에 따라 행동하는 에이전트로 점점 더 많이 배포되고 있다. 이로 인해 프롬프트 주입(prompt injection) 공격에 노출된다: 읽기만 해야 할 데이터가 명령으로 실행되는 것이다. 가장 원칙적인 방어책은 콘텐츠 검사를 출처(provenance) 기반 방식으로 대체하는 것이다: 데이터를 출처에 따라 분류하고, 신뢰할 수 있는 데이터와 신뢰할 수 없는 데이터를 직무 분리(dual-LLM 패턴)와 정보 흐름 제어를 통해 분리하는 방식이다. 그러나 현재의 선도적인 시스템들은 완전히 신뢰하기 어렵다: 흐름 추적은 오류가 발생하기 쉽고, 의도적인 완화 조치는 감사하기 어려우며, dual-LLM 패턴은 아키텍처에 고정 내장되어 있다. 우리는 LLMbda를 제시한다. 이는 타입 없는 값에 의한 호출(call-by-value) 람다 계산법으로, 특정 아키텍처에 종속되지 않으면서도 출처 기반 방어를 표현 가능하고 증명 가능하게 건전한 방식으로 만든다. LLMbda는 에이전트 시스템의 실행 핵심 요소를 일급 구성체로 추가한다: 포크(fork)하거나 초기화할 수 있는 프롬프트-응답 대화, 코드 생성, 그리고 모든 값이 레이블을 지니고 모든 리덕션이 이를 전파하는 동적 정보 흐름 제어. 격리(isolation)는 프로그램이 표현하는 정책이 되고, 재분류(reclassification)는 명시적이고 감사 가능한 구성체가 된다. 우리의 핵심 결과는 코드 생성 에이전트를 포함한 전체 계산법에 대한 종료 비민감(termination-insensitive) 확률적 비간섭(noninterference) 정리이며, 공격자가 모든 신뢰할 수 없는 입력을 선택하는 경우에도 성립하는 절연된(insulated) 변형을 포함한다. 검증된 인터프리터 자체가 모델을 호출하는 하네스(harness)이며, 이는 우리가 알기로 실행 파일이 기계 검증된 보안 정리의 대상인 최초의 LLM 에이전트 하네스로, 모든 에이전트가 해당 보장을 상속받는다. AgentDojo 뱅킹 벤치마크에서, LLMbda 내에 구축된 에이전트는 항상 적용 상태인 강제 실행으로, 정책 검사 없이 실행된 선도적인 dual-LLM 방어 시스템인 CaMeL(정책 검사를 적용하면 유용성이 절반으로 감소함)과 동등한 유용성을 달성하며, 1296번의 공격 실행 중 단 두 번을 제외한 모든 공격에 저항한다. 우리의 하네스와 모든 증명은 Lean으로 작성되었다.
대규모 언어 모델(LLM)은 점점 더 에이전트 시스템에서 민감한 데이터, 신뢰할 수 없는 입력, 권한 있는 행동 사이의 상호작용을 중재하면서 보안 및 프라이버시 위험을 초래한다. 이는 하위 도구 사용을 조작하는 프롬프트 주입부터 모델 출력을 통한 기밀 정보 유출까지 다양하다. 최근 정보 흐름 제어(IFC) 기반 방어는 유망하지만, 모델 자체를 통한 정보 흐름에 대해 추론할 수 있는 원칙적인 의미론적 기반을 부족하다. 자기회귀 LLM에서는 어떤 입력 토큰이든 어떤 출력 토큰에든 영향을 미칠 수 있으므로, 기존 접근법은 심각한 taint explosion 문제를 겪는다. 우리는 입력 토큰에서 출력까지의 정보 흐름을 추적하는 의미론적 프레임워크인 기하학적 정보 흐름(GIF, Geometric Information Flow)을 제안한다. GIF는 LLM 야코비안과 지역 출력 기하학을 사용하여 교란된 입력 구간과 모델 출력 사이의 섀넌 상호 정보량의 상한을 구하고, 자동 미분과 저랭크 근사를 통해 대규모 모델에서도 계산 가능한 확장 가능한 측도를 제공한다. 어텐션 기반 또는 상관관계 귀속 휴리스틱과 달리, GIF는 지역 기하학적 건전성(local geometric soundness)을 만족하며, 지역 정칙성 가정 하에서 주어진 프롬프트에 의해 유발되는 실제 정보 흐름의 상한임을 보여주는 완전히 기계화된 Lean 4 증명을 제공한다. 우리는 여러 프롬프트 주입 및 프라이버시 유출 벤치마크에 걸친 무결성 및 기밀성 과제에서 GIF를 평가한다. GIF는 하위 declassifier 없이도 거의 완벽한 재현율을 달성하며, 어텐션 기반 베이스라인을 능가한다. 경량 LLM 기반 declassifier와 결합하면, GPT-5.5 xhigh reasoning과 같은 직접 LLM-as-judge 베이스라인의 F1과 동등하거나 이를 초과하면서 토큰 비용은 최대 81배 낮다. 작은 서로게이트(surrogate) 모델로 탐지한 GIF 흐름은 서로게이트가 최대 200배 작은 경우에도 더 큰 최신(state-of-the-art) 모델 및 다른 모델 패밀리로 전이되며, 이는 그래디언트 접근 없이 블랙박스 배포가 가능함을 시사한다.