ChannelGuard: 안전한 모델들은 안전한 멀티 에이전트 시스템을 구성하지 않는다
ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems
멀티 에이전트 LLM 애플리케이션은 플래너, 작업 에이전트, 검증기, 합성기를 연결하며, 에이전트 간의 모든 홉은 공격자가 지시를 밀반입할 수 있는 모니터링되지 않은 채널이다. 기존 방어는 입력 경계만 보호하거나(IBProtector, Llama Guard, perplexity 필터, SmoothLLM) 애플리케이션 외부에서 불투명하고 확률적인 제공자 측 필터로 동작한다. 우리는 이 공백이 드물게 측정되는 결과를 수반함을 보인다. 8개 공격군, 5개 방어, 3개 모델 백엔드에 걸친 2,100-트레이스 평가에서, 표준 보고 기준으로는 완전히 안전해 보이는(도구 및 메모리 독 poisoning에서 공격 성공률 0.000) 무방어 파이프라인의 그 안전성은 거의 전적으로 클라우드 제공자의 서버 측 필터(Azure GPT-5에서 60건 중 54건 차단)에 의존하며, 이러한 필터가 없는 백엔드에서는 조용히 에이전트 모델 자체의 정렬(alignment)로 전환된다. 결과만 보고하는 방식은 이러한 의존성을 숨긴다. 우리는 ChannelGuard를 제시한다. 이는 모든 에이전트 간 채널에 정보 병목(information-bottleneck) 게이트를 배치하는 학습 없는(training-free) 심층 방어( defense-in-depth) 프레임워크로, 각 게이트는 임베딩 유사도로 채널 텍스트를 적대적 구문 뱅크와 대조해 점수를 매기고 결정적으로 통과, 압축, 또는 차단하며 LLM 호출을 추가하지 않는다. 동시에 귀속(attribution) 방법은 각 공격을 어느 층에서 중단했는지 기록한다. ChannelGuard의 도구 출력 게이트는 애플리케이션 층에서 Tool Poisoning 30건 중 30건을 차단하며, Azure GPT-5, Anthropic Sonnet 4.5, Anthropic Haiku 4.5에서 동일하고, 무방어 파이프라인은 백엔드마다 완전히 달라진다. 또한 Prompt Injection 공격 성공률을 절반으로 낮추고(0.333에서 0.167) GSM8K 정확도를 정확히 유지한다(0.867). 화이트박스 적응형 패러프레이즈는 모든 임베딩 게이트를 우회하며, perturb-and-vote 기준선(baseline)이 더 나은 성능을 보인다. 확장 부록에는 기준선, ablation, 스윕, 양성 보존 분석, 판정 감사(kappa = 0.900)가 포함되며, 총 비용은 47.36 USD이다.