PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.19430v1cs.CR

ChannelGuard: 안전한 모델들은 안전한 멀티 에이전트 시스템을 구성하지 않는다

ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems

멀티 에이전트 LLM 애플리케이션은 플래너, 작업 에이전트, 검증기, 합성기를 연결하며, 에이전트 간의 모든 홉은 공격자가 지시를 밀반입할 수 있는 모니터링되지 않은 채널이다. 기존 방어는 입력 경계만 보호하거나(IBProtector, Llama Guard, perplexity 필터, SmoothLLM) 애플리케이션 외부에서 불투명하고 확률적인 제공자 측 필터로 동작한다. 우리는 이 공백이 드물게 측정되는 결과를 수반함을 보인다. 8개 공격군, 5개 방어, 3개 모델 백엔드에 걸친 2,100-트레이스 평가에서, 표준 보고 기준으로는 완전히 안전해 보이는(도구 및 메모리 독 poisoning에서 공격 성공률 0.000) 무방어 파이프라인의 그 안전성은 거의 전적으로 클라우드 제공자의 서버 측 필터(Azure GPT-5에서 60건 중 54건 차단)에 의존하며, 이러한 필터가 없는 백엔드에서는 조용히 에이전트 모델 자체의 정렬(alignment)로 전환된다. 결과만 보고하는 방식은 이러한 의존성을 숨긴다. 우리는 ChannelGuard를 제시한다. 이는 모든 에이전트 간 채널에 정보 병목(information-bottleneck) 게이트를 배치하는 학습 없는(training-free) 심층 방어( defense-in-depth) 프레임워크로, 각 게이트는 임베딩 유사도로 채널 텍스트를 적대적 구문 뱅크와 대조해 점수를 매기고 결정적으로 통과, 압축, 또는 차단하며 LLM 호출을 추가하지 않는다. 동시에 귀속(attribution) 방법은 각 공격을 어느 층에서 중단했는지 기록한다. ChannelGuard의 도구 출력 게이트는 애플리케이션 층에서 Tool Poisoning 30건 중 30건을 차단하며, Azure GPT-5, Anthropic Sonnet 4.5, Anthropic Haiku 4.5에서 동일하고, 무방어 파이프라인은 백엔드마다 완전히 달라진다. 또한 Prompt Injection 공격 성공률을 절반으로 낮추고(0.333에서 0.167) GSM8K 정확도를 정확히 유지한다(0.867). 화이트박스 적응형 패러프레이즈는 모든 임베딩 게이트를 우회하며, perturb-and-vote 기준선(baseline)이 더 나은 성능을 보인다. 확장 부록에는 기준선, ablation, 스윕, 양성 보존 분석, 판정 감사(kappa = 0.900)가 포함되며, 총 비용은 47.36 USD이다.

arXiv:2607.05744v1cs.CR

모델 컨텍스트 프로토콜에서 유니코드 TAG 블록을 이용한 도구 메타데이터 페이로드 은닉: 세 개의 독립 서버 구현에 걸친 승인 뷰 충실도 격차

Unicode TAG-Block Concealment of Tool-Metadata Payloads in the Model Context Protocol: An Approval-View Fidelity Gap Across Three Independent Server Implementations

모델 컨텍스트 프로토콜(MCP)의 도구 메타데이터 승인 화면과 실제 모델에 전달되는 바이트 사이의 불일치를 악용하는 은닉 인코딩 메커니즘을 분석한 연구로, 유니코드 TAG 블록(U+E0000~U+E007F)으로 작성된 공격자 페이로드가 주류 렌더러에서는 사용자에게 전혀 보이지 않으면서도 모델의 토크나이저에는 바이트 단위 그대로 전달됨을 실제 MCP 프로토콜 구현을 통해 검증하였다. 3개의 독립적인 Python MCP 서버 라이브러리를 대상으로 한 8가지 기법 실험에서 전부(8/8) 모델 컨텍스트에 페이로드 주입에 성공하였으며, 프로토콜이 정의 변경 후 재승인을 전혀 강제하지 않는 구조적 취약점도 확인되었다.

arXiv:2606.27027v1cs.CR

ShareLock: MCP에 대한 은밀한 다중 도구 임계값 포이즈닝 공격

ShareLock: A Stealthy Multi-Tool Threshold Poisoning Attack Against MCP

MCP(Model Context Protocol) 환경에서 Shamir 임계값 체계로 악성 지시문을 여러 도구 설명에 무해한 비밀 공유로 분산하는 다중 도구 임계값 포이즈닝 프레임워크 ShareLock을 제안한다. 네 가지 다중 도구 시나리오와 두 MCP 클라이언트에서의 실험 결과, 도구 설명 기반 탐지를 우회하면서 평균 공격 성공률 90%를 넘기는 것으로 나타났다.