누가 대가를 치르는가? 실제 웹 에이전트를 위한 이해관계자 중심 프롬프트 인젝션 벤치마킹
Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents
한국어 초록
대규모 언어 모델(LLM)로 구동되는 웹 에이전트는 신뢰할 수 없는 웹 콘텐츠 위에서 동작하며 직접적인 결과를 수반하는 행동을 실행하는 실제 환경에 점점 더 배포되고 있다. 이로 인해 겉보기에는 무해한 콘텐츠가 에이전트 행동을 조작하는 적대적 지시를 내장하는 프롬프트 인젝션(prompt-injection) 공격에 취약해진다. 기존 보안 벤치마크는 공격 중심(attack-centric) 관점을 취하며, 인젝션의 기술적 실현 가능성에 초점을 맞추는 한편 그로 인해 발생하는 피해의 미묘한 분포는 간과한다. 그러나 실제로 프롬프트 인젝션 위험은 피해자에 따라 달라진다: 단일 익스플로잇이 서로 다른 이해관계자에게 비대칭적 결과를 초래할 수 있으며, 동일한 공격 패턴이라도 표적에 따라 효과가 크게 달라질 수 있다. 이러한 특성을 포착하기 위해, 우리는 실제 웹 에이전트 시스템에서 피해를 체계적으로 분류하고 귀속하는 이해관계자 중심(stakeholder-centric) 벤치마크인 SBC를 제안한다. 이 벤치마크는 영향을 받는 주체(예: 사용자, 판매자, 플랫폼)를 구분하고, 공격을 구체적 목표로 분해하며, 상호 보완적인 결과 수준 및 과정 수준 지표로 각 사례를 평가한다. 우리의 결과는 상당하고 이질적인 취약성을 보여준다: 현재 에이전트가 어떤 공격 목표도 안정적으로 저항하지 못하며, 실패는 은밀한 기생(stealthy parasitism; 사용자에게 위임된 작업을 방해하지 않고 공격이 성공하는 경우)에서 정렬 불일치 파괴(misaligned disruption; 공격은 성공하지 않았으나 작업이 방해된 경우), 복합 실패(compounded failure; 적대적 목표와 작업 무결성이 동시에 위반된 경우)에 이르는 질적으로 구별되는 모드에 걸쳐 분포한다. 이러한 패턴은 기존 평가 방식에서는 놓치며, 실제 배포 환경에서 LLM 기반 에이전트에 대한 이해관계자 인식 평가의 필요성을 강조한다. 벤치마크는 https://github.com/StakeBench/SBC 에서 이용할 수 있다.
원문 초록
Web agents driven by large language models (LLMs) are increasingly deployed in real-world environments, where they operate over untrusted web content and execute actions with direct consequences. This makes them vulnerable to prompt-injection attacks, in which seemingly benign content embeds adversarial instructions that manipulate agent behaviour. Existing security benchmarks adopt an \textit{attack-centric} perspective, focusing on the technical feasibility of injections while overlooking the nuanced distribution of resulting harms. In practice, however, prompt-injection risk is victim-dependent: a single exploit can produce asymmetric consequences for different stakeholders, and the same attack pattern may exhibit substantially different effectiveness depending on whom it targets. To capture these properties, we introduce \textbf{\sysname}, a \textit{stakeholder-centric} benchmark to systematically categorize and attribute harm in real-world web agent systems. It distinguishes between affected entities (e.g., user, seller, platform), decomposes the attacks into concrete objectives, and evaluates each case with complementary outcome- and process-level metrics. Our results reveal substantial and heterogeneous vulnerabilities: not a single attack objective is reliably resisted by current agents, and failures distribute across qualitatively distinct modes ranging from \emph{stealthy parasitism} (attack succeeds without disrupting the user's delegated task) to \emph{misaligned disruption} (task disrupted without attack success) and \emph{compounded failure} (both adversarial objective and task integrity simultaneously violated). These patterns are missed by conventional evaluation, highlighting the need for stakeholder-aware assessment of LLM-based agents in real-world deployments. Benchmark is available at https://github.com/StakeBench/SBC.
요약
대규모 언어 모델(LLM) 기반 웹 에이전트의 프롬프트 인젝션 취약성을 평가하기 위해 피해 대상별로 위험을 체계적으로 분류하는 이해관계자 중심 벤치마크를 제안합니다. 기존 평가 방식이 놓치는 은밀한 기생이나 정렬 불일치 등 질적으로 다양한 실패 모드를 확인하여 실제 배포 환경에서의 보안 평가 필요성을 강조합니다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.13385v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
APEX-Harm: 공유된 전문 업무 공간에서의 에이전트 안전성 평가
APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
전문 업무용 에이전트(agent)는 파일, 메시지 및 비즈니스 애플리케이션이 포함된 공유 업무 공간에서 명령줄 인터페이스와 여러 도구를 통해 작업하는 경우가 점점 늘고 있습니다. 이러한 환경은 단일의 알려진 읽기 위치에 배치된 공격으로는 포착하기 어려운 안전성(safety) 위험을 초래합니다. 본 논문에서는 대규모 업무 공간에서 금융, 컨설팅 및 법률 업무를 수행하는 장기 실행(long-horizon) 에이전트를 대상으로 프롬프트(prompt) 및 스크립트 인젝션을 평가하기 위한 벤치마크(benchmark)인 APEX-Harm을 소개합니다. 각 태스크에는 115개에서 328개의 파일이 포함되어 있으며, MCP 서버를 통해 노출되는 이메일, 캘린더, 채팅, 문서, 스프레드시트, PDF 및 코드 실행 도구가 함께 제공됩니다. 이 벤치마크는 정적 및 동적 인젝션, 태스크별 스크립트 대체, 공격자가 제공한 범용 스크립트를 포괄하는 6가지 공격 카테고리를 포함하며, 공격 성공률, 노출도, 태스크 성능을 평가합니다. 저자들은 모델(model)당 180개의 태스크 인스턴스에서 12개의 프론티어 모델을 평가합니다. Opus 5와 Sonnet 5가 가장 낮은 전체 공격 성공률(8% 및 20%)을 기록한 반면, 태스크별 스크립트 대체 및 공격자가 제공한 범용 스크립트 공격은 각각 평균 81~84% 및 73%의 공격 성공률을 기록하여 여전히 상당히 더 효과적이었습니다. Gemini 3.8 Flash는 가장 높은 평균 태스크 점수(0.877)를 달성하면서도 여전히 33%의 공격 성공률을 보였습니다. 이러한 결과는 요청된 태스크를 완수하는 것만으로는 안전한 동작의 충분한 증거가 되지 못함을 보여줍니다. 즉, 에이전트는 업무 공간에서 승인되지 않은 작업을 수행하면서도 올바른 결과물을 생성할 수 있습니다.
분기 유도 공격으로부터 컴퓨터 활용 에이전트 보호하기
Securing Computer-Use Agents Against Branch Steering Attacks
현대의 컴퓨터 활용 에이전트(Computer Use Agent, CUA)는 그래픽 사용자 인터페이스와 직접 상호작용하고 서드파티 웹 도구를 실행하므로, 렌더링된 모든 페이지와 도구 응답에 걸쳐 간접 프롬프트(prompt) 주입 공격에 노출됩니다. 격리된 플래너 LLM(Planner LLM, P-LLM)을 사용하여 신뢰할 수 없는 입력을 격리된 LLM(Quarantined LLM, Q-LLM)으로 처리하기 전에 실행 경로를 고정하는 Dual-LLM 패턴은 정형적 안전성(safety) 보장을 제공하는 대표적인 시스템 수준 아키텍처이지만, 이러한 보장은 그래픽 환경에서 무너집니다. CUA 상호작용은 본질적으로 동적이므로 계획이 데이터에 독립적으로 유지될 수 없으며, 에이전트(agent)가 마주할 수 있는 모든 가능한 경우를 포괄하여 런타임에 예상되는 웹 콘텐츠를 기반으로 분기해야만 합니다. 이로 인해 에이전트는 공격자가 명시적인 명령을 주입하지 않고도 신뢰할 수 없는 데이터를 조작하여 CUA를 사전에 승인된 위험한 분기로 강제 진입시키는 분기 유도(branch steering) 공격에 노출됩니다. 본 연구에서는 분기 유도 공격을 체계적으로 연구하고 STEER-Bench(9개 도메인에 걸친 101개 작업)를 도입하여, 표준 CUA(94.4%)와 기본 Dual-LLM CUA(89.5%) 모두에 대해 높은 공격 성공률을 보임을 나타냅니다. 이어서 신뢰할 수 있는 분기 계획과 사전 기능 제약을 결합하여 각 분기가 실행할 수 있는 매개변수와 대상 경로를 엄격하게 제한하는 아키텍처인 COBRA를 제안합니다. STEER-Bench에서 COBRA는 공격 성공률을 0%로 낮추는 동시에 정상적인 유용성을 97% 수준으로 유지합니다.
잘못된 하한선: 분포 변화에서 무너지는 LLM 안전 라우팅 평가
False Floors: LLM Safety Routing Evaluations Break Under Distribution Shift
안전 라우터는 각 요청을 여러 모델 중 하나로 보내며, 단일 최선 모델과 비교하여 평가된다. 주요 라우팅 벤치마크는 평가 데이터 상에서 이러한 비교 대상을 선택한다. 벤치마크 자체의 설정에서는 이것이 무해하지만, 분포 변화(distribution shift) 하에서는 그렇지 않다. HELM Safety에서 이러한 선택 비용은 무작위 분할 시 0.003-0.030의 위해(harm) 수준이며, 홀드아웃(held-out) 범주에서는 0.045-0.113으로, 라우팅 탓으로 돌려진 전체 결손과 맞먹는 수준이고 그 방향성은 기발표된 어느 한 심사자(judge) 기준 단독으로도 유지된다. AgentDojo에서 스위트(suite)가 홀드아웃될 때는 이것이 7배에서 9배까지 증가한다. 사전에 고정된 규칙에 따라 선택된 7개 안전 말뭉치 전반에서 3개는 사전 등록된 구간 검정을 충족하고 4개는 사후 순열 영가설(permutation null)을 능가하며, 구간 검정을 통과하지 못한 4개 중 3개는 일부 모델의 관측된 위해가 0인 말뭉치들이다. 선행 연구는 이러한 바이어스의 방향성을 입증한다. 본 연구는 위해와 정확도 측면에서 그 크기를 측정하고, 우리가 측정한 홀드아웃 분할 하에서 이것이 더 큼을 보이며, 낙관주의(optimism)와 변화 의존적 리그렛(regret)의 합으로 이를 한계 짓는다. 변화 하에서 정직하게 채점할 경우, 이러한 벤치마크들에서 라우팅이 가져다주는 이점은 거의 없다. 대부분의 풀 셀(pool cell)에서 중첩된 라우터는 정직한 기준선의 모델을 제공하며, 거의 포화 상태인 AgentDojo 말뭉치에서 완벽한 사전 디스패치(pre-dispatch) 라우터의 가치는 최대 2포인트의 위해 감소에 불과하다. 또한 우리는 후기 주입(late injection)에 대해 모델이 표출하는 인식이 조향 가능(steerable)함을 발견했다. 홀드아웃 재실행에서 자신이 마주한 모델을 아는 공격자는 GPT-5.4의 판정된 인식을 19.6포인트 낮추며, 이는 독립적인 레이블에 의해서도 확인된다. 제어기로의 오프라인 반사실적 합성(counterfactual composition)에서, 동일한 공격은 대체(fallback) 모델에 따라 추정 위해를 높이거나 낮춘다. 안전 라우팅은 변화 하에서, 테스트 레이블 없이 선택된 기준선과 비교하여 평가되어야 하며, 인식 기반 방어는 모델이 보는 것을 선택하는 공격자에 맞서 위해를 기준으로 채점되어야 한다.
에이전틱 웹 기술 스택을 위한 기준선 평가
A Baseline Assessment for the Agentic Web Technology Stack
대규모 언어 모델(LLM) 기반 에이전트(agent)를 위한 프로토콜, 프레임워크 및 기술이 빠르게 제안되면서 최첨단 AI 솔루션을 구축하려는 이들에게 복잡한 상황이 야기되고 있습니다. 다양한 프로토콜, 프레임워크 및 라이브러리가 어떻게 함께 작동하여 에이전틱 웹(Agentic Web) 솔루션을 구성하는지에 대한 평가가 없다면, 개발자와 조직은 에이전틱 웹 생태계에 참여하기도 전에 다양한 과제(예: 역량 강화, 거버넌스, 인프라)에 직면하게 됩니다. 이러한 맥락에서 본 논문에서는 에이전틱 웹 평가를 수행하기 위한 시스템인 MASTIF(Multi-Agent System TestIng Framework)를 제안하고, 300개의 Mind2Web 벤치마크(benchmark) 태스크를 대상으로 3개의 LLM, 3개의 프로토콜, 4개의 에이전트 구현 프레임워크를 포함하는 에이전틱 웹 기술의 기준선(baseline) 평가를 제시합니다. 실험 결과에 따르면 태스크에 특화된 기술 스택을 선택할 경우 태스크 완료율, 효율성 점수 및 사회적 가치 안정성 점수가 향상될 수 있으며, 장황함(verbosity)과 태스크 완료 시간을 줄일 수 있는 것으로 나타났습니다. 본 논문에서 제시된 결과를 통해, 빠르게 발전하는 복잡한 환경 속에서 멀티 에이전트 시스템을 설계, 평가 및 개발하고자 하는 이들을 위한 지표 및 결과 측면의 기준선을 제시할 수 있을 것으로 기대합니다.
Pretext: AI 에이전트 악성 스킬 탐지 프레임워크 무력화
Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents
스킬은 컨텍스트에 인스트럭션과 정보를 주입하여 에이전트(agent)의 기능을 확장하며, OpenClaw 및 Claude Code와 같은 에이전트에서 널리 활용되고 있습니다. 선행 연구에 따르면 서드파티 마켓플레이스에는 공격자가 피해자의 에이전트에 직접적인 영향력을 행사할 수 있도록 하는 악성 스킬이 호스팅되고 있습니다. 이에 대응해 등장한 방어 기법은 NVIDIA의 SkillSpector와 같이 결정론적 정적 검사와 대규모 언어 모델(LLM) 기반 시맨틱 판별기를 결합하여 설치 전에 스킬을 스캔합니다. 본 논문에서는 탐지기를 파악하고 있는 공격자에게 이러한 방어 기법이 무력화됨을 보여줍니다. 화이트박스 LLM 공격자인 Pretext는 정상적인 작업을 수행하고 페이로드를 전달하면서도 탐지를 회피하는 스킬을 반복적으로 생성합니다. 즉, 페이로드를 코드에서 자연어로 이전하여 정적 분석을 무력화하고, 이를 스킬의 정당한 목적으로 위장하며 인스트럭션을 여러 파일에 걸쳐 분할함으로써 LLM 단계의 차단 임계값 미만으로 유지합니다. 3개의 오픈소스 모델 전반에 걸쳐 Pretext는 고정된 탐지기와 상호 적응형(co-adaptive) 탐지기에 대해 각각 최대 97% 및 77%의 회피율을 달성하여, 현재 스킬 스캐너의 중대한 결함을 드러냅니다.
입력 시퀀스 변화에 대한 대규모 언어 모델(LLM)의 강건성 평가 및 개선
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
프로덕션 시스템에서 운영되는 대규모 언어 모델(LLM)은 프롬프트 인젝션(prompt injection), 트로이목마(trojan, 백도어), 그리고 자동 품질 지표 조작 공격에 직면한다. 본 논문은 적대적 입력 시퀀스 변화에 대한 LLM의 강건성을 평가하고 개선하기 위한 모델, 방법, 알고리즘을 개발한다. 우리는 작은 입력 교란(perturbation) 하에서 단계별 출력 분포 간의 Jensen-Shannon 발산(divergence)에 기반한 생성적 강건성 지표인 R_stab(f)를 제안한다. 국소적(localized) 공격에 대해서는 V(h) <= 1 - R_class(h)를 증명하며, 여기서 R_class(h)는 의사결정 연산자 h가 작은 교란 하에서도 자신의 결정을 유지할 확률이다. 비국소적(non-localized) 공격에 대해서는 보정된(calibrated) 경험적 모델을 제안한다. LLM-as-a-judge 시스템에 대해서는 적응형 진화 블랙박스 공격인 ASA를 개발했으며, 이는 최대 73.8%의 공격 성공률(ASR)을 달성하고 오픈 모델 간 전이(transfer) 시에도 최대 62.6%를 기록한다. Trojan Detection Challenge 2023 데이터(Pythia-1.4B)에서는 대리(surrogate) 트리거가 REASR ~0.99에 도달하는 반면, 실제 트리거에 대한 재현율은 기준선 ~0.14에 비해 ~0.17에 불과하다. SaTML CTF 2024에서는 다층(multi-layer) 방어를 우회하는 네 가지 유형을 체계화했으며, 이를 통해 ASR을 90%에서 15~25%로 감소시켰다. 5~7개의 이질적(heterogeneous) 모델로 구성된 위원회(committee)는 Gemma-3-4B의 ASR을 47~55퍼센트포인트 감소시켜, 7개 모델 사용 시 19.3%까지 낮춘다. Model Context Protocol(MCP) 기반 에이전트형(agentic) 시스템에 대해서는, 호출당 0.1ms 미만으로 HMAC으로 보호된 패킷을 사용해 도구 호출(tool call)을 증명(attest)하는 AttestMCP와 Commit Boundary 격리 패턴을 제안한다. 847개 시나리오로 구성된 MCPBench 벤치마크(benchmark)에서 이들 방법은 평균 ASR을 53.7%에서 12.4%로 감소시킨다. 이 방법들은 JudgeGuard 및 TrojanArmor 소프트웨어 스위트와 MCPSec 모듈로 구현되었다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.