arXiv:2609.04495v1 cs.AI

간접 프롬프트 주입을 테스트-시간 탐색 문제로의 재고

Rethinking Indirect Prompt Injection as a Test-Time Search Problem

Duong M. Nguyen, Joon Sik Kim, Blazej Manczak, Vaikkunth Mugunthan

제출 2026-09-03

한국어 초록

본 연구에서는 간접 프롬프트(prompt) 주입을 환경(environment), 사용자 태스크, 그리고 주입 태스크로 인해 유도되는 태스크-의존적 공격 표면에 대한 테스트-시간 탐색(test-time search)으로 정형화합니다. 이러한 정형화를 구체화하기 위해, 환경 정찰, 공격 전략에 대한 구조적 추론, 그리고 피해 에이전트(agent) 피드백을 활용한 적응형 평가를 수행하는 전용 탐색 프레임워크를 갖춘 에이전트 공격자를 제안합니다. 이종 태스크 전반에 걸쳐 공격자의 테스트-시간 연산량을 늘리면 취약점 발견 및 활용(exploitation)이 향상됨을 확인하였으며, 소거 연구(ablation study)를 통해 명시적인 전략 관리가 중복 탐색을 방지하고 더 큰 예산에서도 성능 이득을 유지하는 데 중요하다는 것을 보여줍니다. 이러한 결과는 에이전트 보안 평가 시 공격 성공 여부를 피해자의 예산 독립적인 속성으로 취급하기보다는, 공격자의 탐색 절차와 연산 예산을 모두 특성화해야 함을 시사합니다. 더 나아가, 본 연구 결과는 도구를 사용하는 에이전트에 대해 시스템 공격 표면 전반에 걸친 공격자의 적응형 탐색이 중요하면서도 충분히 연구되지 않은 보안 위험임을 규명합니다.

원문 초록

We formulate indirect prompt injection as a test-time search over a task-dependent attack surface induced by the environment, user task, and injection task. To operationalize this formulation, we introduce an agentic attacker with a dedicated search harness that performs environment reconnaissance, structured reasoning over attack strategies, and adaptive evaluation using victim-agent feedback. Across heterogeneous tasks, we find that increasing attacker test-time compute improves vulnerability discovery and exploitation, while ablations show that explicit strategy management is important for avoiding redundant search and sustaining gains at larger budgets. These results suggest that agentic security evaluations should characterize both the attacker's search procedure and compute budget, rather than treating attack success as a budget-independent property of the victim. More broadly, our findings identify the attacker's adaptive search over the system attack surfaces as an important and underexplored security risk for tool-using agents.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.04495v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.