facebook.com

이 이메일 도메인이 관측된 논문 3건

arXiv:2609.04495v1cs.AI

간접 프롬프트 주입을 테스트-시간 탐색 문제로의 재고

Rethinking Indirect Prompt Injection as a Test-Time Search Problem

본 연구에서는 간접 프롬프트(prompt) 주입을 환경(environment), 사용자 태스크, 그리고 주입 태스크로 인해 유도되는 태스크-의존적 공격 표면에 대한 테스트-시간 탐색(test-time search)으로 정형화합니다. 이러한 정형화를 구체화하기 위해, 환경 정찰, 공격 전략에 대한 구조적 추론, 그리고 피해 에이전트(agent) 피드백을 활용한 적응형 평가를 수행하는 전용 탐색 프레임워크를 갖춘 에이전트 공격자를 제안합니다. 이종 태스크 전반에 걸쳐 공격자의 테스트-시간 연산량을 늘리면 취약점 발견 및 활용(exploitation)이 향상됨을 확인하였으며, 소거 연구(ablation study)를 통해 명시적인 전략 관리가 중복 탐색을 방지하고 더 큰 예산에서도 성능 이득을 유지하는 데 중요하다는 것을 보여줍니다. 이러한 결과는 에이전트 보안 평가 시 공격 성공 여부를 피해자의 예산 독립적인 속성으로 취급하기보다는, 공격자의 탐색 절차와 연산 예산을 모두 특성화해야 함을 시사합니다. 더 나아가, 본 연구 결과는 도구를 사용하는 에이전트에 대해 시스템 공격 표면 전반에 걸친 공격자의 적응형 탐색이 중요하면서도 충분히 연구되지 않은 보안 위험임을 규명합니다.

arXiv:2606.26479v1cs.CR

LLM 에이전트의 프롬프트 인젝션에 대한 아웃오브밴드 방어의 적응형 평가

Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents

도구 사용 LLM 에이전트의 아웃오브밴드(out-of-band) 프롬프트 인젝션 방어(CaMeL, Progent 등)를 Biba 무결성, 참조 모니터링, 최소 권한 틀로 체계화하고, 정적 벤치마크만으로는 부족하다는 점에서 적응형 평가 프로토콜을 제안한다. AgentDojo에서 Qwen2.5-7B로 Progent를 독립 재현한 결과 평균 공격 성공률이 25.8%에서 4.2%로 감소했고 수작업 적응형 공격도 2.6%에 그쳤으나, 이는 약한 모델과 단일 블랙박스 공격에 대한 소규모 결과에 불과하다.

arXiv:2606.12737v1cs.CR

PI-Hunter: 프롬프트 인젝션 노출 및 위치 특정을 위한 자동화된 레드팀 테스팅

PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections

외부 환경과 상호작용하는 LLM 에이전트(agent)의 잠재적 프롬프트 인젝션(prompt injection) 위협을 식별하기 위해, 피드백 기반 탐색을 통해 테스트 케이스를 진화시키는 자동화된 레드팀(red-teaming) 프레임워크인 PI-Hunter를 제안한다. 이 방법은 기존 방어 조치 하에서도 강력한 기준선 대비 취약점 노출 및 공격 표면 커버리지를 유의미하게 향상시킨다.