LLM 에이전트의 프롬프트 인젝션에 대한 아웃오브밴드 방어의 적응형 평가
Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
도구 사용 LLM 에이전트의 아웃오브밴드(out-of-band) 프롬프트 인젝션 방어(CaMeL, Progent 등)를 Biba 무결성, 참조 모니터링, 최소 권한 틀로 체계화하고, 정적 벤치마크만으로는 부족하다는 점에서 적응형 평가 프로토콜을 제안한다. AgentDojo에서 Qwen2.5-7B로 Progent를 독립 재현한 결과 평균 공격 성공률이 25.8%에서 4.2%로 감소했고 수작업 적응형 공격도 2.6%에 그쳤으나, 이는 약한 모델과 단일 블랙박스 공격에 대한 소규모 결과에 불과하다.