evil.test

이 이메일 도메인이 관측된 논문 1건

arXiv:2606.22864v1cs.LG

AUC 0.998만으로는 충분하지 않을 때: 멀티모달 컴퓨터 사용 에이전트의 간접 프롬프트 주입에 대한 은닉 상태 프로브의 후보 평가 프로토콜

When AUC 0.998 Is Not Enough: A Candidate Evaluation Protocol for Hidden-State Probes of Indirect Prompt Injection in Multimodal Computer-Use Agents

은닉 상태 프로빙(Hidden-state probing)—동결된 비전-언어 모델의 내부 활성화에 적용한 선형 분류기—은 멀티모달 컴퓨터 사용 에이전트에서 에이전트가 손상된 동작을 출력하기 전에 간접 프롬프트 주입(IPI)을 표시하는 매력적인 평가 도구로 부상했다. 단일 백본 주의 사례 연구(Qwen2.5-VL-7B on Mind2Web, teacher-forced replay)를 통해, 우리는 clean-vs-attack 분할에서 높은 프로빙 AUC만으로는 그 자체로 악성 콘텐츠 탐지의 증거가 되지 않는다고 주장한다. 두 가지 사후 진단—텍스트 측 주입에 대한 paired-construction 스칼라 기준선과 오버레이 표면에서 same-step nuisance-matched 시각적 통제—은 부분적으로 의미론적인 해석의 여지를 남기면서도, 주요 보고 결과를 무조건적으로 악성 콘텐츠로 해석하는 것을 정당화하지 않는다. 우리는 이러한 진단을 후보 통제 집합으로 정리하고, 높은 clean-vs-attack AUC가 무엇을 정당화하고 무엇을 정당화하지 않는지에 대한 보고 휴리스틱을 함께 제시한다. 레이블은 공격 성공이 아니라 주입 표면 존재(injection-surface-present)를 나타낸다. 이 백본과 벤치마크를 넘어서는 일반화는 아직 추측에 불과하다.