보는 것이 곧 스크리닝은 아니다: 에이전트 스킬 스캐너에 대한 멀티모달 숨겨진 명령어 공격
Seeing Is Not Screening: Multimodal Hidden Instruction Attacks on Agent Skill Scanners
에이전트 스킬(agent skill)은 대규모 언어 모델(LLM) 기반 시스템에서 중요한 공격 표면으로 부상하고 있습니다. 기존 스킬 스캐너(skill scanner)에 대한 실증적 연구를 통해, 현재의 방어 기제는 주로 텍스트 설명, 매니페스트(manifest), 소스 코드를 보안 분석의 주요 신호로 사용하며, 이로 인해 시각적으로 전달되는 악의적 의도가 충분히 검사되지 않는다는 사실을 발견했습니다. 이는 실질적인 사각지대(blind spot)를 야기하는데, 이미지에 숨겨진 유해한 운영 명령어는 스캐닝을 우회할 수 있지만, 배포 단계에서 멀티모달 에이전트(multimodal agent)에 의해 여전히 복구될 수 있기 때문입니다. 이러한 위협을 체계적으로 조사하기 위해, 우리는 SkillCamo를 제안합니다. 이는 스킬과 함께 번들로 제공되는 이미지 내에 악의적인 명령어를 은폐하는 동시에, 주변 문서를 재작성하여 정상적인 워크플로우(workflow)의 일부로 해당 이미지를 자연스럽게 참조하도록 만드는 문서 매개(document-mediated) 멀티모달 명령어 공격입니다. 따라서 이 공격은 이미지 단독에 의존하는 것이 아니라, 실행 시점에 텍스트 지침과 시각적 페이로드(visual payload)의 통합적 해석에 의존합니다. 이러한 공격을 방어하기 위해, 우리는 ExecScan을 추가로 제안합니다. 이는 스킬 아티팩트(skill artifact)에 대해 의도 추출, 행동 재구성, 악용 평가(abuse assessment), 그리고 숙고형 실행 시뮬레이션(deliberative execution simulation)을 수행하는 실행 기반(execution-grounded) 멀티모달 스캐닝 모듈입니다. ExecScan은 문서, 코드, 참조된 리소스, 시각적 콘텐츠를 통합적으로 분석하여 숨겨진 명령어를 복구하고, 실행 가능한 행동 체인(behavior chain)을 재구성하며, 데이터 유출, 파괴, 지속성(persistence), 기만(deception), 권한 상승(privilege escalation)과 같은 후속 리스크를 식별합니다. 광범위한 실험 결과, 이미지에 숨겨진 악의적인 명령어는 기존 스킬 스캐너를 우회할 수 있음이 확인되었으며, ExecScan은 스킬 스캐닝 성능을 향상시킬 수 있음을 보여줍니다.