비전-언어 에이전트(VLA)는 복잡한 주행 장면을 해석하고 안전 중요 추론을 지원하는 데 점점 더 많이 활용되고 있다. 본 보고서는 자율주행 VLA에 대한 적대적 멀티모달 공격을 다루는 CVPR 2026@AdvML 워크숍 챌린지를 소개한다. DriveLM 방식의 다중 뷰 시각적 질의응답(VQA)을 기반으로 구성된 이 챌린지는 6개의 동기화된 카메라 이미지와 주행 관련 질의응답 쌍의 구조화된 컬렉션으로 각 장면을 표현한다. 참가자는 이미지 충실도를 유지하고 텍스트 비용을 제한하면서 모델 응답이 참조 답변에서 벗어나도록 유도하는 적대적 이미지와 접미사 전용 텍스트 교란을 생성한다. 대회는 두 단계로 구성되며, 2단계에서는 전이성(transferability) 평가를 위해 숨겨진 블랙박스 모델이 추가된다. 본 보고서에서는 태스크 설계, 제출 규칙, 평가 프로토콜, 리더보드 결과를 기술하고, 기술 보고서가 제공된 상위 5개 제출물을 분석한다. 이들 보고서에서 몇 가지 반복적인 패턴이 나타난다: 이미지 측 공격은 접미사 패널티로 인해 선호되며; 장면 수준의 다중 뷰 최적화가 뷰를 개별적으로 처리하는 것보다 효과적이며; QA 유형과 그래프 구조는 공격 예산 배분을 위한 유용한 사전 정보를 제공하며; 특징(feature) 공간 목적 함수는 블랙박스 전이성을 향상시킬 수 있으며; 카메라 이미지에 삽입된 타이포그래픽 콘텐츠는 주행 VLA의 지속적인 취약점을 노출시킨다. 이러한 발견들은 멀티모달 자율주행 시스템의 향후 견고성 평가 및 방어 설계를 위한 실용적인 참고 자료를 제공한다.
에이전트 스킬(agent skill)은 대규모 언어 모델(LLM) 기반 시스템에서 중요한 공격 표면으로 부상하고 있습니다. 기존 스킬 스캐너(skill scanner)에 대한 실증적 연구를 통해, 현재의 방어 기제는 주로 텍스트 설명, 매니페스트(manifest), 소스 코드를 보안 분석의 주요 신호로 사용하며, 이로 인해 시각적으로 전달되는 악의적 의도가 충분히 검사되지 않는다는 사실을 발견했습니다. 이는 실질적인 사각지대(blind spot)를 야기하는데, 이미지에 숨겨진 유해한 운영 명령어는 스캐닝을 우회할 수 있지만, 배포 단계에서 멀티모달 에이전트(multimodal agent)에 의해 여전히 복구될 수 있기 때문입니다. 이러한 위협을 체계적으로 조사하기 위해, 우리는 SkillCamo를 제안합니다. 이는 스킬과 함께 번들로 제공되는 이미지 내에 악의적인 명령어를 은폐하는 동시에, 주변 문서를 재작성하여 정상적인 워크플로우(workflow)의 일부로 해당 이미지를 자연스럽게 참조하도록 만드는 문서 매개(document-mediated) 멀티모달 명령어 공격입니다. 따라서 이 공격은 이미지 단독에 의존하는 것이 아니라, 실행 시점에 텍스트 지침과 시각적 페이로드(visual payload)의 통합적 해석에 의존합니다. 이러한 공격을 방어하기 위해, 우리는 ExecScan을 추가로 제안합니다. 이는 스킬 아티팩트(skill artifact)에 대해 의도 추출, 행동 재구성, 악용 평가(abuse assessment), 그리고 숙고형 실행 시뮬레이션(deliberative execution simulation)을 수행하는 실행 기반(execution-grounded) 멀티모달 스캐닝 모듈입니다. ExecScan은 문서, 코드, 참조된 리소스, 시각적 콘텐츠를 통합적으로 분석하여 숨겨진 명령어를 복구하고, 실행 가능한 행동 체인(behavior chain)을 재구성하며, 데이터 유출, 파괴, 지속성(persistence), 기만(deception), 권한 상승(privilege escalation)과 같은 후속 리스크를 식별합니다. 광범위한 실험 결과, 이미지에 숨겨진 악의적인 명령어는 기존 스킬 스캐너를 우회할 수 있음이 확인되었으며, ExecScan은 스킬 스캐닝 성능을 향상시킬 수 있음을 보여줍니다.