비전-언어-액션 모델에 대한 궤적 수준 리다이렉션 공격
Trajectory-Level Redirection Attacks on Vision-Language-Action Models
한국어 초록
비전-언어-액션(VLA) 정책은 자연어를 폐루프(closed-loop) 로봇 제어에 통합하여, 로봇이 텍스트 지시로부터 직접 조작(manipulation) 작업을 수행할 수 있게 합니다. 동일한 인터페이스 때문에 프롬프트가 모든 재계획(replanning) 단계에서 재사용되고, 각 프롬프트 조건부 행동이 정책이 작동하는 미래 관찰을 바꾸므로, 제어 과정에서 텍스트가 반복적으로 역할을 합니다. 기존 VLA 공격은 표적 저수준 행동을 유도하거나 변화하는 이미지에도 해당 행동이 지속되도록 하는 적대적 프롬프트를 연구합니다. 본 연구는 의도된 작업을 지정하는 것처럼 $\textit{보이지만}$ 최종 물리적 결과를 리다이렉션하는, 더 강력한 궤적 수준 실패 모드를 식별합니다. 본 연구는 이 설정을 $\textit{명령어 보존 궤적 리다이렉션(command-preserving trajectory redirection)}$으로 수학적으로 정형화합니다. 이는 에피소드 시작 전 공격자가 하나의 프롬프트를 선택하고, 모든 정책 및 환경 구성 요소는 고정된 채 유지되며, 프롬프트가 목표 단어와 수정 언어를 생략하면서 정상(benign) 지시에 가깝게 유지되어야 하는 프롬프트 전용 위협 모델입니다. 이러한 프롬프트를 찾기 위해, 본 연구는 롤아웃(rollout)을 사용하여 명령어 보존 제약을 만족하면서 폐루프 동작이 목표 작업을 추적하는 섭동(perturbation)을 발견하는 온-정책(on-policy) 프롬프트 탐색 방법을 제안합니다. 시뮬레이션 및 실제 하드웨어 실험에서, 정상 지시에 가까운 프롬프트 섭동만으로 VLA 롤아웃을 공격자가 지정한 목표로 리다이렉션할 수 있음을 보였습니다. 이러한 결과는 VLA 명령어 그라운딩(grounding)의 궤적 수준 취약점을 드러냅니다. 의도된 명령어를 보존하는 것처럼 보이는 텍스트라도 적대자가 로봇의 최종 물리적 결과를 제어할 수 있습니다. 프로젝트 웹사이트: https://vla-redirection-attack.github.io/
원문 초록
Vision-language-action (VLA) policies bring natural language into closed-loop robot control, enabling robots to execute manipulation tasks directly from text instructions. The same interface gives text a recurring role in control because the prompt is reused at every replanning step, and each prompt-conditioned action changes the future observations on which the policy acts. Existing VLA attacks study adversarial prompts that elicit targeted low-level actions or make such actions persist across changing images. We identify a stronger trajectory-level failure mode: a prompt that still $\textit{appears}$ to specify the intended task but redirects the final physical outcome. We mathematically formalize this setting as $\textit{command-preserving trajectory redirection}$, a prompt-only threat model in which the attacker chooses one prompt before the episode, all policy and environment components remain fixed, and the prompt must stay close to the benign instruction while omitting target words and correction language. To find such prompts, we introduce an on-policy prompt search method that uses rollouts to discover perturbations whose closed-loop behavior tracks a target task while satisfying the command-preserving constraints. Experiments in simulation and on hardware show that near-benign prompt perturbations can redirect VLA rollouts to attacker-specified targets. These results expose a trajectory-level vulnerability in VLA instruction grounding: text that appears to preserve the intended command can still give an adversary control over the robot's final physical outcome. Project website: https://vla-redirection-attack.github.io/
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12978v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
반지도 비전-언어-행동 모델
Semi-Supervised Vision-Language-Action Model
비전-언어-행동(VLA) 모델은 로봇이 시각적 관측과 언어 지시로부터 직접 행동을 예측할 수 있게 하지만, 새로운 환경에 대한 적응은 여전히 비용이 큰 행동 라벨 시연에 의존한다. 이 의존성을 줄이기 위해, 우리는 제한된 감독 신호 하에서의 반지도 VLA 적응을 연구한다. 전체 궤적 중 소수만 로봇 행동을 포함하고, 나머지 궤적은 행동 라벨이 없는 비전-언어 관측을 제공하는 설정이다. 표준 반지도 학습과 달리, 누락된 감독은 시각적으로 그라운딩(grounding)되어야 하고, 언어와 일관되어야 하며, 물리적으로 실행 가능하고, 시간적으로 안정적인 체화된(embodied) 행동 신호이다. 이 문제를 해결하기 위해, 우리는 라벨 없는 궤적에서 신뢰할 수 있는 pseudo-action으로부터 학습하는 자기 증류(self-distilled) teacher-student 프레임워크인 SemiVLA를 제안한다. SemiVLA는 비전-언어 정렬(alignment), 행동 실행 가능성, 시간적 전이 일관성을 평가하는 VLA 전용 신뢰성 제어기(reliability controller)를 도입하고, 노이즈 피드백 오염을 피하기 위해 Bottleneck-Projected Alignment Update로 teacher를 추가 갱신한다. OpenVLA를 백본(backbone)으로 사용할 때, SemiVLA는 LIBERO와 CALVIN에서 여러 PEFT(파라미터 효율적 파인튜닝) 전략을 일관되게 개선한다. 라벨 궤적 10% 조건에서 Selective LoRA를 적용한 SemiVLA는 LIBERO에서 평균 89.0% 성공률을 달성하며, 추가 추론(inference) 비용 없이 지도 LoRA 대비 8.0%p를 상회한다.
RoboFAC: 로봇 실패 분석 및 수정을 위한 포괄적 프레임워크
RoboFAC: A Comprehensive Framework for Robotic Failure Analysis and Correction
비전-언어-행동(Vision-Language-Action, VLA) 모델은 자연어 지시와 시각적 관측을 제어 행동으로 변환함으로써 최근 로봇 조작(robotic manipulation) 분야를 발전시켰습니다. 그러나 기존 VLA는 주로 성공적인 전문가 시연 데이터를 기반으로 학습(training)되어 실패 진단 및 복구를 위한 구조화된 지도(supervision)가 부족하며, 이는 개방형 환경(open-world) 시나리오에서의 강건성(robustness)을 제한합니다. 이러한 한계를 해결하기 위해 본 논문에서는 로봇 실패 분석 및 수정(RoboFAC) 프레임워크를 제안합니다. 시뮬레이션 및 실제 환경의 53개 장면에서 체계적으로 분류된 실패 유형과 함께 9,440개의 오류 조작 궤적과 78,623개의 QA 쌍으로 구성된 대규모 실패 중심 데이터셋을 구축합니다. 이 데이터셋을 활용하여 태스크 이해, 실패 분석 및 실패 수정을 전문으로 하는 경량 멀티모달 모델을 개발함으로써, 대규모 상용 모델과 견줄 만한 성능을 유지하면서도 효율적인 로컬 배포를 가능하게 합니다. 실험 결과에 따르면 RoboFAC은 GPT-4o 대비 34.1% 더 높은 실패 분석 정확도를 달성합니다. 나아가 실제 VLA 제어 파이프라인에 RoboFAC을 외부 감독자로 통합하여 4개 태스크 전반에서 29.1%의 상대적 성능 향상을 이끌어내는 동시에 GPT-4o 대비 지연 시간(latency)을 크게 줄였습니다. 이러한 결과는 RoboFAC이 체계적인 실패 진단 및 복구를 가능하게 하여 VLA 복구 능력을 크게 향상시킴을 입증합니다. 모델과 데이터셋은 https://github.com/MINT-SJTU/RoboFAC 에서 공개되어 있습니다.
Vision Language Action Models in Robotic Manipulation: A Systematic Review
VOTE: Vision-Language-Action Optimization with Trajectory Ensemble Voting
DreamVLA: A Vision-Language-Action Model Dreamed with Comprehensive World Knowledge
최근 비전-언어-행동(VLA) 모델의 발전은 이미지 생성과 행동 예측을 통합하여 로봇 조작에서의 일반화 및 추론 능력을 향상시키는 가능성을 보여주고 있습니다. 그러나 기존 방법들은 중복된 정보가 많고 동적, 공간적, 의미적 정보를 포함한 포괄적이고 중요한 세계 지식이 부족한 어려운 이미지 기반 예측에 한정되어 있습니다. 이러한 한계를 극복하기 위해, 본 논문에서는 역동역학 모델링을 가능하게 하는 포괄적 세계 지식 예측을 통합한 새로운 VLA 프레임워크인 DreamVLA를 제안합니다. 이를 통해 조작 작업을 위한 지각-예측-행동 루프를 구축합니다. 구체적으로 DreamVLA는 동적 영역 안내 세계 지식 예측을 도입하며, 공간적 및 의미적 단서와 통합하여 행동 계획에 대해 간결하면서도 포괄적인 표현을 제공합니다. 이러한 설계는 인간이 행동하기 전에 추상적 다중모달 사고의 연쇄를 형성하는 방식과 일치합니다. 학습 과정에서 동적, 공간적, 의미적 정보 간 간섭을 완화하기 위해, 상호 어텐션을 차단하여 정보 누출을 방지하고 각 표현을 깨끗하고 분리된 상태로 유지하는 블록 단위 구조화 어텐션 메커니즘을 채택하였습니다. 또한 미래 행동에 대한 조건부 분포를 모델링하기 위해, 공유 잠재 특징으로부터 행동 표현을 분리하는 diffusion 기반 트랜스포머를 활용합니다. 실제 및 시뮬레이션 환경에서의 광범위한 실험 결과, DreamVLA는 실제 로봇 작업에서 76.7%의 성공률과 CALVIN ABC-D 벤치마크에서 평균 4.44의 길이를 달성함을 입증하였습니다.
A Survey on Vision-Language-Action Models for Autonomous Driving
토론
이 논문과 연결된 포럼 글이 아직 없습니다.