Drop-Then-Recovery: Vision-Language-Action 모델은 얼마나 중복적인가?
Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?
Vision-Language-Action(VLA) 모델은 지시문 기반 로봇 조작(manipulation)을 가능하게 하지만, 사전학습된 VLM에서 과대한 언어 백본을 물려받으며, 그 용량은 짧은 로봇 지시문에 필요한 수준을 훨씬 초과한다. 이는 기본적인 질문을 제기한다: 폐루프 제어(closed-loop control)에 VLA 모델의 어느 정도가 실제로 필요한가? 본 연구에서는 트랜스포머 블록 제거를 통제된 개입으로 사용하여 VLA 모델의 아키텍처적 중복성을 조사한다. 사전학습된 VLA 모델에서 선택된 블록을 제거한 뒤, 결과 모델을 미세조정하여 제거된 용량이 하류 제어에 필요했는지 측정하는 분석 프로토콜인 Drop-Then-Recovery(DTR)를 제안한다. 이 개입을 신뢰할 수 있게 하기 위해, 하류 행동 손실에 대한 블록 기여도로 블록 순위를 매기는 one-shot virtual-gate 민감도 지표인 GateProbe를 제안한다. 여러 VLA 아키텍처, 조작 벤치마크, 실제 로봇 산업 시나리오에 걸쳐, 제거 후 회복 가능성에서 강한 비대칭을 발견한다: 표준 로봇 조작 과제에서는 언어 백본이 매우 중복적이지만, 비전 및 행동 경로는 제거에 훨씬 덜 견디는 경향이 있다. LIBERO에서 LLM 블록의 절반을 제거해도 동일한 하류 미세조정 예산 하에 OpenVLA-OFT의 성능을 95.0%에서 98.3%로 향상시키며, 언어 블록 2개만 유지해도 기준선 수준의 성능을 회복한다. 이 결과는 현재 VLA 벤치마크가 깊은 언어 그라운딩(grounding)과 구성적(compositional) 지시문 이해에 제한적인 압력을 가할 수 있음을 시사하며, 향후 VLA 아키텍처는 언어, 비전, 행동 구성 요소에 용량을 더 의도적으로 배분해야 함을 나타낸다. 코드는 https://github.com/s1ghhh/VLADrop 에서 제공된다.