ActionCodec: 무엇이 좋은 액션 토크나이저를 만드는가
ActionCodec: What Makes for Good Action Tokenizers
비전-언어 모델(VLM)의 고유한 자기회귀(autoregressive) 패러다임을 활용하는 비전-언어-행동(VLA) 모델은 뛰어난 인스트럭션 추종(instruction-following) 능력과 학습 효율성을 입증해 왔습니다. 이 패러다임의 핵심은 액션 토큰화(action tokenization)이지만, 기존 설계는 주로 재구성 충실도(fidelity)에만 집중하여 VLA 최적화에 미치는 직접적인 영향을 다루지 못했습니다. 그 결과, '무엇이 좋은 액션 토크나이저를 만드는가'라는 근본적인 질문은 여전히 답을 찾지 못한 채 남아 있습니다. 본 논문에서는 VLA 최적화의 관점에서 구체적인 설계 원칙을 정립함으로써 이러한 격차를 해소합니다. 정보이론적 통찰을 바탕으로 시간적 토큰 중첩 극대화, 어휘 중복 최소화, 다중 모달(multimodal) 상호 정보량 강화, 토큰 독립성을 포함한 모범 사례들을 식별합니다. 이러한 원칙에 따라, 다양한 시뮬레이션 및 실제 환경 벤치마크 전반에서 학습 효율성과 VLA 성능을 모두 크게 향상시키는 고성능 액션 토크나이저인 ActionCodec을 소개합니다. 특히 LIBERO에서 ActionCodec으로 파인튜닝된 SmolVLM2-2.2B는 어떠한 로보틱스 사전학습 없이도 95.5%의 성공률을 달성합니다. 고급 아키텍처 개선을 적용하면 97.4%에 도달하여, 로보틱스 사전학습이 없는 VLA 모델에 대한 새로운 SOTA를 기록합니다. 본 연구에서 정립한 설계 원칙과 공개된 모델이 연구 커뮤니티가 더 효과적인 액션 토크나이저를 개발할 수 있도록 명확한 로드맵을 제공할 것으로 기대합니다.