FurnitureVLA: Learning Long-Horizon Bimanual Furniture Assembly with Vision-Language-Action Model
원문 초록
Current work on robot furniture assembly mostly focuses on toy-scale settings or single-arm manipulation. We introduce FurnitureVLA, the first systematic study of real-scale bimanual furniture assembly using Vision-Language-Action models (VLAs). We formalize the task, develop a scalable simulation pipeline for expert data generation and evaluation, and build a VR teleoperation system for single-operator bimanual control to collect high-quality real-world demonstrations. To address extreme long-horizon assembly with up to 7 subtasks and 1550 control steps, we propose a progress-enhanced VLA, finetuned on semantically grounded subtasks, that jointly predicts actions and a continuous progress signal, enabling automatic subtask transitions and reducing compounding errors during inference. We further study perception and control design factors that critically affect precision in real-scale assembly. FurnitureVLA improves average simulation success from 48% to 80% compared to baselines across three furniture types, with an additional 21% gain from our design factor study. We validate on a real Kinova Gen3 platform with only 16% drop on the hardest task.
요약
VLAs(Vision-Language-Action 모델)를 활용한 실물 크기 양팔 가구 조립 문제를 다루며, 최대 7개 서브태스크와 1550개 제어 스텝에 달하는 장기 수평(long-horizon) 실행을 위해 액션과 연속적 진행도 신호를 동시에 예측하는 progress-enhanced VLA를 제안한다. 시뮬레이션에서 베이스라인 대비 평균 성공률을 48%에서 80%로 향상시켰으며, 실제 Kinova Gen3 플랫폼에서도 가장 어려운 태스크 기준 16% 하락에 그쳐 실세계 유효성을 검증하였다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.01212v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SmoLSTM: 지속되는 순환 메모리를 갖춘 소형 비전-언어-행동 모델
SmoLSTM: A Compact Vision-Language-Action Model with Recurrent Memory that Persists
비전-언어-행동(Vision-Language-Action, VLA) 모델은 현재의 관측만을 바탕으로 행동을 예측하는 경우가 많아, 에피소드 이력이 없으면 객체 가림(occlusion)이나 시각적으로 동일한 객체가 포함된 작업에서 모호함이 발생할 수 있습니다. 관측 윈도우를 넓히는 일반적인 대응책은 시계(horizon)를 하이퍼파라미터로 만들며 이에 따라 스텝당 비용이 증가하게 합니다. 본 연구에서는 대신 순환 상태(recurrent state)에 에피소드를 포착합니다. SmoLSTM은 동결된 256M 매개변수의 SmolVLM 백본을 행렬-메모리 LSTM 제어 층과 결합하며, 이 제어 층에서는 전체 에피소드 동안 전혀 리셋되지 않는 단일 인과적 스트림(causal stream) 내에 관측 토큰과 행동 쿼리가 통합됩니다. 따라서 순환 상태의 저장은 에피소드 길이에 대해 O(1) 복잡도를 가집니다. 흐름 정합(flow-matching) 행동 헤드는 각 제어 스텝에서 10개의 말단 장치(end-effector) 포즈 변화량과 그리퍼 명령 청크를 예측합니다. 140개 작업에 걸친 7,461개의 시연 데이터로 공동 학습되고 미확인 초기 상태에서 평가된 본 연구의 단일 정책은 0.04B의 학습 가능한 매개변수만으로 LIBERO-Mem에서 85.1%의 서브골 도달률과 77.5%의 전체 작업 성공률을 기록하며 최고의 성능을 달성하여, 벤치마크 자체의 객체 중심 기준선과 최근의 메모리 기반 접근법을 모두 능가했습니다. 매 제어 스텝마다 순환 상태를 리셋하면 전체 작업 성공률이 7.0%로 감소하여, 학습된 정책이 의사결정 간에 전달되는 문맥에 의존함을 보여줍니다. 동일한 모델이 표준 LIBERO에서도 평균 79.6%의 성공률을 달성합니다.
JitterVLA: VLA 기반 인간-로봇 조작에서 모션 품질 평가를 위한 재생 벤치마크
JitterVLA: A Replay Benchmark for Motion Quality in VLA-Driven Human-Robot Manipulation
비전-언어-행동(VLA) 정책은 희소한(sparse) 목표 명령을 생성하며, 이러한 명령이 로봇 제어기에 도달하는 과정에서 지연과 불규칙성이 발생합니다. 따라서 합리적으로 예측된 동작이라 할지라도 사람 근처에서 급격한 움직임을 유발할 수 있습니다. 기존의 해결책들은 서로 다른 데이터 스트림, 지연 시간 및 평가 지표 하에서 평가되어 왔습니다. JitterVLA는 동일한 명령 및 도달 흔적(trace)을 대체 제어기에 그대로 재생(replay)함으로써 제어기만의 효과를 분리하여 검증합니다. 본 연구는 이를 합성 도달 동작, 20명의 사람 손 궤적, 3개의 오픈 소스 VLA 파이프라인(838개 에피소드), 그리고 실제 UR3 로봇에 적용했습니다. 보간(interpolation)은 모든 데이터 소스에서 모델링된 p99 저크(jerk)를 감소시켰으며, 200ms 지연이 발생한 인간 모션에서는 2.0cm의 추적 오차를 대가로 저크를 83%(615에서 106m/s^3) 줄였고, 이러한 효과는 598개의 새로운 에피소드에서도 동일하게 재현되었습니다. 저크 제한 생성은 더 큰 오차 비용을 수반하면서 저크를 더욱 낮추었습니다. 엔트로피와 불연속성 간의 상관관계는 두 파이프라인에서 반대 부호로 일관되게 나타났으며, 엔트로피 게이팅은 한 파이프라인에서는 효과가 있었으나 다른 파이프라인에서는 그렇지 않았습니다. 실제 UR3 로봇에서 보간 기법은 6개의 탐색적 쌍 모두에서 가속도계 기반 저크를 3.0~14.0% 낮춘 반면, 위치 기반 지표는 이러한 차이를 분해해 내지 못했습니다. JitterVLA는 인간 중심 연구에 앞서 사전 스크리닝을 지원하며, 코드와 데이터는 공개될 예정입니다.
LM-X: 진행도, 이벤트 및 불확실성 예측을 통한 설명 가능한 비전-언어-행동 모델링
LM-X: Explainable Vision--Language--Action Modeling via Progress, Event, and Uncertainty Prediction
대규모 비전-언어-행동(VLA, Vision-Language-Action) 정책은 범용 로봇 제어를 발전시켰으나, 대부분은 자극-행동 간 블랙박스로 남아 있습니다. 즉 행동은 표출되지만 그 설명적 상태는 드러나지 않습니다. 이들은 작업 진행도, 다음 의미적 전이(semantic transition), 국소 명령 신뢰도라는 세 가지 설명 신호를 본질적으로 제공하지 못합니다. 선행 연구는 진행도와 이벤트 구조가 장기 과제 제어(long-horizon control)에 도움을 주고 불확실성이 모니터링을 지원함을 보여주지만, 이러한 기능들은 일반적으로 행동 사전학습(pre-training) 이후에야 추가되거나 추출됩니다. 따라서 학계에는 설명적 상태가 제어와 함께 공동 사전학습되는 VLA 파운데이션 모델이 부재한 상황입니다. 결과 민감적이고 이벤트 분절적이며 확률론적인 예측이 행동을 구조화하는 생물학적 감각운동 체계에 착안하여, 본 연구는 LM-X를 제안합니다. LM-X는 직접 지도 학습되는 세 가지 온라인 신호를 학습합니다. 잔여 보상(RTG, Return-To-Go)은 가시적 진행도와 상태 품질을 추정하고, 잔여 이벤트(ETG, Event-To-Go)는 다음 의미적 이벤트까지의 행동 시퀀스를 예측하며, 이분산 행동 흐름 분산(heteroscedastic action-flow variance)은 국소 명령 신뢰도를 보고합니다. RTG는 ETG의 조건으로 작용하고 둘 모두 행동 생성의 조건이 되며, 불확실성은 행동 전문가 내부에서 추정되어 사후 설명이 아닌 제어의 일부로서 설명이 이루어집니다. 본 연구는 실패한 1,000시간 이상의 롤아웃을 포함해 20,000시간 이상의 이종 실제 로봇 궤적을 대상으로 LM-X를 사전학습했습니다. LM-X는 무작위 고난도 RoboTwin2.0 과제 50개에서 74.1%, 실제 로봇 과제 7개에서 73.5%의 성공률을 달성하여, 각각 55.4%와 50.7%를 기록한 GR00T N1.7을 앞섰습니다. 본 모델의 신호는 진행과 퇴행을 추적하고, 이벤트 단위의 움직임을 예측하며, 높은 오차의 행동을 감지하고, 실패를 사전에 경고합니다. 이러한 결과는 LM-X가 투명한 예측 상태를 더욱 강력한 범용 제어와 결합한 설명 가능한 VLA 파운데이션 모델임을 입증합니다. Github: https://github.com/loongOpen/LoongWu-LM-X-VLA
LayerRoute: 비전-언어-행동 정책을 위한 행동 조건부 층 혼합 라우팅
LayerRoute: Action-Conditioned Mixture-of-Layers Routing for Vision-Language-Action Policies
비전-언어-행동(VLA) 정책은 사전학습된 비전-언어 모델(VLM)을 활용하여 로봇 제어를 위한 행동 생성을 유도합니다. VLM은 국소적인 시각 기하 구조부터 추상적이고 언어와 정렬된 의미에 이르기까지 층(layer) 전반에 걸쳐 발전하는 계층적 시각-의미 표현을 제공하므로, 서로 다른 조작 작업에는 각기 다른 층 표현의 혼합이 필요할 수 있습니다. 한편, 행동 모듈은 행동 계산 전반에 걸쳐 발전하며 후속 결정에 유용한 정보를 제공할 수 있는 중간 표현을 유지합니다. 그러나 기존 VLA 인터페이스는 표현 접근에 있어 유연성이 제한적입니다. 즉, VLM 정보는 각 행동 층에 대해 고정된 층 할당을 통해서만 노출되며, 중간 행동 상태는 명시적인 재사용 없이 잔차 스트림(residual stream)을 통해 암묵적으로만 전파됩니다. 본 논문에서는 VLM 층 및 행동 표현에 대한 적응형 접근을 가능하게 하는 행동 조건부 표현 라우팅 인터페이스인 LayerRoute를 소개합니다. Layer Mixture Router는 캐시된 VLM 표현의 혼합을 동적으로 구성하며, Action-State Reread는 이전 행동 표현을 재사용합니다. 다양한 시뮬레이션 및 실제 환경 벤치마크 전반에서 LayerRoute는 StarVLA-$π$ 및 $π_{0.5}$의 성능을 일관되게 향상시키며, 단 0.31% / 3.87%의 추가 파라미터만으로 LIBERO Long에서 최대 7.2의 성능 향상을 달성합니다. 절제 연구(ablation study)를 통해 행동 조건부 층 라우팅의 이점을 검증하였으며, 라우팅 분석을 통해 행동 층 및 작업 설정 전반에 걸친 구조화된 할당 패턴을 확인했습니다.
비전-언어-행동 모델을 위한 월드 기반 보정 제안-행동 흐름
World-Calibrated Proposal-to-Action Flow for Vision-Language-Action Models
흐름 기반 비전-언어-행동(VLA) 정책은 작업 무관 등방성 가우시안 소스로부터 샘플을 이송하여 행동 청크를 생성합니다. 이러한 소스는 최근 실행 내용이나 예측된 미래 변화 모두에 조건화되지 않기 때문에, (i) 최근 실행된 모션에 의해 확립된 국소적 연속성을 상실합니다. (ii) 예측형 월드 표현이 도입되더라도, 이는 생성이 시작되는 위치, 벗어날 수 있는 허용 범위, 또는 행동이 확장될 수 있는 방향을 결정하기보다는 이송 동역학만을 조건화하는 데 그치는 경우가 많습니다. 이러한 관찰에 착안하여, 본 연구는 생성 소스 자체를 예측 가능하게 만드는 월드 기반 보정 제안-행동(proposal-to-action) 프레임워크인 ProAct를 제안합니다. (i) 모션 연속성을 보존하기 위해, 경량 제안 전문가(Proposal Expert)는 1단계의 모션 앵커 기반 종점 흐름 매칭을 통해 최근 행동들을 장면 인지 가설로 변환함으로써 실증된 행동 다양체 근처에서 생성을 시작하도록 합니다. (ii) 의도된 장면 변화와 제안-미래 간의 호환성을 함께 포착하기 위해, 미래지향적 월드 전문가(World Expert)는 해당 가설을 연성 모션 사전분포로 취급하면서 작업 일관적인 잠재 미래를 예측합니다. (iii) 모델은 이러한 호환성으로부터 제안 중심 비등방성 소스를 보정하며, 여기서 유계된 스텝당 범위는 허용된 편차를 제어하고 조건수 예산 하의 대각합 정규화 저계수 기하는 결합된 병진, 회전, 그리퍼 방향 전반에 걸쳐 정제를 할당합니다. $\pi_{0.5}$와 비교하여, ProAct는 디노이징 스텝을 50% 줄이고 추론 지연 시간을 최대 25.8% 단축하며 처리량을 최대 34.8% 향상시키는 동시에 시뮬레이션 및 실제 환경 작업 전반에서 성능을 개선합니다.
분할 및 기억(Divide-and-Remember): 장기 VLA 정책을 위한 재귀적 행동 관련 메모리
Divide-and-Remember: Recursive Action-Relevant Memory for Long-Horizon VLA Policies
비전-언어-행동(VLA) 모델은 현재 관측만으로는 행동을 결정할 수 없고 정책에 과거 이력에 대한 메모리가 필요한, 이력 의존적 조작 작업에서 어려움을 겪습니다. 기존 메모리 기법들은 픽셀 변화가 큰 프레임을 유지하는 등 설계 방식에 따라 무엇을 기억할지 결정하며, 작업 전반에 걸쳐 비일관적인 성능 향상을 보입니다. 본 연구에서는 무엇을 기억할지를 최적화(optimization) 문제로 바라봅니다. 모방 학습의 부분 관측 마르코프 결정 과정(POMDP) 정식화로부터, 최적의 메모리는 현재 관측이 주어졌을 때 행동과 메모리 간의 조건부 상호정보량 $I(a_t; m_t \mid o_t)$을 극대화함을 보여줍니다. 직관적으로 이는 현재 관측에 아직 포함되지 않은 이력 내 행동 관련 정보를 보존함을 의미합니다. 이러한 분석을 바탕으로, 메모리 함수 $m_t = M(h_t)$를 학습하고 연산 부담을 적게 유지하면서 긴 문맥으로 확장 가능한 재귀적 메모리 기법인 Divide-and-Remember(D&R)을 제안합니다. 이는 두 가지 전략을 포함합니다: (1) 전체 이력에 대한 선택을 $2K$ 토큰에 대한 상위 $K$개 선택이라는 하위 문제로 재귀적으로 분할하여, 엔드투엔드로 학습된 고정 크기의 경량 선택기가 무제한의 이력을 지원하도록 합니다; (2) 모든 재귀 블록이 하나의 선택기를 공유하여 모든 블록에 공통적인 선택 규칙을 포착하고 방법론의 효율성을 유지합니다. 언제, 어디서, 무엇을, 어떻게 행동해야 하는지 기억해야 하는 16개의 장기 조작 작업 벤치마크인 RoboMME에서, D&R은 단 64개 토큰 예산 하에 4개 제품군 전체에서 일관된 성능 향상을 보이며 최고 수준의 평균 성공률을 달성했습니다. 실제 로봇 실험에서도 동일한 성능 향상을 확인했습니다. 코드, 체크포인트 및 추가 결과는 https://dnr-memory.github.io/ 에서 확인할 수 있습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.