AxisGuide: RGB 관측에서 로봇 행동 좌표계를 그라운딩하여 강건한 비주모터 조작 실현
AxisGuide: Grounding Robot Action Coordinate System in RGB Observations for Robust Visuomotor Manipulation
한국어 초록
대규모 행동 복제(behavior cloning)를 통해 학습된 비주모터(visuomotor) 조작 정책은 강력한 의미론적 장면 이해 능력을 달성했지만, 분포 변화 하에서 올바른 저수준 행동을 안정적으로 실행하는 데 자주 실패한다. 예를 들어, 동일한 장면 배치, 카메라 시점, 조명 조건의 단순한 물체 집기 작업에서도 물체가 학습 시 보지 못한 위치에 놓이면 성능이 크게 저하될 수 있다. 우리는 이러한 격차가 불충분한 행동 이해, 즉 이미지 공간에서 로봇의 베이스 프레임 행동 좌표계를 해석하는 능력의 부재에서 비롯된다고 주장한다. 이 문제를 해결하기 위해, 우리는 의미론적 장면 이해와 행동 좌표 해석을 연결하는 경량 가이던스 방법인 AxisGuide를 제안한다. AxisGuide는 카메라 파라미터와 엔드이펙터 포즈를 활용하여 각 카메라 뷰에 로봇 베이스 프레임 축을 렌더링하고, 이미지 공간에서 +x, +y, +z 방향 움직임의 의미를 명시적으로 시각화하는 소수의 큐 채널로 RGB 관측을 보강한다. LIBERO 시뮬레이션과 실제 환경 모두에서 수행된 광범위한 평가를 통해 AxisGuide가 상당한 성능 향상과 향상된 일반화를 달성함을 입증하며, 이는 신뢰할 수 있고 전이 가능한 범용 비주모터 정책 학습에 있어 명시적 행동 좌표 큐의 효과를 부각시킨다.
원문 초록
Visuomotor manipulation policies trained via large-scale behavior cloning have achieved strong semantic scene understanding, yet often fail to reliably execute correct low-level actions under distribution shifts. For example, even in a simple pickup task with identical scene layouts, camera viewpoints, and illumination, performance can degrade substantially when the object is placed at unseen locations. We argue that this gap arises from insufficient action understanding, namely the inability to interpret the robot's base-frame action coordinate system in image space. To address this issue, we introduce AxisGuide, a lightweight guidance method that bridges semantic scene understanding and action-coordinate interpretation. Using camera parameters and end-effector poses, AxisGuide renders the robot base-frame axes in each camera view and augments RGB observations with a small set of cue channels that explicitly visualize the meaning of the +x, +y, and +z motions in image space. Extensive evaluations in both the LIBERO simulation and real-world environments demonstrate that AxisGuide yields substantial performance gains and improved generalization, highlighting the effectiveness of explicit action-coordinate cues for learning reliable and transferable generalist visuomotor policies.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.06761v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
NEEDLEWORK: 검증된 로컬 스티칭을 통한 로봇 데이터의 오프라인 재작성
NEEDLEWORK: Offline Rewriting of Robot Data with Verified Local Stitches
로봇 시연(demonstration) 데이터는 개별 에피소드가 비효율적이거나 실패하더라도 유용한 행동을 포함할 수 있습니다. 궤적 스티칭(trajectory stitching)은 이러한 행동들을 조합하여 개선된 학습(training) 데이터로 만드는 방법을 제공하지만, 많은 기존 기법이 저차원 상태 표현에 의존하는 고차원 로봇 데이터에서는 유용한 연결점을 식별하고 실행 가능성을 검증하기 어렵습니다. 본 논문에서는 고차원 로봇 시연 데이터에서 기록된 관측값 사이에 검증된 짧은 행동 브리지(action bridge)를 추가함으로써 이러한 문제를 해결하는 오프라인 데이터셋(dataset) 증강 알고리즘인 NEEDLE을 소개합니다. 먼저 NEEDLE은 새로운 환경(environment) 상호작용이나 특권적인 객체 상태(privileged object state) 없이 RGB 이미지, 고유수용감각(proprioception), 에피소드 단위 결과만을 사용하여 준최적의 우회 경로를 우회하고, 행동 커버리지를 넓히며, 실패한 궤적으로 원본 데이터셋을 증강하는 연결점을 식별하고 생성합니다. 다음으로, 중간 이미지를 합성하거나 원본 시연을 버리지 않고도 승인된 브리지를 정책 학습에 통합하는 샘플링 기법을 제시하여, 정책이 원본 데이터셋의 커버리지를 유지하면서 대안적인 행동을 학습할 수 있도록 합니다. 실제 로봇 작업에서 NEEDLE은 각 작업의 가장 강력한 기준선(baseline) 대비 성공률을 평균 21% 포인트 향상시켰습니다. 비디오 및 보충 자료는 https://needle-work.github.io/ 에서 확인할 수 있습니다.
행동을 위한 올바른 미래: 세계 행동 모델에서 행동 관련 예측 상태 학습
The Right Future for Action: Learning Action-Relevant Predictive States in World Action Models
생성 과정이 필요 없는 세계 행동 모델(World Action Model, WAM)은 학습(training) 중에는 미래 비디오 예측을 유지하지만, 추론(inference) 시에는 내부 비디오 특징(feature)을 바탕으로 행동합니다. 그러나 제어를 위해 이러한 특징이 무엇을 보존해야 하는지는 여전히 불분명합니다. 본 연구의 표현 진단 결과에 따르면, 미래 변화를 더 잘 예측할 수 있는 표현이라 하더라도 선형 행동 디코딩을 반드시 더 쉽게 만드는 것은 아니었습니다. 관측된 미래 변화는 현재를 넘어서는 추가적인 행동 정보를 제공하며, 선형적으로 읽을 수 있는 행동 정보는 공간적으로 집중되어 있습니다. 이러한 발견을 바탕으로 비디오 전문가와 행동 전문가 사이의 컴팩트한 예측 인터페이스인 ARPS(Action-Relevant Predictive States)를 제안합니다. ARPS는 시계(horizon) 조건부 상태 예측기를 사용하여 중간 비디오 특징들을 컴팩트한 상태로 집약하며, 이 상태는 행동 전문가에게 모든 시각적 컨텍스트를 제공합니다. 미래 표현 지도(supervision)는 이 상태의 서로 다른 부분이 현재 대비 변화와 함께 서로 다른 미래 시점의 시각적 표현을 예측하도록 학습시킵니다. 추론 시에는 지도 브랜치가 제거되며, 행동 전문가는 현재 관측으로부터 계산된 학습된 예측 상태만을 사용합니다. 통제된 절제 연구(ablation)는 미래 지도가 분포 변화(distribution shift) 하에서의 일반화 성능을 크게 향상시킴을 보여줍니다. ARPS는 LIBERO에서 99.2%의 성공률을 달성했으며, 추가 적응(adaptation) 없이 LIBERO-Plus로 전이되어 87.3%에 도달하며 Fast-WAM을 39.2%포인트 앞섰습니다.
MaskVLA: Vision-Language-Action 모델의 궤적 과적합에 대응하는 시각적 마스킹
MaskVLA: Visual Masking Against Trajectory Overfitting of Vision-Language-Action Model
Vision-Language-Action(VLA) 모델은 시각-언어 이해와 실행 가능한 로봇 행동을 통합하여 로봇 제어를 위한 종단간(end-to-end) 학습을 가능하게 한다. 그러나 우리의 실증 분석에 따르면, 기존 모델들은 제한된 데이터셋으로 파인튜닝(fine-tuning)될 때 심각한 궤적 과적합(trajectory overfitting)을 보인다. 모델이 손목 카메라 정보를 효과적으로 활용하도록 유도하기 위해, 우리는 마스킹 기반 파인튜닝 전략인 MaskVLA를 제안한다. 메인 카메라의 시각 정보 중 일부를 무작위로 마스킹함으로써, 모델은 보다 세밀하고 과제와 관련성이 높으며 효과적인 시각적 특징을 자율적으로 학습하도록 유도된다. 이 과정은 강건한 정책(policy)의 출현으로 이어지며, 이를 통해 복잡한 조작(manipulation) 과제를 처리하는 모델의 능력을 향상시키고 일반화 성능을 개선한다. 우리의 방법은 RoboTwin 2.0에서 종합적으로 평가되었으며, $\pi_0$ 및 OpenVLA-OFT 대비 각각 평균 23.2%, 16.8%의 성공률 향상을 달성했다. 또한 실제 ALOHA 로봇을 이용한 실험에서도 우리 접근법의 효과가 입증되었다.
월드 액션 모델을 위한 비디오 기반 네이티브 액션 사전확률 학습
Native Action-Prior Learning from Videos for World Action Models
월드 액션 모델(World action models)은 미래의 시각적 역역학과 로봇 액션 예측을 통합하지만, 액션 레이블이 지정된 로봇 궤적이 필요하다는 점에서 확장성에 한계가 있습니다. 관찰 전용(observation-only) 비디오는 상호작용 역학에 대한 풍부한 정보를 담고 있지만, 기존 접근법들은 대개 이를 사후에 제어용으로 조정해야 하는 시각적 표현을 사전학습(pre-training)하는 데 사용하거나, 추후 로봇 명령으로 그라운딩되는 잠재 액션(latent actions)을 추론하는 데 활용하는 데 그칩니다. 본 연구에서는 간접적인 표현-제어 간 전이나 별도의 잠재 액션 모델 없이 관찰 전용 비디오로부터 액션 정책을 직접 사전학습하는 네이티브 액션 사전확률 학습(native action-prior learning)을 도입한 NAVA-WAM을 제시합니다. 우리의 학습(training)은 2단계로 구성됩니다. 첫째, 관찰 전용 비디오를 통해 사전학습을 진행하며, 시각적 전이에 대한 미래 비디오 플로우 매칭(flow-matching) 감독 신호가 전이 구조화된 결합 어텐션을 통해 전파되어 Action-DiT를 최적화하고 액션 관련 사전확률을 학습합니다. 둘째, 액션 레이블이 지정된 시연 데이터를 사용하여 결합 비디오-액션 플로우 매칭을 통해 로봇 제어를 위한 Action-DiT 사후학습(post-training)을 수행하며, 이때 비대칭 어텐션이 시각 브랜치를 반복적인 액션 노이즈 제거 과정과 분리하여 효율적인 액션 전용 추론(inference)을 가능하게 합니다. 광범위한 실험 결과, NAVA-WAM은 분포 내(in-distribution) 및 분포 외(out-of-distribution) 설정 모두에서 기존 접근 방식을 일관되게 능가하는 동시에 뛰어난 액션 레이블 효율성과 효과적인 실제 로봇 일반화 성능을 입증했습니다. 이러한 결과는 네이티브 액션 사전확률 학습이 관찰 전용 비디오로부터 액션 정책을 직접 사전학습하는 효과적인 접근법임을 입증하며, 액션 레이블 기반 로봇 데이터를 뛰어넘는 확장 가능한 경로를 제공합니다.
VIGOR: 모델 기반 강화학습에서 잠재 공간 일관성을 통한 제로샷 시각적 일반화
VIGOR: Zero-Shot Visual Generalization via Latent-Space Consistency in Model-Based Reinforcement Learning
GlanceWAM: 월드-액션 모델을 위한 희소 테스트 타임 시각적 상상
GlanceWAM: Sparse Test-Time Imagination for World-Action Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.