PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.23997v2cs.RO

RoboTalk: 다중 모달 시연으로부터 다중 로봇 통신 및 조율 학습하기

RoboTalk: Learning Multi-Robot Communication and Coordination from Multimodal Demonstrations

다중 로봇 협업은 복잡한 로봇 작업에 대해 더욱 효율적이고 확장 가능한 해결책을 가능하게 할 수 있지만, 부분 관측 가능성(partial observability) 하에서의 협업은 여전히 도전 과제로 남아 있습니다. 자연어 통신은 부분 관측 가능성 하에서 로봇들을 조율하기 위한 유망한 접근 방식을 제공합니다. 그러나 탈중앙화된 조작(decentralized manipulation)에서, 온디바이스 배포를 목표로 하는 소형 비전-언어 모델(VLM)이 다중 모달(multimodal) 시연으로부터 명시적인 로봇 간 통신과 스킬 수준의 행동 선택을 공동으로 학습하는 것은 아직 충분히 연구되지 않았습니다. 이러한 공백을 해결하기 위해, 소형 VLM이 통신하고 조율하도록 학습(training)시키기 위한 53개의 모바일 조작 주방 작업에 걸친 7,950개의 다중 모달 궤적으로 구성된 합성 데이터 생성 파이프라인 및 데이터셋인 RoboTalk을 소개합니다. 이 데이터셋에는 리더-팔로워 계획 프로토콜, 도구 호출(인식, 조작, 내비게이션, 통신), 추론 과정(rationale traces), 그리고 다양화된 자연어 통신이 포함되어 있습니다. 오픈소스 모델을 본 데이터셋으로 미세조정(fine-tuning)하면 새로운 미공개(held-out) 작업에서 77%의 성공률에 도달할 수 있으며, 이는 약 ~2%의 성공률을 보였던 미세조정되지 않은 기존 오픈소스 모델 대비 대폭 향상된 결과입니다.

arXiv:2607.19479v2cs.RO

ModPack: 양팔 모바일 조작을 위한 확장 가능한 원격 조작 인터페이스

ModPack: Extensible Teleoperation Interface for Bimanual Mobile Manipulation

기존의 원격 조작(teleoperation) 시스템은 특정 로봇 하드웨어 및 작업 도메인에 맞춰 제작되는 경우가 많아 확장성과 적응성이 제한됩니다. 본 논문에서는 통일된 프레임워크 내에서 다양한 로봇 임바디먼트(embodiment)와 작업 요구사항을 지원하도록 설계된 모듈식 및 확장형 원격 조작 시스템인 ModPack을 제시합니다. ModPack의 핵심은 온보드 연산, 전원, 통신 및 데이터 저장을 통합한 독립형 웨어러블 "백팩(backpack)"입니다. 이러한 공유 인터페이스를 기반으로 구축된 이 시스템은 햅틱 피드백을 포함한 관절 수준 원격 조작, 모바일 조작(mobile manipulation), 능동적 지각(active perception)을 포함한 플러그 앤 플레이 방식의 기능 모듈들을 지원합니다. 서로 다른 두 로봇 플랫폼과 실제 환경의 모바일 조작 작업에 대한 실험을 통해, ModPack이 데이터 수집 및 정책 학습(policy learning)을 위한 유연하고 재사용 가능한 프레임워크를 제공하며 로봇 프리(robot-free) 대안보다 더 높은 품질의 데이터를 수집함을 입증합니다. 향후 연구를 지원하기 위해 전체 하드웨어 설계와 소프트웨어 스택을 오픈소스로 공개합니다. 프로젝트 웹사이트: https://modpack-robotics.github.io/

arXiv:2604.00055v2cs.RO

장기적 로봇 작업을 위한 일반화 가능한 밀집 보상

Generalizable Dense Reward for Long-Horizon Robotic Tasks

기존의 로봇 파운데이션 정책은 주로 대규모 모방 학습을 통해 학습(training)됩니다. 이러한 모델들은 강력한 성능을 보여주지만, 분포 변화(distribution shift)와 오차 누적으로 인해 장기적(long-horizon) 작업에서 종종 어려움을 겪습니다. 강화학습(RL)으로 이러한 모델들을 파인튜닝할 수 있지만, 수작업 보상 엔지니어링 없이는 다양한 작업 전반에서 잘 작동하기 어렵습니다. 본 논문에서는 (1) 작업 진행 상황 인식을 위해 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)을 활용한 외재적 보상(extrinsic reward), 그리고 (2) 정책의 자체 확신도(self-certainty)에 기반한 내재적 보상(intrinsic reward)을 결합한 밀집 보상(dense reward) 프레임워크인 VLLR을 제안합니다. VLLR은 LLM을 사용해 작업을 검증 가능한 하위 작업으로 분해한 다음, VLM을 통해 진행률을 추정하여 짧은 웜업(warm-up) 단계 동안 가치 함수를 초기화(initialization)함으로써 전체 학습 과정에서 발생하는 과도한 추론(inference) 비용을 방지합니다. 또한 자체 확신도는 PPO 파인튜닝 전반에 걸쳐 매 스텝마다 내재적 가이던스를 제공합니다. 절제 연구(ablation study)를 통해 상호 보완적인 이점이 밝혀졌습니다. VLM 기반 가치 초기화는 주로 작업 완료 효율성을 개선하는 반면, 자체 확신도는 특히 분포 외(out-of-distribution) 작업에서 성공률을 크게 향상시킵니다. 모바일 조작 및 내비게이션을 다루는 CHORES 벤치마크에서 VLLR은 수작업 보상 엔지니어링 없이도 사전학습된 정책 대비 최대 56%의 절대적 성공률 향상을 달성하고, 분포 내 작업에서 최신 강화학습 파인튜닝 방법 대비 최대 5%, 분포 외 작업에서 최대 $10\%$의 향상을 달성합니다. 추가적인 시각화 자료는 https://silongyong.github.io/vllr_project_page/ 에서 확인할 수 있습니다.

arXiv:2610.03476v1cs.RO

MobiAgent: 장기 모바일 조작을 위한 이중 루프 재귀적 정책 자가 개선

MobiAgent: Dual-Loop Recursive Policy Self-Improvement for Long-Horizon Mobile Manipulation

장기(long-horizon) 모바일 조작은 복합적인 실행 오류와 이동(locomotion) 및 로봇 팔 제어 간의 용량 간섭(capacity interference)으로 인해 상당한 어려움을 야기합니다. 최근의 비전-언어-행동(VLA, Vision-Language-Action) 모델은 단기 태스크에는 뛰어나지만 다단계 목표에 필요한 계층적 추론 능력이 부족합니다. 게다가 기존의 계층적 에이전트는 경직된 하위 태스크 매핑, 유연하지 못한 재계획(replanning), 그리고 지속적인 학습의 부재로 어려움을 겪습니다. 이러한 한계를 해결하기 위해, 우리는 견고한 배포 실행과 재귀적 정책 자가 개선을 연결하는 이중 루프 에이전트 프레임워크인 MobiAgent를 소개합니다. 배포 중에 내부 루프(Inner Loop)는 구성 가능성이 높은 원자적 기술(atomic skills)을 통해 고차원 추론을 저수준 제어와 분리합니다. 이는 축소 지평 계획(receding-horizon planning)과 시각적 반추(visual reflection)를 위해 비전-언어 모델을 활용하며, 기술을 동적으로 구성하여 견고한 오류 복구를 보장합니다. 이러한 기술들은 통일된 VLM 백본을 공유하는 특화된 플로우 매칭(flow-matching) 전문가에 의해 실행되어 용량 간섭을 완화하는 동시에 재사용성을 극대화합니다. 동시에 외부 루프(Outer Loop)는 배포 롤아웃을 자율적으로 분할 및 검증하고, 이를 클러스터링하여 원자적 기술을 발견하며, 인간의 주석 없이 스킬 라이브러리를 지속적으로 미세조정함으로써 자동화된 평생 학습을 주도합니다. RoboCasa, BEHAVIOR-1K, 그리고 실제 환경 태스크에서의 평가는 MobiAgent의 효과를 입증합니다. 본 모델은 BEHAVIOR-1K에서 $\pi_{0.5}$-TA보다 22.5%p 높은 성능을 보이며 실행 실패로부터의 견고한 복구를 가능하게 합니다. 자율적인 데이터 재활용을 통해 RoboCasa에서는 성공률이 7.50%에서 27.50%로 향상되었고, Astribot S1에서는 32.5%에서 57.5%로 향상되었습니다.

arXiv:2610.02089v1cs.RO

HumanoidToolBench: 선택부터 이동 실행까지 휴머노이드 도구 사용 벤치마킹

HumanoidToolBench: Benchmarking Humanoid Tool Use from Selection to Mobile Execution

로봇 하드웨어와 학습 방법이 발전함에 따라, 휴머노이드가 고유한 물리적 한계를 뛰어넘는 작업을 수행하기 위해서는 도구가 필요합니다. 성공적인 도구 사용을 위해서는 적절한 도구를 선택하고 조작(manipulation)과 필요 시 보행(locomotion)을 조율하여 작업을 완료해야 합니다. 기존 벤치마크는 휴머노이드에서 이러한 능력들을 종합적으로 평가하지 못합니다. 본 논문에서는 3가지 시나리오, 3가지 실행 수준, 2가지 도구 세트 모드를 아우르는 18개 작업 벤치마크인 HumanoidToolBench와 함께, 시뮬레이션 및 실제 Unitree G1 로봇에서 수집된 3,100개의 시연(demonstration) 데이터셋인 ToolBook을 소개합니다. 시뮬레이션에서 7개 정책, 실제 로봇에서 3개 정책을 평가한 결과 적절한 도구를 선택하는 것과 작업을 완수하는 것 사이에 상당한 격차가 있음을 확인했습니다. GR00T N1.7에 대한 심층 분석 결과, 보지 못한(unseen) 도구에 대한 선택 정확도가 감소하고 무관한 지시문이 주어져도 작업을 계속 실행하는 문제가 나타났습니다. 코드와 데이터는 https://snu-pi.github.io/HumanoidToolBench/ 에서 확인할 수 있습니다.

arXiv:2610.01477v1cs.RO

ALFRED: 장기 식물 모니터링을 위한 요구사항 기반 오픈소스 모바일 매니퓰레이터 개발

ALFRED: Requirement-driven development of an open-source mobile manipulator for long-term plant monitoring

작물과 산림의 계절적 변화를 추적하려면 동일한 식물을 반복적으로 관찰해야 합니다. 지상 로봇은 근거리에서 이를 수행할 수 있으며, 매니퓰레이터(manipulator)는 센서에 더 다양한 시점을 제공합니다. 그러나 장기 필드 데이터셋 뒤에 있는 로봇들은 설계 파일과 함께 공개되는 경우가 드물며, 로봇 자체의 구조가 로봇 팔의 도달 범위를 어떻게 제한하고 센서를 가리는지(occlusion) 빌드 간에 비교되는 일도 거의 없습니다. 본 논문에서는 상용 부품으로 제작된 오픈소스 모바일 매니퓰레이터인 ALFRED를 소개합니다. ALFRED는 재구성 가능한 알루미늄 스트럿 프레임 위에 조향 가능한 애커만(Ackermann) 기반 플랫폼과 6자유도 로봇 팔, LiDAR, RGB-D 카메라, RTK GNSS, IMU를 탑재하고 있으며, 컨테이너화된 ROS 소프트웨어를 구동합니다. 이 로봇은 반복적인 야외 배치를 위한 6가지 요구사항인 내구성, 모듈성, 수리 용이성, 센싱 도달 범위, 지속 시간, 재현성을 기준으로 4단계의 빌드를 거쳐 개발되었습니다. 마지막 3개 빌드에 대한 모델 기반 분석 결과, 로봇 팔의 도달 가능한 포즈 중 사용 가능한 비율이 34.0%에서 60.0%, 그리고 66.1%로 증가한 것으로 나타났으며, 레이 캐스팅(ray casting) 분석을 통해 최종 빌드만이 프레임 장착형 LiDAR의 수평 시야를 전방과 후방 모두에서 방해 없이 유지함을 보였습니다. ALFRED는 배터리 성능 저하, 다른 연구자의 연구를 위한 재구성, 자율 작물 열 주행을 위한 ALFRED 2.0의 병행 개발(빌드 간 전환에 매번 약 6시간 소요)에도 불구하고, 예정된 수집을 누락하지 않고 1년간의 월별 산림 조사(528회 주행)를 성공적으로 완료했습니다. 또한 이번 배치를 통해 기계적 모듈성은 이를 추적하는 로봇 기술(robot description)만큼만 신뢰할 수 있음을 보여주었습니다.

arXiv:2607.15330v2cs.RO

Xiaomi-Robotics-1: 10만 시간 이상의 실세계 궤적으로 비전-언어-액션 모델 스케일링

Xiaomi-Robotics-1: Scaling Vision-Language-Action Models with over 100K Hours of Real-World Trajectories

우리는 Xiaomi-Robotics-1을 제시한다. 이는 (1) 다양한 언어 지시를 따라 보지 못한 환경에서 즉시(out-of-the-box) 광범위한 이동 조작(mobile manipulation) 작업을 수행할 수 있고, (2) 최소한의 미세조정 데이터로 새로운 하류(downstream) 작업에 효율적으로 적응할 수 있는 기초 비전-언어-액션(VLA) 모델이다. 우리는 사전학습과 사후 학습으로 구성된 2단계 학습 레시피를 제안한다. 사전학습 동안 UMI 장치를 통해 수집된 10만 시간 이상의 실세계 조작 궤적으로 학습하여 모델에 폭넓고 일반화 가능한 액션 생성 능력을 부여한다. 핵심적으로, 장면 상태 전환을 설명하는 자연어로 궤적 클립에 주석을 달아 액션 학습을 위한 풍부하고 정확한 조건화(conditioning)를 제공하는 확장 가능한 자동 라벨링 파이프라인을 개발했다. 사후 학습 동안에는 이러한 능력을 로봇 embodiment 및 인간이 로봇에 프롬프트할 때 자연스럽게 사용하는 명령형 지시와 정렬(alignment)하는 것을 목표로 한다. 광범위한 실험은 강한 스케일링(scaling) 특성을 보여준다. Xiaomi-Robotics-1은 사전학습 동안 데이터 규모와 모델 크기가 증가함에 따라 일관되게 개선된다. 이러한 스케일링 특성은 사후 학습으로 직접 전이되며, 더 강력한 사전학습 모델이 보지 못한 환경에서 더 나은 즉시(out-of-the-box) 실로봇 성능을 제공한다. 또한 Xiaomi-Robotics-1은 복잡하고 정교한(dexterous) 작업에 높은 데이터 효율로 효율적으로 미세조정할 수 있는 강력한 로봇 기초 정책(foundation policy) 역할을 한다. 여러 시뮬레이션 벤치마크에서 Xiaomi-Robotics-1은 최신(state-of-the-art) 방법들을 능가한다. 특히 RoboCasa365에서 57.4%의 성공률로 새로운 최고 성능(state-of-the-art)을 수립하여 이전 최고 기록 46.6%를 넘어선다. 또한 RoboDojo에서 평균 20.07점을 달성하여 이전 최고 성능(13.07)을 크게 능가한다. 코드와 모델 체크포인트가 공개될 예정이다. 프로젝트 페이지: https://robotics.xiaomi.com/xiaomi-robotics-1.html

arXiv:2607.13653v1cs.CV

탐험적, 소통형, 그리고 배포 가능한: 오픈 월드 모바일 매니퓰레이션을 위한 비전 주도 체화 에이전트

Exploratory, Communicative, and Deployable: Vision-Driven Embodied Agents for Open-World Mobile Manipulation

체화 에이전트의 실제 환경 배포에는 능동적 탐험, 시각적 그라운딩, 그리고 대화형 의도 모호성 해소가 필요하다. 그러나 기존 프레임워크는 종종 특권적인 시뮬레이터 상태에 의존하거나 완전한 지시를 가정하여 현실적인 배포 과제를 우회하는 경우가 많다. 이 간극을 메우기 위해, 우리는 오픈 월드 모바일 매니퓰레이션을 위한 에이전트형 프레임워크인 REAL을 제안한다. REAL은 오라클 인식 없이 sim-to-real 일관성 환경 API를 구축하고, human-in-the-loop 상호작용을 가능하게 하기 위해 시뮬레이션 사용자를 통합한다. 이 환경 내에서 우리는 데이터 수집, 지도 미세조정, 온라인 강화학습을 이끌기 위해 다양한 과제 구성을 설계하고, 에이전트 성능을 체계적으로 최적화한다. 이 접근법을 종합적으로 평가하기 위해, 능동적 탐험, 시각적 방해, 관절형 조작, 대화형 모호성 해소에 걸친 241개 과제를 아우르는 벤치마크 REAL-Bench를 도입한다. 실험 결과, 우리가 학습한 에이전트가 대화형 과제에서 56.9%의 성공률로 주요 상용 폐쇄형 VLM을 능가함을 보여준다. 추가 실증 분석은 우리의 계층적 학습 파이프라인이 확장된 탐험 지평 하에서 견고한 오픈-어휘 추론을 유지하면서 모델의 도구 사용 능력을 성공적으로 정렬함을 밝힌다. 마지막으로 우리는 물리적 양팔 이동 로봇에 프레임워크를 배포·평가했으며, 60회의 실세계 에피소드에서 78.3%의 end-to-end 성공률을 달성했다. 이 물리 실험은 보지 못한 가정 시나리오에 대한 견고한 제로샷 전이 가능성을 보여 주며, sim-to-real 일관 설계가 장기간 모바일 매니퓰레이션에서 현실 격차를 성공적으로 메웠음을 검증한다. 코드는 https://github.com/InternRobotics/REAL 에서 제공된다.

arXiv:2607.00678v1cs.CV

ABot-M0.5: 통합 이동성-조작 월드 액션 모델

ABot-M0.5: Unified Mobility-and-Manipulation World Action Model

범용 로봇의 모바일 조작(mobile manipulation)을 위한 월드 액션 모델(WAM) ABot-M0.5는 시간적 세밀도, 액션 공간, 학습-테스트 일관성이라는 세 가지 정합 문제를 해결하기 위해 중간 잠재 액션(intermediate latent actions), 이중 수준 전문가 혼합(MoE) 트랜스포머, 드림-포싱(dream-forcing) 학습 전략을 도입했다. 도전적인 모바일 및 세밀 조작 벤치마크에서 장기 과제 성공률과 세밀한 제어 정확도 모두 최첨단 성능을 달성했다.