RH20T-P: A Primitive-Level Robotic Dataset Towards Composable Generalization Agents
원문 초록
Achieving generalizability in solving out-of-distribution tasks is one of the ultimate goals of learning robotic manipulation. Recent progress of Vision-Language Models (VLMs) has shown that VLM-based task planners can alleviate the difficulty of solving novel tasks, by decomposing the compounded tasks as a plan of sequentially executing primitive-level skills that have been already mastered. It is also promising for robotic manipulation to adapt such composable generalization ability, in the form of composable generalization agents (CGAs). However, the community lacks of reliable design of primitive skills and a sufficient amount of primitive-level data annotations. Therefore, we propose RH20T-P, a primitive-level robotic manipulation dataset, which contains about 38k video clips covering 67 diverse manipulation tasks in real-world scenarios. Each clip is manually annotated according to a set of meticulously designed primitive skills that are common in robotic manipulation. Furthermore, we standardize a plan-execute CGA paradigm and implement an exemplar baseline called RA-P on our RH20T-P, whose positive performance on solving unseen tasks validates that the proposed dataset can offer composable generalization ability to robotic manipulation agents.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
다중 에이전트 모션 플래닝에서 다중 우선순위 동시 연산
Simultaneous Computation with Multiple Prioritizations in Multi-Agent Motion Planning
대규모 네트워크에서의 다중 에이전트 경로 탐색(MAPF)은 계산적으로 까다로운 문제입니다. MAPF를 위한 접근 방식 중 하나는 우선순위 기반 플래닝(PP)으로, 에이전트들이 우선순위에 따라 순차적으로 계획을 수립합니다. 이는 MAPF에서 계산 효율적인 접근 방식이지만, 해의 품질은 우선순위 지정 방식에 크게 좌우됩니다. 대부분의 우선순위 지정은 일반화가 어려운 휴리스틱에 의존하거나 적절한 우선순위를 찾기 위해 반복 연산을 수행하므로 계산 비용이 발생합니다. 본 연구에서는 에이전트가 여러 우선순위 지정을 동시에 연산하는 방법을 제시합니다. 제안하는 접근 방식은 도메인 특화 지식에 의존하지 않으므로 범용적입니다. 본 연구의 배경은 계산 시간 제약 조건이 있는 후퇴 지평선 기반 다중 에이전트 모션 플래닝(MAMP)입니다. MAMP는 MAPF에 비해 시스템 동역학을 더 상세히 고려합니다. MAMP에 대한 수치 실험을 통해, 제안하는 기법이 계산 시간의 미미한 증가만으로 거의 최적에 가까운 우선순위 지정을 달성하고 최신(SOTA) 방법들보다 우수한 성능을 보임을 입증합니다. 또한 Cyber-Physical Mobility Lab에서 10대의 차량을 이용한 도로망 실험을 통해 실시간 동작 가능성을 보여줍니다.
Epona: Autoregressive Diffusion World Model for Autonomous Driving
Re4MPC: Reactive Nonlinear MPC for Multi-model Motion Planning via Deep Reinforcement Learning
Prime the search: Using large language models for guiding geometric task and motion planning by warm-starting tree search
RefAV: Towards Planning-Centric Scenario Mining
LiloDriver: A Lifelong Learning Framework for Closed-loop Motion Planning in Long-tail Autonomous Driving Scenarios
토론
이 논문과 연결된 포럼 글이 아직 없습니다.