arXiv:2403.13245

Federated reinforcement learning for robot motion planning with zero-shot generalization

Zhenyuan Yuan, Siyuan Xu, Minghui Zhu

제출 2024-03-20

원문 초록

This paper considers the problem of learning a control policy for robot motion planning with zero-shot generalization, i.e., no data collection and policy adaptation is needed when the learned policy is deployed in new environments. We develop a federated reinforcement learning framework that enables collaborative learning of multiple learners and a central server, i.e., the Cloud, without sharing their raw data. In each iteration, each learner uploads its local control policy and the corresponding estimated normalized arrival time to the Cloud, which then computes the global optimum among the learners and broadcasts the optimal policy to the learners. Each learner then selects between its local control policy and that from the Cloud for next iteration. The proposed framework leverages on the derived zero-shot generalization guarantees on arrival time and safety. Theoretical guarantees on almost-sure convergence, almost consensus, Pareto improvement and optimality gap are also provided. Monte Carlo simulation is conducted to evaluate the proposed framework.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.07844v1cs.RO공통 태그 Motion Planning, Zero-shot Generalization

Shift & Drift: 일반화 가능하고 강건한 자율주행 모션 플래닝을 위한 제로샷 벤치마크

Shift & Drift: A Zero-Shot Benchmark for Generalizable and Robust Autonomous Driving Motion Planning

nuPlan과 같은 대규모 객체 수준 데이터셋으로 학습된 폐루프(closed-loop) 모션 플래너는 분포 내(in-distribution, ID) 성능이 우수하지만, 새로운 도시 토폴로지에 대한 일반화 능력과 실행 중 섭동(perturbation) 발생 후 복구 메커니즘은 충분히 탐구되지 않았다. 이를 해결하기 위해 우리는 두 가지 핵심 분포 변화 축에 걸쳐 모션 플래너를 엄밀하게 stress-test하도록 설계된 새로운 이중 트랙 벤치마크인 Shift & Drift를 제시한다. (1) Semantic Shift Track은 공중 촬영 기반의 DeepScenario Open 3D 데이터셋을 nuPlan 시뮬레이션 프레임워크로 변환하는 새로운 변환 파이프라인을 활용한다. 이를 통해 북미 및 싱가포르 데이터로 학습된 플래너를 독일 4개 도시와 미국 샌프란시스코에 걸친 1,182개 시나리오—보행자-자전거 이용자 간 밀집 상호작용이 특징적인—에 대해 제로샷(zero-shot) 평가할 수 있다. (2) State-Distribution Drift Track은 자차(ego vehicle)의 동역학에 확률적 섭동을 주입하여 누적 실행 오류에 대한 강건성을 정량화한다. 이를 기반으로 우리는 시맨틱 및 상태 분포 변화 하에서 다양한 플래닝 패러다임의 실패 양상을 체계적으로 평가한다. 모방 학습(imitation learning) 방법은 ID 벤치마크에서 높은 점수를 달성하지만, 시맨틱 변화—특히 보행자 밀집 환경—에서 심각한 실패를 나타내며, 시간적으로 상관된 액추에이션 노이즈에 노출될 경우 지속적인 드리프트(drift)를 겪는다. 이와 대조적으로, 평가된 강화학습(reinforcement learning) 기반 플래너는 두 트랙 모두에서 더 높은 안전성 및 진행 지표를 유지하며 보다 완만한 성능 저하를 보인다. 우리의 연구 결과는 모방 충실도와 폐루프 복원력 사이의 경험적 트레이드오프를 밝히며, 신뢰할 수 있는 배포를 향한 진전을 평가하기 위한 엄밀한 벤치마크를 커뮤니티에 제공한다.

arXiv:2501.10781v2cs.MA공통 태그 Motion Planning공식 코드 · Papers with Code

다중 에이전트 모션 플래닝에서 다중 우선순위 동시 연산

Simultaneous Computation with Multiple Prioritizations in Multi-Agent Motion Planning

대규모 네트워크에서의 다중 에이전트 경로 탐색(MAPF)은 계산적으로 까다로운 문제입니다. MAPF를 위한 접근 방식 중 하나는 우선순위 기반 플래닝(PP)으로, 에이전트들이 우선순위에 따라 순차적으로 계획을 수립합니다. 이는 MAPF에서 계산 효율적인 접근 방식이지만, 해의 품질은 우선순위 지정 방식에 크게 좌우됩니다. 대부분의 우선순위 지정은 일반화가 어려운 휴리스틱에 의존하거나 적절한 우선순위를 찾기 위해 반복 연산을 수행하므로 계산 비용이 발생합니다. 본 연구에서는 에이전트가 여러 우선순위 지정을 동시에 연산하는 방법을 제시합니다. 제안하는 접근 방식은 도메인 특화 지식에 의존하지 않으므로 범용적입니다. 본 연구의 배경은 계산 시간 제약 조건이 있는 후퇴 지평선 기반 다중 에이전트 모션 플래닝(MAMP)입니다. MAMP는 MAPF에 비해 시스템 동역학을 더 상세히 고려합니다. MAMP에 대한 수치 실험을 통해, 제안하는 기법이 계산 시간의 미미한 증가만으로 거의 최적에 가까운 우선순위 지정을 달성하고 최신(SOTA) 방법들보다 우수한 성능을 보임을 입증합니다. 또한 Cyber-Physical Mobility Lab에서 10대의 차량을 이용한 도로망 실험을 통해 실시간 동작 가능성을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.