arXiv:2409.17126

Blox-Net: Generative Design-for-Robot-Assembly Using VLM Supervision, Physics Simulation, and a Robot with Reset

Andrew Goldberg, Kavish Kondap, Tianshuang Qiu, Zehan Ma, Letian Fu, Justin Kerr, Huang Huang, Kaiyuan Chen, Kuan Fang, Ken Goldberg

제출 2024-09-25

원문 초록

Generative AI systems have shown impressive capabilities in creating text, code, and images. Inspired by the rich history of research in industrial ''Design for Assembly'', we introduce a novel problem: Generative Design-for-Robot-Assembly (GDfRA). The task is to generate an assembly based on a natural language prompt (e.g., ''giraffe'') and an image of available physical components, such as 3D-printed blocks. The output is an assembly, a spatial arrangement of these components, and instructions for a robot to build this assembly. The output must 1) resemble the requested object and 2) be reliably assembled by a 6 DoF robot arm with a suction gripper. We then present Blox-Net, a GDfRA system that combines generative vision language models with well-established methods in computer vision, simulation, perturbation analysis, motion planning, and physical robot experimentation to solve a class of GDfRA problems with minimal human supervision. Blox-Net achieved a Top-1 accuracy of 63.5% in the ''recognizability'' of its designed assemblies (eg, resembling giraffe as judged by a VLM). These designs, after automated perturbation redesign, were reliably assembled by a robot, achieving near-perfect success across 10 consecutive assembly iterations with human intervention only during reset prior to assembly. Surprisingly, this entire design process from textual word (''giraffe'') to reliable physical assembly is performed with zero human intervention.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2501.10781v2cs.MA공통 태그 Motion Planning공식 코드 · Papers with Code

다중 에이전트 모션 플래닝에서 다중 우선순위 동시 연산

Simultaneous Computation with Multiple Prioritizations in Multi-Agent Motion Planning

대규모 네트워크에서의 다중 에이전트 경로 탐색(MAPF)은 계산적으로 까다로운 문제입니다. MAPF를 위한 접근 방식 중 하나는 우선순위 기반 플래닝(PP)으로, 에이전트들이 우선순위에 따라 순차적으로 계획을 수립합니다. 이는 MAPF에서 계산 효율적인 접근 방식이지만, 해의 품질은 우선순위 지정 방식에 크게 좌우됩니다. 대부분의 우선순위 지정은 일반화가 어려운 휴리스틱에 의존하거나 적절한 우선순위를 찾기 위해 반복 연산을 수행하므로 계산 비용이 발생합니다. 본 연구에서는 에이전트가 여러 우선순위 지정을 동시에 연산하는 방법을 제시합니다. 제안하는 접근 방식은 도메인 특화 지식에 의존하지 않으므로 범용적입니다. 본 연구의 배경은 계산 시간 제약 조건이 있는 후퇴 지평선 기반 다중 에이전트 모션 플래닝(MAMP)입니다. MAMP는 MAPF에 비해 시스템 동역학을 더 상세히 고려합니다. MAMP에 대한 수치 실험을 통해, 제안하는 기법이 계산 시간의 미미한 증가만으로 거의 최적에 가까운 우선순위 지정을 달성하고 최신(SOTA) 방법들보다 우수한 성능을 보임을 입증합니다. 또한 Cyber-Physical Mobility Lab에서 10대의 차량을 이용한 도로망 실험을 통해 실시간 동작 가능성을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.