세계가 테스트 모음이라면: 물리적 세계를 위한 에이전트형 지능
When the World Is the Test Suite: Agentic Intelligence for the Physical World
한국어 초록
소프트웨어 수정을 위해 개발한 코딩 에이전트가 이제 로봇, 실험실, 산업용 제어기의 프로그램을 작성하고 테스트하며 고친다. 소프트웨어 공학과 달리 코드와 함께 제공되는 테스트 모음이 없다. 프로그램의 작동 여부는 로봇이나 물리 시뮬레이터에서 실행하거나, 프로그램이 학습을 돕는 정책을 확인해야 알 수 있다. 이 근거를 확보하는 데 비용이 들고 근거 자체가 틀릴 수도 있다. 에이전트가 더 많은 물리적 과제를 맡을수록 프로그램을 어떻게 작성하는지만큼 어떻게 평가하는지도 중요하다. 이 논문은 물리적 세계를 위한 에이전트형 지능이라는 분야를, 세계 자체를 프로그램의 테스트 모음으로 보는 관점에서 살펴본다. 에이전트가 물리적 세계에 적용할 프로그램을 어떻게 작성하고, 프로그램을 어떻게 테스트하며, 에이전트가 결과로부터 어떻게 학습하는지를 중심으로 논의한다. 먼저 로봇용 언어 모델과 소프트웨어 공학 에이전트가 어떻게 결합했는지 살핀다. 어떤 소프트웨어 테스트 관행을 물리적 시험에 적용할 수 있는지 묻고, 프로그램과 구동기의 관계 및 프로그램을 검증하는 주체에 따라 프로그램 유형을 설명한다. 작성 단계에서는 로봇 정책으로 동작하는 프로그램과 보상, 과제, 학습 환경을 만들어 정책 학습을 지원하는 프로그램을 다룬다. 테스트 단계에서는 물리적 실험의 비용, 실행 기록과 학습된 평가기, 시뮬레이터, 형식 검사가 대신 무엇을 입증할 수 있는지, 과제 성공 외에 안전에 필요한 조건을 검토한다. 학습 단계에서는 검증한 프로그램의 경험이 스킬 라이브러리와 모델 가중치에 어떻게 남는지 논의한다. 마지막으로 벤치마크와 평가 관행, 남은 연구 과제를 다룬다. 프로그램 작성 비용은 줄고 있지만 무엇을 하는지 보여 주는 신뢰할 만한 근거는 여전히 비싸다. 따라서 물리적 세계에 맞는 지속적 통합이 필요하다. 검증은 자주 실행할 수 있을 만큼 저렴하고, 탐색 과정에서도 신뢰할 수 있으며, 검증 대상인 경험과 함께 관리돼야 한다.
원문 초록
Coding agents built to repair software now write, test, and repair programs for robots, laboratories, and industrial controllers. Unlike in software engineering, no test suite comes with the code. Whether a program works must be established by running it on a robot, in a physics simulator, or through the policies it helps to train, and such evidence is costly to obtain and can itself be wrong. As these agents take on more physical tasks, how their programs are judged matters as much as how they are written. This paper examines this emerging area, agentic intelligence for the physical world, by treating the world as the program's test suite. We organize the discussion around three questions: how agents write programs for the physical world, how these programs are tested, and how agents learn from the results. We first trace how language models for robots and software engineering agents came together, ask which software testing practices carry over to physical tests, and describe each program by where it sits relative to the actuator and by what judges it. For writing, we cover programs that act as robot policies and programs that support policy learning by producing rewards, tasks, and training worlds. For testing, we examine what physical trials cost, what traces, learned judges, simulators, and formal checks can establish in their place, and what safety requires beyond task success. For learning, we discuss how tested programs are retained as experience, in skill libraries and in model weights. Finally, we turn to benchmarks and evaluation practice and outline open challenges. Writing programs is becoming cheap, while trustworthy evidence about what they do remains costly. Progress will therefore depend on a physical counterpart of continuous integration: verification cheap enough to run often, reliable enough to trust under search, and maintained alongside the experience it validates.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22291v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.