Plan-and-Patch: 에이전틱 계획을 위한 확산 언어 모델
Plan-and-Patch: Diffusion Language Models for Agentic Planning
계획(planning)은 여러 단계에 걸쳐 하위 목표, 도구 사용, 중간 결과를 조율하여 성공적으로 실행해야 하는 장기적(long-horizon) 에이전트(agent)에게 점점 더 중요해지고 있습니다. 그러나 계획 수립 중에 세운 가정이 환경(environment)에 의해 무효화되거나, 도구가 예상치 못한 결과를 반환하거나, 행동이 실패할 수 있습니다. 따라서 효과적인 에이전트는 계획을 생성할 뿐만 아니라 수정할 수도 있어야 합니다. 이러한 수정은 흔히 계획의 일부에만 영향을 미치며, 앞선 구조와 후속 구조는 그대로 유지합니다. 계획 전체를 다시 생성하여 불필요한 변경을 초래할 위험을 감수하기보다는, 보존된 접두 문맥(prefix)과 접미 문맥을 조건으로 하여 영향을 받은 영역만 복구(repair)를 통해 재생성할 수 있습니다. 본 논문에서는 확산 언어 모델(dLLM)이 병렬 언마스킹(parallel unmasking)을 통해 구조화된 프로그램 형태의 계획을 생성하고, 주변 단계를 고정한 채 선택된 영역을 채워 넣어 계획을 복구하는 계획-실행(plan-and-act) 프레임워크인 Plan-and-Patch를 소개합니다. 저자들은 확산 플래너와 자기회귀(AR) 플래너로서 DreamReasoner-8B와 Qwen3-8B를 비교합니다. 태스크 맞춤형 학습(training)이 없는 Natural Plan에서 확산 모델(53.7%)은 AR(27.0%) 대비 두 배에 가까운 계획 복구 성공률을 달성합니다. 에이전틱 벤치마크(benchmark)인 ALFWorld 및 TextCraft에서 태스크 맞춤형 학습을 거친 후, 두 플래너는 계획 생성에서 유사한 관측 성공률을 보인 반면, 확산 모델은 AR 대비 평균 계획 생성 지연 시간을 39-46% 단축합니다. 본 연구 결과는 Plan-and-Patch가 장기적 에이전트에서 더 빠른 계획 생성과 효과적인 계획 복구를 지원하는 프레임워크를 제공함을 보여줍니다.