FlowBot: 이뉴 최적화와 텍스트 기울기를 통한 LLM 워크플로우 유도
FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients
LLM 워크플로우는 개별 LLM/에이전트에 대한 구조화된 호출을 조율하여 특정 목표를 달성하는 방식으로, 다양한 작업을 처리할 수 있는 강력한 AI 시스템을 구축하는 유망한 경로를 제공한다. 그러나 이러한 워크플로우를 구축하는 기존 접근법은 일반적으로 사람이 작성한 파이프라인과 프롬프트에 의존하며, 이는 실제 배포에서 상당한 병목을 야기한다. 데이터 기반 방식으로 LLM 기반 에이전트와 워크플로우를 자동으로 유도할 수 있는 방법은 무엇인가? 본 논문은 에이전트와 LLM 워크플로우를 자동으로 유도하기 위한 간단한 데이터 기반 접근법을 설명한다. 우리는 워크플로우 유도를 이뉴 최적화(bilevel optimization) 문제로 공식화한다: 외부 루프는 워크플로우의 고수준 개요(특히 LLM 호출이 어떻게 구조화되어야 하는지)를 최적화하고, 내부 루프는 각 개별 LLM 호출을 하나씩 최적화한다. 두 루프 모두 ``텍스트 기울기(textual gradients)''로 최적화되며, 내부 루프에서는 ``역전파'' 텍스트 기울기를 층별로 수행하여 각 구성 요소를 모듈식으로 최적화한다. 우리는 \textsc{FlowBot} (work\textbf{flow} induction through \textbf{b}ilevel \textbf{o}ptimization and \textbf{t}extual gradients) 접근법을 통해 발견된 LLM 워크플로우가 사람이 작성하거나 생성된 워크플로우를 사용하는 강력한 베이스라인 대비 경쟁력 있는 성능을 보인다는 것을 확인한다.