arXiv:2608.25992v1 cs.AI

ProgRouter: 품질-비용 절충 하 다중 에이전트 LLM 워크플로를 위한 온라인 진행률 기반 오케스트레이션

ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs

Songyuan Li, Ahmed M. Abdelmoniem, Shiqiang Wang

제출 2026-08-26

한국어 초록

다중 에이전트 대규모 언어 모델(LLM) 워크플로는 전문화된 LLM 에이전트 간의 협력적 추론을 통해 복잡하고 개방형인 과제를 해결하는 강력한 패러다임으로 부상했으나, 반복적인 LLM 호출과 장기 컨텍스트 축적으로 인해 상당한 운영 비용이 발생한다. 기존 캐스케이드 라우팅 방법은 일회성 쿼리 수준의 결정을 내리며, 각 단계에서 적절한 LLM이 진행 중인 과제 진행 상황, 남은 과제 난이도, 비용 효율 요구사항에 따라 달라지는 다단계 워크플로의 동적이고 상태 의존적인 특성에 적응할 수 없다. 우리는 과제 해결 품질을 유지하면서 시간 및 비용 예산을 준수하기 위해 워크플로 단계마다 LLM 에이전트를 적응적으로 선택하는 온라인 진행률 기반 라우팅 프레임워크인 ProgRouter를 제안한다. ProgRouter는 거친 워크플로 결과 체제와 하위 과제 완료, 진행 추세, 워크플로 상태 품질에 대한 세밀한 신호를 결합하는 다중 관점 과제 진행률 점수화기를 도입한다. 이어서 이중 경로 과제 진행률 예측기와 적응형 메타 게이팅(meta-gating) 메커니즘이 각 후보 라우팅 LLM에 대한 진행 이득을 추정한다. ProgRouter는 진행 이득, 과제 시간 예산, 장기 운영 비용 효율을 균형 있게 고려한 온라인 단계별 라우팅 결정을 수행한다. 에이전틱 코드 생성, 수학적 추론, 검색-증강 생성(RAG) 기반 장문 질의응답을 아우르는 HumanEval Plus, MBPP, MATH-500, ASQA에서의 실험은 ProgRouter가 강력한 과제 해결 성능을 유지하면서 주요 베이스라인 대비 운영 비용을 줄임을 보여준다.

원문 초록

Multi-agent large language model (LLM) workflows have emerged as a powerful paradigm for solving complex, open-ended tasks through collaborative reasoning among specialized LLM agents, but they incur substantial operating costs due to repeated LLM invocations and long-horizon context accumulation. Existing cascade routing methods make one-shot, query-level decisions and cannot adapt to the dynamic, state-dependent nature of multi-step workflows, in which the right LLM at each step depends on evolving task progress, remaining task difficulty, and cost-efficiency requirements. We present ProgRouter, an online progress-guided routing framework that adaptively selects LLM agents across workflow steps to preserve task-solving quality while adhering to time and cost budgets. ProgRouter introduces a multi-view task progress scorer that combines coarse workflow outcome regimes with fine-grained signals on subtask completion, progress trends, and workflow state quality. Then, a dual-path task progress predictor and an adaptive meta-gating mechanism estimate the progress gain for each candidate routed LLM. ProgRouter makes online step-wise routing decisions that balance progress gain, task time budgets, and long-term operating cost efficiency. Experiments on HumanEval Plus, MBPP, MATH-500, and ASQA, spanning agentic code generation, mathematical reasoning, and retrieval-augmented long-form question answering, demonstrate that ProgRouter reduces the operating cost relative to key baselines while maintaining strong task-solving performance.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.25992v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.