arXiv:2604.25917 cs.AI

Recursive Multi-Agent Systems

제출 2026-04-28

한국어 초록

반복적 또는 루프형 언어 모델은 최근 잠재 상태에 걸쳐 동일한 모델 계산을 반복적으로 정제함으로써 추론을 심화하는 새로운 스케일링 축으로 부상했다. 우리는 이러한 스케일링 원리를 단일 모델에서 멀티에이전트 시스템으로 확장하며, 에이전트 협업 자체도 재귀를 통해 스케일링될 수 있는지 묻는다. 이를 위해 우리는 전체 시스템을 통합된 잠재 공간 재귀 계산으로 간주하는 재귀적 멀티에이전트 프레임워크인 RecursiveMAS를 제안한다. RecursiveMAS는 경량 RecursiveLink 모듈을 통해 이질적인 에이전트들을 협업 루프로 연결하여, 분포 내 잠재적 사고(latent thoughts) 생성과 에이전트 간 잠재 상태 전이를 가능하게 한다. 우리의 프레임워크를 최적화하기 위해, 우리는 재귀 라운드 전반에 걸쳐 공유되는 그래디언트 기반 크레딧 할당을 통해 반복적인 전체 시스템 공동 최적화를 수행하는 내부-외부 루프 학습 알고리즘을 개발한다. 런타임 복잡도와 학습 동역학에 대한 이론적 분석은 RecursiveMAS가 표준 텍스트 기반 멀티에이전트 시스템(MAS)보다 더 효율적이며, 재귀적 학습 동안 안정적인 그래디언트를 유지함을 보인다. 실증적으로는 RecursiveMAS를 4가지 대표적인 에이전트 협업 패턴 아래에서 구현하고, 수학, 과학, 의학, 검색, 코드 생성에 걸친 9개 벤치마크에서 평가한다. 고도화된 단일/멀티에이전트 및 재귀 계산 기준선과 비교했을 때, RecursiveMAS는 평균 8.3%의 정확도 향상을 일관되게 제공하며, 1.2$\times$-2.4$\times$의 엔드투엔드 추론 속도 향상과 34.6%-75.6%의 토큰 사용량 감소도 달성한다. 코드와 데이터는 https://recursivemas.github.io 에 제공된다.

요약

복잡한 추론 과제에서 대규모 언어 모델(Large Language Model, LLM)은 여전히 용량 한계와 비효율적인 탐색 문제를 드러내기 쉬운데, 이를 보완하기 위해 최근에는 여러 전문 에이전트를 조합하는 멀티에이전트 시스템(Multi-Agent System, MAS)이 활발히 연구되고 있습니다. 그러나 기존의 MAS는 주로 텍스트 기반 상호작용과 순차적 프롬프트 전달에 의존해 왔기 때문에, 협업 과정 자체를 하나의 통합된 계산 구조로 최적화하는 데에는 한계가 있었습니다. Recursive Multi-Agent Systems는 이러한 문제를 재귀적 언어 모델(Recursive Language Model, RLM)의 관점에서 다시 해석하며, 에이전트 협업 역시 반복적으로 정교화될 수 있는 스케일링 축이라는 점을 제안합니다. 이를 위해 제안된 RecursiveMAS는 전체 시스템을 잠재공간(latent space)에서 수행되는 재귀 계산으로 정의하고, 서로 다른 역할과 구조를 가진 에이전트들을 경량 모듈인 RecursiveLink로 연결합니다. 이 모듈은 중간 단계의 협업을 텍스트가 아니라 잠재 상태 수준에서 전달하게 하여, 분포 내(in-distribution) 잠재 사고를 생성하고 에이전트 간 의미 정보를 보다 안정적으로 교환하도록 설계되었습니다. 핵심 방법론의 또 다른 축은 inner-outer loop 학습입니다. 내부 루프(inner loop)에서는 각 에이전트가 잠재 사고를 생성하는 표현 공간에 적응하도록 정렬하고, 외부 루프(outer loop)에서는 재귀 라운드 전체를 하나의 공동 최적화 대상으로 삼아 시스템 수준의 성능을 끌어올립니다. 특히 공유 그래디언트 기반 신용 할당(credit assignment)을 통해 각 재귀 단계의 기여가 역전파 과정에 반영되도록 하여, 단순한 반복 실행이 아니라 학습 가능한 재귀 협업 구조를 구현한 점이 인상적입니다. 저자들은 이러한 설계가 텍스트를 매개로 하는 기존 MAS보다 런타임 복잡도와 학습 동역학 측면에서 더 안정적이라고 분석하며, 재귀 학습에서도 그래디언트가 소실되지 않고 효율적으로 전달될 수 있음을 이론적으로 보입니다. 더 나아가 이 프레임워크는 Sequential, Mixture, Distillation, Deliberation과 같은 네 가지 대표 협업 패턴에 모두 적용 가능해, 특정한 파이프라인에 국한되지 않는 일반성을 확보했습니다. 실험적으로 RecursiveMAS는 수학, 과학, 의학, 검색 질의응답, 코드 생성 등 9개 벤치마크에서 평가되었으며, 강력한 단일 모델과 기존 멀티에이전트 및 재귀 계산 기반 방법들보다 평균 8.3%의 정확도 향상을 달성했습니다. 또한 종단 간 추론 속도는 1.2배에서 2.4배까지 빨라졌고, 토큰 사용량은 34.6%에서 75.6%까지 줄어들어, 정확도와 효율을 동시에 개선하는 드문 결과를 보여 주었습니다. 이러한 결과는 재귀가 단일 모델 내부의 추론 깊이를 늘리는 데서 그치지 않고, 여러 에이전트가 협력하는 시스템 전체의 사고 과정을 정련하는 데도 강력한 스케일링 원리로 작동할 수 있음을 시사합니다. 결국 RecursiveMAS는 멀티에이전트 협업을 잠재공간 재귀 계산으로 재구성함으로써, 더 적은 텍스트로 더 깊이 사고하고 더 안정적으로 수렴하는 새로운 협업 패러다임을 제시했다고 볼 수 있습니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.