공유 컨텍스트를 활용한 탈중앙화 다중 에이전트 시스템
Decentralized Multi-Agent Systems with Shared Context
한국어 초록
다중 에이전트 시스템(MAS)은 대규모 언어 모델(LLM) 에이전트를 병렬로 실행하여 장기적인(long-horizon) 과제에서 확장성을 제공할 수 있지만, 기존 설계는 이러한 병렬성의 상당 부분을 에이전트가 다른 에이전트를 기다리거나 동료의 작업을 다시 수행하는 버블(bubble)로 낭비합니다. 이러한 버블은 에이전트 간의 소통 방식에서 기인합니다. 독립적인 에이전트는 아무것도 공유하지 않아 동료가 이미 발견한 것을 재발견하고, 피어 간 소통(peer-communicating)을 하는 에이전트는 동기식 라운드에서 대기하며, 중앙 집중식 오케스트레이션 하에서는 메인 에이전트가 진행 상황이 전달되는 동안 서브에이전트의 작업 완료를 기다리며 블로킹(block)됩니다. 본 논문에서는 메인 에이전트를 공유 컨텍스트 및 작업 큐(task queue)로 대체하여 이러한 버블을 제거하는 기존 에이전트 하네스 기반의 MAS 프레임워크인 탈중앙화 언어 모델(DeLM)을 제안합니다. 에이전트는 비동기식으로 작업을 가져오고, 발견한 내용을 확인하는 즉시 게시하며, 모든 피어의 상태가 전체에 공개된 상태에서 서로의 진행 상황을 기반으로 작업을 발전시키거나 수정합니다. Terminal-Bench 4.0 및 DeepSWE v1.1의 장기 과제와 SWE-bench Verified에서 DeLM은 모든 설정에서 Codex, Claude Code, 이들의 네이티브 서브에이전트, AOrchestra보다 더 정확하고 빠르며, 가장 강력한 기준선(baseline) 대비 정확도를 최대 17.5포인트 향상시키고 기반이 되는 하네스보다 최대 2.49배 빠르게 실행됩니다. 에이전트가 프로그램을 처음부터 다시 구축하는 ProgramBench에서 DeLM은 Claude Code보다 더 빠른 진전을 보이며, 120분 예산 내에서 테스트 통과율을 최대 19.9포인트 더 높게 달성합니다. 코드는 프로젝트 웹사이트인 https://yuzhenmao.github.io/DeLM/ 에서 확인할 수 있습니다.
원문 초록
Multi-agent systems (MAS) can scale large language model agents on long-horizon tasks by running them in parallel, yet existing designs waste much of this parallelism in bubbles: agent time spent waiting on others or redoing a peer's work. These bubbles stem from how agents communicate. Independent agents share nothing and rediscover what their peers have already found; peer-communicating agents wait at synchronous rounds; and under centralized orchestration, the main agent blocks on its sub-agents while progress is relayed. We propose Decentralized Language Models (DeLM), a MAS framework on top of existing agent harnesses that squeezes out these bubbles by replacing the main agent with a shared context and a task queue. Agents asynchronously claim tasks, publish findings as soon as they are available, and build on or correct one another's progress, with every peer's status visible to all. On long-horizon tasks from Terminal-Bench 4.0 and DeepSWE v1.1, and on SWE-bench Verified, DeLM is both more accurate and faster than Codex, Claude Code, their native subagents, and AOrchestra in every setting, improving accuracy by up to 17.5 points over the strongest baseline and running up to 2.49x faster than the harness it builds on. On ProgramBench, where agents rebuild programs from scratch, DeLM makes faster progress than Claude Code and finishes a 120-minute budget up to 19.9 points higher in test pass rate. The code is available on our project website at https://yuzhenmao.github.io/DeLM/.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ProgramGym: 장기 프로그램 재현 에이전트를 위한 학습 환경 확장
ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents
코딩 에이전트(coding agent)는 저장소 내의 이슈를 해결하거나 주어진 요구사항 명세서로부터 저장소를 생성하는 것을 넘어, 소프트웨어 엔지니어처럼 처음부터(from scratch) 프로그램을 구축하는 데 점점 더 많이 활용되고 있습니다. 그러나 에이전트가 필요한 요구사항을 직접 파악하고 시스템 설계 방식을 결정하도록 강제하는, 확장 가능하고 검증 가능한 학습(training) 환경은 여전히 부족합니다. 또한 기존 에이전트 워크플로는 구현 전에 참조 프로그램을 탐색하는 장기(long-horizon) 개발 과정을 지속하기 어렵습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 장기 프로그램 재현 에이전트를 위한 확장 가능한 학습 환경 프레임워크이자 Program-Env 및 Program-Agent로 구성된 ProgramGym을 소개합니다. 구체적으로 Program-Env는 런타임 샌드박스 빌드와 블랙박스 테스트 품질을 복구하는 피드백 기반 루프를 통해 저장소로부터 검증 가능한 학습 환경을 구축합니다. 이 새로운 파이프라인을 활용하여 C, C++, Go, Rust에 걸친 1,648개의 학습 환경을 확보했습니다. Program-Agent는 컴파일 검사 및 실패 복구를 위한 리비전 관리와 함께 분석, 구현, 검토의 역할 분리 워크플로를 결합합니다. ProgramBench 실험 결과는 Program-Env와 Program-Agent 모두 프로그램 재현 성능을 향상시킴을 보여줍니다. 이렇게 구축된 환경에서 얻은 궤적으로 미세조정(fine-tuning)을 수행하면 Qwen3.8-27B의 성능이 34.87%에서 42.84%로 향상됩니다. Program-Agent는 베이스 및 SFT 모델의 성능을 각각 55.71%와 56.25%까지 추가로 향상시키며, 두 모델 모두 일부 플래그십 모델을 능가합니다. 처음부터 프로그램을 구축하는 코딩 에이전트에 대한 후속 연구를 지원하기 위해 ProgramGym을 공개할 예정입니다.
동적 추론을 위한 수정 인지 독립 에이전트 그래프
Revision-Aware Independent Agent Graphs for Dynamic Reasoning
기존의 추론 프로토콜은 고정되고 사전 선택된 작업을 제시하므로 에이전트가 관련 업데이트를 전파하는지, 영향을 받지 않은 작업을 보존하는지, 또는 과거의 작업 바인딩을 재구성하는지 테스트할 수 없습니다. 따라서 우리는 이벤트 스트림이 작업 바인딩을 수정하고 시스템이 문제를 해결하기 전에 각 쿼리 시점에 유효한 문서 버전을 선택해야 하는 동적 작업 라우팅(dynamic task routing)을 연구합니다. 이 문제를 연구하기 위해 MMLU, MMLU-Pro, MedMCQA, MATH, GPQA, HumanEval 등 널리 사용되는 6개 벤치마크를 373,428개의 시간별 분류 쿼리로 구성된 31,119개의 동적 에피소드로 재구성합니다. 이러한 설정은 모든 이벤트 후에 재계산하는 것은 작업을 낭비하는 반면, 무분별한 재사용은 오래된 결론을 반환한다는 핵심적인 트레이드오프를 드러냅니다. 우리는 결정론적 시간 해석(temporal resolution)과 작업 추론을 분리하는 유계 다중 에이전트(multi-agent) 정책인 수정 인지 독립 에이전트 그래프(Revision-Aware Independent Agent Graph, RIAG)를 소개합니다. RIAG는 불변 문서 식별자(immutable document identity)를 기반으로 솔루션을 캐싱하고, 각각의 새로운 작업을 노출되지 않은 두 번의 시도로 시작하며, 문서 버전당 최대 4회의 호출을 사용하여 감사 및 수정을 조건부로 호출합니다. 이 컬렉션에서 동종(homogeneous) RIAG는 쿼리당 0.62회 호출로 54.24%의 결합 라우팅 및 답변 정확도를 달성하여 가장 강력한 비교 방법의 쿼리당 18.00회 호출 시 32.22%와 대비되며, 이종(heterogeneous) RIAG는 쿼리당 0.63회 호출로 49.78%에 도달합니다.
혼자서는 통과하지만 함께하면 실패한다: 병렬 LLM 에이전트 개발에서의 의미적 조율 벤치마킹
Passes Alone, Fails Together: Benchmarking Semantic Coordination in Parallel LLM-Agent Development
병렬로 동작하는 코딩 에이전트(agent)는 각자 단독으로는 잘 동작하지만 병합하면 실패하는 패치를 만들어 낼 수 있다. 이는 한 에이전트가 다른 에이전트가 여전히 의존하고 있는 인터페이스나 규칙을 변경할 때 발생한다. 우리는 의미적 조율(semantic coordination)을 평가하는 벤치마크 stale을 사용하여 이러한 실패를 연구한다. 우리의 평가는 각 패치를 단독으로 적용한 경우와 두 패치를 결합한 경우에 동일한 테스트를 실행하며, 패치를 결합했기 때문에 새로 발생한 실패만을 집계한다. 평가에는 세 가지 계층을 사용한다. 인터페이스 변경을 통제한 합성 과제, 병합된 풀 리퀘스트(pull request) 쌍, 그리고 실제 Django 헬퍼를 사용해 구성한 과제이다. 채점 절차를 수정한 후, 마이닝한 417개 Django 쌍에 대한 834회 실행 중 간섭이 나타난 경우는 단 한 건뿐이었다. 12개의 Django 헬퍼를 사용해 구성한 과제에서는 실행의 97%에서 간섭이 발생했다. 동시에 이루어진 변경이 완료되었음을 설명하는 메시지를 제공하자 실행의 82%가 복구되었다. 검토를 거친 풀 리퀘스트에는 해결되지 않은 병렬 변경이 거의 없을 수 있으며, 이는 실제 코드를 사용한 통제된 과제에서 에이전트가 실패하는 경우에도 마찬가지이다. 구성된 과제에서의 실패율은 이러한 문제가 실제로 얼마나 자주 발생하는지를 추정하는 값이 아니다.
Agensh: 1,024 에이전트 규모로 조직 지능 스케일링
Agensh: Scaling Organizational Intelligence to 1,024 Agents
멀티 에이전트 시스템은 작업을 동시에 실행함으로써 복잡한 과제의 지연(latency)을 줄일 수 있다. 여러 선구적인 하네스(harness) 프레임워크가 멀티 에이전트 시스템을 지원한다. 그러나 현재 멀티 에이전트 하네스의 확장성은 작업을 할당하고 워커를 조율하는 중앙 오케스트레이터의 처리 능력에 의해 종종 제약된다. 이 한계를 해결하기 위해 중앙 오케스트레이터 없이 확장 가능한 자기 조직화(self-organized) 멀티 에이전트 하네스인 Agensh를 제안한다. 동시에 동작하는 워커들이 멀티 에이전트 협력 루프를 실행하며, 맥락을 지속적으로 수집하고, 하위 과제를 클레임(claim)하여 스스로 할당하며, 행동을 취하고 결과를 공유하고, 결과를 검증하며, 진행 상황을 비동기적으로 병합한다. 이 루프는 세 가지 구성 요소로 이루어진 에이전틱 조직(agentic organization) 인프라가 뒷받침한다. 공유 워크스페이스는 제안·진행·완료된 작업을 보관하고, 메시지 인터페이스는 워커 간 통신을 가능하게 하며, 공유 컨텍스트는 재사용 가능한 발견과 작업 의도를 유지한다. Agensh의 확장성을 검증하기 위해 GPT-5.6-sol (high)로 ProgramBench에서 가장 어려운 다섯 과제를 평가했다. 에이전트 수를 1에서 128로 늘리면 평균 최종 테스트 통과율이 19.31%에서 28.78%로 상승하여 약 49%의 상대적 향상을 보인다. 더 큰 조직은 더 이른 시점에 비슷한 테스트 통과율에 도달한다. pandoc 과제에서는 에이전트를 1에서 1,024로 늘리면 최종 테스트 통과율이 33.89%에서 55.06%로 상승한다. 워커 궤적은 또한 조직이 커질수록 다양한 형태의 자기 조직화 협력이 점진적으로 출현(emerge)하고 표준화됨을 보여 준다. 이러한 결과는 에이전트 수를 멀티 에이전트 조직이 일반 지능(general intelligence)의 프론티어를 넓히기 위한 새로운 스케일링 차원으로 삼을 수 있음을 보여 주며, 엄격한 지연 제약이나 시간 예산 하의 복잡한 과제에 대한 실용적 해결책을 제공한다.
인간 유도 및 물리 제약 AI 에이전트를 통한 토양 플러그 발달에 대한 감사 가능한 모델 구축
Human-guided physics-constrained AI agents construct an auditable model of soil-plug evolution
공학적 예측은 물리적 메커니즘을 방정식, 이산화, 코드 및 검증(validation)으로 일관되게 변환해야 하지만, 국소적인 확인에도 불구하고 오류가 전파될 수 있습니다. 인공지능(AI) 에이전트(agent)는 과학적 작업을 자동화하지만, 물리적 제약과 인간의 감독 하에 이론에서 솔버(solver)에 이르는 과정을 조율하고 독립적으로 감사하는 문제는 아직 해결되지 않았습니다. 본 연구에서는 인간 전문가가 허용 가능한 물리 및 모델링 경계를 정의하고, 에이전트가 증거를 검색하고 방정식을 유도하며 솔버를 구현하고 이론-코드 체인을 감사하는 인간 참여형(human-in-the-loop) 물리 제약 멀티 에이전트 워크플로를 소개합니다. 석션 케이슨 설치 중 토양 플러그(soil-plug) 발달에 적용했을 때, 물리적 지식과 입력이 준비된 후 2.9시간의 에이전트 실행만으로 6개의 정식화(formulation)를 생성하고 감사했습니다. 이러한 정식화 중에서 기하학적 기준선(baseline)에 침투류 기반 토양 간극비 발달을 추가하자 14개 프로파일 전반에서 평균 절대 최종 융기 오차가 58.4%에서 9.0%로 감소했습니다. 최종 선정된 모델(model)은 벽체 부근 팽창(dilation)을 추가로 통합하여 9개의 최종 상태 사례에서 12.4%, 5개의 과정 이력 종점(endpoints)에서 4.2%의 평균 절대 백분율 오차를 달성했습니다. 예측 성능을 넘어, 블라인드 리플레이(blinded replay)를 통해 9개의 목표 문제를 모두 재현한 반면, 독립적인 감사를 통해 36개의 사전 정의된 검사가 통과된 후에도 5개의 구현 문제를 발견했습니다. 전반적으로 본 연구는 멀티 에이전트 AI를 단순한 작업 자동화를 넘어 인간이 관리하는 공학 솔버 영역으로 확장합니다.
Agent Team Work Zone: 장기 운영 코딩 에이전트 팀을 위한 자동화·영속 워크스페이스
Agent Team Work Zone: An Automated, Persistent Workspace for Long-Lived Coding Agent Teams
대규모 언어 모델(LLM) 에이전트는 코딩 및 프로그래밍 워크플로를 크게 개선해 왔다. 특히 Claude Code는 가장 강력한 LLM 코딩 에이전트 중 하나로, 복잡한 코딩 작업을 수행할 수 있다. 그러나 여러 단점이 장기적인 에이전틱(agentic) 워크플로를 약화시킬 수 있다. (1) 복구 불가능한 에이전트 팀: Agent Teams 특징은 강력하지만, 각 팀원이 축적한 작업 상태는 프로세스가 중단되면(예: 터미널이 닫히면) 사라지며 재개할 수 없다. (2) Compaction이 작업 세부사항을 훼손: Compaction은 대화를 요약으로 압축하여 에이전트의 작업 세부사항이 모호해진다. (3) 에이전틱 "기술 부채(technical debt)": 시간이 지나면서 사용자의 결정과 에이전트의 작업이 압축된 오래된 채팅에 갇히게 되어, 프로젝트 유지·검토가 점점 어려워진다. (4) 과도한 프롬프트 작성: 작업을 할당하거나 넘기려면 사용자가 기대하는 에이전틱 성능을 얻기 위해 반복적으로 긴 프롬프트를 작성해야 한다. 우리는 이러한 문제를 해결하기 위해 Claude Code의 네이티브 Agent Teams를 중심으로 구축된 파일시스템 기반 운영 레이어인 ATWZ(Agent Team Work Zone)를 제안한다. 핵심 설계 원칙은 각 에이전트와 팀원을 인간 직원처럼 다루고, "workstation"이라 불리는 전용 디렉터리에 저장된 파일에 중요한 작업 상태를 보존하는 것이며, 이때 해당 파일을 사용하고 유지하는 스킬, 훅, 스크립트도 함께 둔다. ATWZ를 사용하면 에이전트 팀이 작업 상태를 주기적으로 백업할 수 있어, Compaction 이후에도 에이전트의 지식을 복구할 수 있다. 프로세스가 종료된 후에도 팀을 단일 명령으로 복원할 수 있다. 이러한 기능은 위에서 설명한 에이전틱 "기술 부채"를 상당히 완화한다. 또한 ATWZ 내에서 에이전트 "직원"들이 서로 문서를 전송할 수 있어, 프롬프트 작성에 필요한 노력을 크게 줄인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.