As LLM agent systems take on more complex tasks, they increasingly rely on meta-agents: higher-order agents that create, operate on and manage other agents. Meta-agent operations such as coordinating agents, halting risky actions before execution, or repairing failed runs, require runtime manipulation of agentic execution. Yet existing agentic substrates make this difficult: they expose only transcripts and environment snapshots, forcing meta-agents to build ad hoc tooling to reconstruct and operate over full execution state. Therefore, we introduce Shepherd, a Python substrate grounded in functional programming principles, where an agent's execution is itself a first-class object that a meta-agent can easily inspect and transform. Every model action, tool call, and environment change becomes a structured event in a reversible, Git-like execution trace, where any past state can be reverted 5x faster than docker commit and fork. Three example use cases show Shepherd's versatility: (1) a supervisor meta-agent prevents conflicts among parallel coding agents, lifting pair-coding pass rate from 28.8% to 54.7% on CooperBench; (2) a counterfactual optimization meta-agent repairs agent workflows by proposing edits and replaying runs from the point of changed behavior, outperforming MetaHarness on Terminal-Bench 2.0 by 12.8% with 58% lower wall-clock; (3) a training meta-agent picks fork points during rollouts to improve credit assignment in long-horizon agentic RL, doubling GRPO's uplift on Terminal-Bench 2.0. We open-source Shepherd to enable principled and efficient operations over agentic execution for both users and meta-agents.
대규모 언어 모델(LLM) 기반 자동 멀티 에이전트 시스템(MAS) 생성은 복잡한 작업을 해결하는 중요한 분야가 되었습니다. 그러나 기존 방법들은 모델 능력과 경험 보존 사이의 딜레마에 직면해 있습니다. 추론 시간(Inference-time) MAS는 동결된 최신 LLM을 활용하지만 과거 경험으로부터 학습하지 않고 동일한 탐색을 반복합니다. 반대로, 학습 시간(Training-time) MAS는 그래디언트 업데이트를 통해 경험을 내재화하지만 더 작은 모델의 낮은 능력 한계에 제약을 받으며, 대규모 최신 LLM로 확장하기 어렵습니다. 이러한 격차를 해소하기 위해, 우리는 높은 수준의 오케스트레이션 능력을 진화 가능한 메타 스킬(Meta-Skill)로 개념화하여 경험 보존을 파라미터 업데이트로부터 분리하는 새로운 제3의 경로인 Skill-MAS를 제안합니다. Skill-MAS는 폐루프 최적화 루프를 통해 이 아키텍처 지식을 정제합니다: (1) 멀티 트래젝터리 롤아웃(Multi-Trajectory Rollout)은 현재 메타 스킬 하에서 각 작업에 대한 행동 분포를 샘플링합니다; (2) 선택적 반성(Selective Reflection)은 우선 순위 작업을 적응적으로 선택하고 계층적 대비 분석을 적용하여 체계적 경험을 일반화 가능한 전략 수준의 원칙으로 증류합니다. 4개의 복잡한 벤치마크와 4개의 서로 다른 LLM에 걸친 광범위한 실험을 통해 Skill-MAS가 상당한 성능 향상을 달성할 뿐만 아니라 우수한 비용 대비 성능 트레이드오프(cost-performance trade-off)를 유지함을 입증했습니다. 추가 분석 결과, 진화된 메타 스킬들은 매우 견고하며 보지 못한 작업과 다른 LLM 간에 강력한 전이 가능성을 보임을 밝혀냈습니다.
대규모 언어 모델(LLM)과 외부 도구의 통합은 AI 에이전트의 기능을 크게 확장했습니다. 그러나 LLM과 도구의 다양성이 증가함에 따라 최적의 모델-도구 조합을 선택하는 것은 고차원 최적화 문제가 되었습니다. 기존 접근 방식은 종종 단일 모델이나 고정된 도구 호출 로직에 의존하여, 이종 모델-도구 쌍 간의 성능 차이를 활용하지 못합니다. 본 논문에서는 교차 도메인 복잡한 추론을 위한 동적 도구 사용을 위한 이중 경로 프레임워크인 ATLAS (Adaptive Tool-LLM Alignment and Synergistic Invocation)를 제안합니다. ATLAS는 다음과 같은 이중 경로 접근 방식을 통해 작동합니다: (1) 도메인 특화 정렬을 위해 경험적 사전 지식을 활용하는 \textbf{학습 없는(training-free) 클러스터 기반 라우팅}, (2) 분포 외(out-of-distribution) 일반화를 위해 자율적인 궤적을 탐색하는 \textbf{강화학습(RL) 기반 다단계 라우팅}. 15개 벤치마크에 걸친 광범위한 실험을 통해 본 방법이 GPT-4o와 같은 폐쇄형 모델을 능가하며, 분포 내(in-distribution) 및 분포 외(out-of-distribution) 작업 모두에서 기존 라우팅 방법을 초과함(+10.1%, +13.1%)을 입증했습니다. 또한, 본 프레임워크는 특화된 멀티모달 도구를 조율함으로써 시각적 추론에서 상당한 향상을 보여주었습니다.
커스텀 AI 에이전트는 자체 애플리케이션 내에서 상주하며, 자체 데이터와 도구와 통신하고, 자체 보안 경계를 강제하며, 자체 브랜드와 감사 추적(audit trail)을 유지하는 에이전트입니다. 이들을 범용 계층(tier)과 구별하는 것은 역량이 아니라 적합성(fit)입니다: 각 에이전트는 유지보수를 담당할 엔지니어가 하나의 작업을 위해 구축합니다. 처음부터 끝까지(end-to-end) 구축하는 방법을 명시한 출판된 관행은 없습니다. 구성 요소는 어디에나 있습니다(함수 호출 API, 모델 컨텍스트 프로토콜(Model Context Protocol), 페어링할 코드 에이전트 등), 하지만 이들을 연결하는 관행은 팟캐스트, 블로그, 유출된 시스템 프롬프트(system prompts)에 숨어 있습니다. 본 논문은 그 관행을 'Agents All the Way Down'이라는 방법론으로 기록합니다: 한 번 설정하고 유지하는 두 가지 전제 조건, 그리고 에이전트의 수명 주기 동안 반복되는 세 가지 관행입니다. 전제 조건은 (P1) Substrate(기반), 즉 프롬프트 캐싱(prompt-caching) 하의 메시지, 시스템, 도구로 프레임화된 소프트웨어 구성요소로서의 LLM(대규모 언어 모델); 그리고 (P2) Building blocks(구성 요소): 함수 호출(function calling), MCP, CLI 오케스트레이션(orchestration), 라이트셸(liteshell) 패턴, 에이전트 루프(agent loop), 스킬(skills), 캐릭터(characters), 훅(hooks), 스캐폴딩(scaffolding)입니다. 관행은 (P3) 범용 에이전트로 프로토타입 제작; (P4) 결과를 수집(harvest), 통합(fold), CLI로 배포하는 터틀(Turtle) 패턴; 그리고 (P5) agent-tests-agent로, 여기서 범용 에이전트가 행동 시나리오를 통해 이를 구동하며, 이는 고전적인 테스트의 보완제이지 대체재가 아닙니다. 작업 루프는 P3에서 P4, P5로 다시 돌아가는 것이며, 하나의 부산물(corollary)이 자연스럽게 도출됩니다: 멀티 에이전트 오케스트레이션(multi-agent orchestration)은 단순한 CLI 구성(composition)입니다. 이 방법론은 구조적으로 프레임워크에 구애받지 않습니다(framework-free). 이는 오픈 소스 LAMB 플랫폼을 위한 커스텀 에이전트인 AAC에서 추출된 것으로, 한 개발자가 AI 페어 프로그래머와 함께 약 10일 만에 구축하여 현재 프로덕션 환경에서 운영 중입니다. 우리는 이를 어떤 언어나 프레임워크와도 독립적인 이식 가능한 관행으로 제시합니다.
비정형 지식 베이스 위의 현실적인 고객 서비스 워크플로에서 도구를 사용하는 AI 에이전트를 위한 오케스트레이션 메커니즘을 연구한다. 선언적 에이전트—시스템 프롬프트에 자연어 스킬 파일이 추가로 붙은 AI 에이전트—가 효과적인 오케스트레이션 패러다임이라고 주장한다. 구체적으로, (i) 추론 시점에 세 개의 도메인 특화 스킬 파일을 읽고 자체 제어 흐름을 결정하는 DeclarativeAgent, (ii) 명시적 단계를 갖는 프로그래밍형 상태 머신에 기반한 ImperativeAgent, (iii) $τ$-Knowledge 벤치마크 에이전트를 본떠 만든 스캐폴드 없는 기준선 에이전트를 비교한다. ImperativeAgent는 Recursive Language Models 및 그래프 기반 오케스트레이션 프레임워크에서와 같은 외재화된 제어(externalised-control) 추론에 영감을 받았다. 세 에이전트를 분산 부분 관측 마르코프 결정 과정 내 정책 클래스로 형식화하고 정보 이론적·구조적 특성을 분석한 뒤, 다섯 개의 언어 모델과 두 가지 검색 체제에서 예측된 차이를 실증적으로 검증한다. 결과에 따르면 검색 품질은 AI 에이전트의 지배적 병목이다: 증거가 불완전하거나 편향되어 있으면 모든 에이전트의 성능이 크게 저하되며, 스킬 파일로는 손실된 성능을 회복할 수 없다. 그러나 고품질 검색 환경에서는 선언적 스킬이 절차적 태스크의 정확도를 일관되게 높이고 오케스트레이션 오류를 줄이는 반면, 명령형 상태 머신의 취약성은 태스크 성공이나 준수(compliance)를 신뢰성 있게 개선하지 못한다.