arXiv:2606.12674v1 cs.AI

Evoflux: 컴팩트 에이전트를 위한 실행 가능한 도구 워크플로의 추론 시점 진화

Evoflux: Inference-Time Evolution of Executable Tool Workflows for Compact Agents

Kushal Raj Bhandari, Ling Yue, Ching-Yun Ko, Dhaval Patel, Shaowu Pan, Pin-Yu Chen, Jianxi Gao

제출 2026-06-10

한국어 초록

컴팩트 언어 모델(LM)은 도구 에이전트의 비용, 지연 시간, 배포 위험을 줄입니다. 그러나 MCP 스타일의 도구 사용은 고립된 함수 호출 이상을 요구합니다. 에이전트는 라이브 카탈로그에서 도구를 발견하고, 스키마를 만족시키며, 중간 출력 간 의존성을 보존하고, 최종 응답을 실행된 증거에 그라운딩(grounding)해야 합니다. 작은 플래너는 종종 도구 해석, 매개변수 검증, 의존성 추적, 또는 실행 단계에서 실패하는 그럴듯한 워크플로 그래프를 생성합니다. 우리는 이 실패 모드가 소규모 코퍼스 증류(distillation)로는 제대로 다루기 어렵다고 주장합니다. 수백 개의 교사 트레이스(teacher trace)는 워크플로 형식을 가르칠 수 있지만, 변화하는 도구 카탈로그에서 실패한 계획을 수복하는 데 필요한 복구 동작은 거의 다루지 못합니다. 우리는 Evoflux를 제안합니다. 이는 컴팩트 도구 사용을 실행 가능한 도구 워크플로의 수리로 보는 추론 시점 진화 탐색 방법입니다. 구조화된 편집, 실행 피드백, 적응적 강도, 메타 가이드 재설계, 다양성 가지치기(pruning)를 통해 타입이 지정된 워크플로 그래프를 진화시킵니다. 라이브 MCP 서버와 250개 도구에 걸친 홀드아웃 MCP-Bench 작업에서 Evoflux는 작은 플래너들에 걸쳐 실행 가능성을 대략 3%에서 17-24%로 높입니다. 대조적으로, 동일한 탐색-발굴(search-mined) 데이터에 대한 SFT 및 SFT+DPO는 제로샷(zero-shot) 성능과 비슷하거나, 더 낮은 성능을 보이거나, 그 이하로 붕괴합니다. ReAct는 더 높은 피크를 달성하지만, 더 높은 분산과 토큰 비용이 따릅니다. 이 결과는 제한된 교사-트레이스 예산 하에서 실행 기반 탐색이 더 신뢰할 수 있음을 보여줍니다.

원문 초록

Compact language models (LMs) reduce cost, latency, and deployment risk for tool agents. Yet MCP-style tool use requires more than isolated function calling: an agent must discover tools from live catalogs, satisfy schemas, preserve dependencies across intermediate outputs, and ground final responses in executed evidence. Small planners often generate plausible workflow graphs that fail under tool resolution, parameter validation, dependency tracking, or execution. We argue that this failure mode is poorly handled by small-corpus distillation. A few hundred teacher traces can teach workflow format, but rarely cover the recovery behavior needed to repair failed plans over changing tool catalogs. We introduce Evoflux, an inference-time evolutionary search method that treats compact tool use as the repair of executable tool workflows. It evolves typed workflow graphs through structured edits, execution feedback, adaptive intensity, meta-guided redesign, and diversity pruning. On held-out MCP-Bench tasks spanning live MCP servers and 250 tools, Evoflux raises execution feasibility from roughly 3% to 17-24% across small planners. In contrast, SFT and SFT+DPO on the same search-mined data match, underperform, or collapse below zero-shot performance; ReAct reaches higher peaks, but with higher variance and token cost. These results show that execution-grounded search is more reliable under scarce teacher-trace budgets.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.12674v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00613v1cs.AI공통 태그 Sequential Decision Making, tool use

행동이 아닌 공간 전략: LLM 기반 에이전트를 위한 도구로서의 벡터 양자화 측지선

Spatial Strategies, Not Actions: Vector-Quantized Geodesics as Tools for LLM-Driven Agents

대규모 언어 모델(LLM) 기반 에이전트(agent)는 공간 이해력이 부족하고 주로 통계적 텍스트 패턴만을 활용한다는 비판을 자주 받습니다. 본 연구에서는 그리드 월드 환경(environment)에서 기하학적 도구와 상위 수준 오케스트레이터 역할을 하는 LLM을 결합한 아키텍처를 통해 이들의 공간 이해력을 조사합니다. 에이전트는 먼저 측지선 궤적(geodesic trajectory)을 수집하고, 이를 벡터 양자화(quantization)하여 대표적인 하위 집합을 추출합니다. 오프라인 단계에서 LLM은 선택된 각 궤적에 내재된 행동 패턴에 대한 자연어 설명을 연결하여 도구로 만듭니다. 온라인 단계에서는 LLM이 현재 상태와 목표에 맞춰 적절한 도구를 선택합니다. 하위 수준 제어는 도구와 연계된 궤적을 실행하는 기본 행동(primitive action)으로 처리됩니다. 에이전틱 AI 관점에서 이러한 접근 방식은 학습을 두 단계로 분리합니다. 즉, 도구 발견은 궤적의 비지도 양자화를 통해 처리되며, 추론과 의사결정은 LLM이 담당합니다. 오픈 비전-언어 모델(vision-language model)(Qwen3.6-35B-A3B)을 사용하여 부분 관측 가능한 동적 2D 그리드 환경에서 이 접근 방식을 테스트합니다. 기하학 기반 도구 라이브러리를 에이전트 중심 줌 도구 및 충돌 감지 도구와 결합함으로써, 빠르고 비추론적인 구성으로도 훨씬 비용이 많이 드는 사고의 연쇄(Chain-of-Thought) 버전의 목표 도달률과 동등한 성능을 달성하는 동시에 의사결정 비용을 수분에서 수초 단위로 단축할 수 있었습니다.

arXiv:2609.13356v2cs.AI공통 태그 Sequential Decision Making, tool use

ZGCM-1: 수학 및 에이전트 검색을 위한 완전 공개·초고효율 기초 모델

ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search

본 연구에서는 극한의 데이터·시스템·알고리즘 효율로 처음부터 학습한 완전 공개 7B dense 기초 모델 ZGCM-1을 제시한다. ZGCM-1은 핵심 전제에 기반한다: 소형 모델은 개방 웹을 수동적으로 암기할 수 없지만, 의도적인 내부 사고와 적극적인 외부 도구 사용을 결합하면 파라미터 용량 한계를 극복할 수 있다. 256K 컨텍스트 윈도우에서 이 패러다임을 지원하기 위해 엔드투엔드 고효율 공개 학습 레시피를 개발한다: 아키텍처 및 시스템 공동 설계—게이트 슬라이딩 윈도우와 full 어텐션을 교차 배치하고 안정적인 FP8 Muon 옵티마이저; 점진적 커리큘럼 및 MDP 중간 학습—16K, 64K, 256K에 걸친 컨텍스트 스케일링과 상호작용 trace를 마르kov 의사결정 과정(Markov Decision Process, MDP)으로 재구성. 또한 에이전트 swarm이 클러스터 운영, 데이터 큐레이션, 신속 진단 평가를 자율적으로 관리하는 AI-native R&D 워크플로를 구축한다. 광범위한 평가 결과 ZGCM-1-7B는 일반 벤치마크에서 7B 모델군 전반에 걸쳐 경쟁력을 보인다. 여러 도전적인 수학적 추론 및 에이전트 검색 벤치마크에서는 Qwen3-235B-A22B, GLM-5.1처럼 수 orders of magnitude 더 큰 프론티어 모델과도 경쟁력을 유지한다. 또한 사전학습 설계가 16K 사전학습 time-to-loss에서 약 4.2배 효율 개선을 제공함을 보인다. 전체 개발 수명주기에 걸쳐 아키텍처 스케일링, SFT 품질 가지치기, 장문맥 일반화, 에이전트 공동학습 역학을 아우르는 실행 가능한 경험적 발견 8가지를 정리한다. 커뮤니티 연구를 위해 사전학습, 중간 학습, 사후 학습 단계의 모델 가중치, 중간 체크포인트, 학습 코드, 단계별 데이터 및 데이터 레시피, W&B 로그를 오픈소스로 공개한다.

arXiv:2607.23722v1cs.AI공통 태그 Sequential Decision Making, tool use

E-Bench: 실제 제품 시나리오에서의 다단계 도구 사용 에이전트 벤치마킹

E-Bench: Benchmarking Multi-Step Tool-Use Agents in Real-World Product Scenarios

대규모 언어 모델(LLM)은 점점 더 여러 단계에 걸쳐 상태를 유지하는 환경과 상호작용하는 에이전트로 배포되고 있다: 숨겨진 정보를 수집하고, 도구 호출을 조합하며, 상태 변경을 수행한다. 우리는 이러한 능력을 다단계 도구 사용(multi-step tool use)이라고 부른다. 기존 벤치마크는 도구 사용 에이전트 평가를 발전시켜 왔지만, 종종 고립된 API 호출, 짧은 궤적(trajectory), 또는 확장하거나 제어하기 어려운 설정에 초점을 맞춘다. 우리는 E-Bench를 소개한다. 이는 Honor of Kings, QQ Music, Tencent Meeting 세 가지 제품 도메인에 걸친 323개의 상태 변경 작업을 포함하는 완전 합성 벤치마크이다. E-Bench는 환경 합성과 작업 합성을 분리한다: 그래프 기반 데이터베이스 채우기(graph-guided database filling)가 재사용 가능하고 고아 레코드가 없는(orphan-free) 제품 환경을 구축하는 반면, 생성자-솔버 비대칭(generator-solver asymmetry)은 정보 격차(information gap)와 도구 격차(tool gap)를 모두 갖는 작업을 생성하여, 에이전트가 상태를 변경하기 전에 숨겨진 데이터를 발견하고 여러 도구 호출을 조합해야 하도록 요구한다. 결과는 데이터베이스 상태 차이(database-state diffs)에 의해 결정적으로 채점된다. 환경과 작업 모두 합성적이므로 E-Bench는 환경 수준에서 제어 가능하고 작업 수준에서 확장 가능하다. 11개의 최첨단 LLM을 벤치마킹한 결과, 다단계 도구 사용은 여전히 어려운 과제임을 보여준다: 가장 강력한 모델에서도 Pass^3는 60% 미만이며, E-Bench-Code 확장에서 코드 실행을 사용하더라도 신뢰성(Pass^3)은 70% 미만에 머문다.

arXiv:2610.13503v2cs.CV공통 태그 Model Compression

SplatQ: 2차 선택을 통한 3D 가우시안 스플래팅의 상호작용 인지 가지치기

SplatQ: Interaction-Aware Pruning of 3D Gaussian Splatting via Quadratic Selection

기존의 3D 가우시안 스플래팅(3DGS) 가지치기(pruning) 방법들은 주로 독립적인 중요도 점수에 기반한 전역 Top-K 선택에 의존하여, 영역별 예산 제어가 부족하고 공동 삭제 효과를 무시합니다. 결과적으로 전체 장면에 걸쳐 균형 잡힌 재구성 품질을 보장하지 못합니다. 본 논문에서는 고정된 예산 하에서 영역별 예산 할당과 공동 가우시안 선택을 조율하는 조합 가지치기 알고리즘인 SplatQ를 제안합니다. SplatQ는 공간적 근접성과 외형 유사성을 기준으로 가우시안을 크기가 제한된 블록으로 분할하여, 전역 선택 문제를 특정 크기의 하위 문제들로 분해합니다. 그런 다음 중요도 기반의 블록 유지 할당량을 평활화하여 과도한 예산 집중을 방지합니다. 마지막으로 가우시안 불투명도 변화에 대한 대표 픽셀 색상의 반응을 활용하여 공동 삭제 효과의 2차 근사를 구성합니다. 개별 반응, 쌍별 상호작용 및 할당량 페널티는 2차 비제약 이진 최적화(QUBO) 목적 함수에 통합되며, 모의 담금질(SA) 또는 코히런트 이징 머신(CIM)을 사용하여 이를 해결함으로써 가우시안을 공동으로 선택합니다. 5개 벤치마크에 대한 실험을 통해 SplatQ가 종합적인 재구성 품질, 공간적 품질 균형, 렌더링 속도 측면에서 최신 가지치기 방법들보다 우수한 성능을 보임을 입증합니다. 절제 연구(ablation)를 통해 예산 평활화가 국소적인 세부 표현 재구성을 향상시키는 한편, 상호작용 모델링이 고정된 예산 하에서 가우시안 선택 품질을 향상시킴을 확인합니다.

arXiv:2610.02975v2cs.AI공통 태그 Evolutionary Algorithms

불완전한 프록시 보상을 활용한 신뢰할 수 있는 자기 진화

Reliable Self-Evolution with Imperfect Proxy Rewards

대규모 언어 모델(LLM) 기반의 자기 진화 탐색은 과학적 발견을 위한 유망한 접근법입니다. 그러나 일부 영역에서는 모든 후보에 대해 고충실도(high-fidelity) 평가를 수행하는 데 엄청난 비용이 듭니다. 따라서 이러한 환경의 자기 진화 시스템은 비용이 저렴하지만 불완전한 프록시 보상(proxy reward)에 의존하며, 이는 실현 불가능한 후보에 높은 점수를 부여할 수 있습니다. 이러한 위양성(false positive)은 최종 출력뿐만 아니라 후속 세대를 유도하는 데 사용되는 피드백까지 오염시킬 수 있습니다. 이는 보다 신뢰할 수 있는 자기 진화 탐색을 위해 통계적으로 보정된 보상 구간을 도입하는 동기가 됩니다. 본 논문에서는 조건부 등분산 추론(conditional conformal inference)과 반복(iteration)별 온라인 밀도비 추정을 사용하여 후보별 보상 구간을 구성하는 CISE(Conformal Interval-Driven Self-Evolution)를 제안합니다. CISE는 진화적 피드백을 위해 보수적인 구간 기반 보상을 사용하며, 요구되는 모든 속성 구간이 각자의 실행 가능한 영역 내에 완전히 포함될 때만 후보를 반환합니다. 본 연구는 독립성 및 공변량 변화(covariate shift)에 대한 명시적 가정 하에서 고정 반복 커버리지 결과를 도출합니다. 또한 재료과학 분야의 세 가지 자기 진화 탐색 작업에서 CISE를 평가합니다. 실험 결과, 고충실도 평가에서 CISE가 반환한 모든 후보는 진양성(true positive)이었던 반면, 베이스라인들은 더 많은 후보를 반환하지만 위양성을 포함했습니다. 이러한 결과는 다운스트림 검증 예산이 제한적일 때 더 작지만 더 정밀한 후보 목록이 갖는 가치를 강조합니다. 연구 저장소는 https://github.com/MLAI-Yonsei/CISE.git 에서 확인할 수 있습니다.

arXiv:2609.27932v2cs.LG공통 태그 Model Compression

이진 양자화 신경망 학습은 입력 및 출력 차원으로 매개변수화할 때 W[1]-난해하다

Binary Quantized Neural Network Training Is W[1]-Hard Parameterized by Input and Output Dimensions

신경망의 가중치와 편향이 고정된 유한 알파벳 위의 값을 가질 때, 데이터셋에 정확히 맞도록 네트워크를 학습하는 것은 유한한 조합 문제가 되며, 매개변수화 복잡도는 인스턴스의 어떤 구조적 양이 이 문제를 풀기 쉽게 만드는지를 묻는다. Ganian, Sommer, Sorge(ICLR 2026)는 입력 차원 $\alpha$, 출력 차원 $\omega$, 아키텍처의 트리폭을 함께 매개변수로 삼을 때 양자화 네트워크 학습이 고정 매개변수 다루기 쉬움(fixed-parameter tractable)을 보였고, $\alpha+\omega$만으로 충분한지 물었다. 우리는 그렇지 않음을 보인다. 이진 양자화 네트워크 학습은 $\alpha+\omega$로 매개변수화했을 때 W[1]-난해하며, 따라서 FPT = W[1]이 아닌 한 어떤 계산 가능한 $f$에 대해서도 실행 시간이 $f(\alpha+\omega)\cdot|I|^{O(1)}$인 알고리즘이 존재하지 않는다. 난해성은 입력이 목표값과 같고 좌표별 접두사 사슬을 이루는 $k+1$개의 예제를 정확히 맞추는 경우에 이미 성립하며, 모든 편향이 0으로 고정된 경우에도 성립한다. 증명은 일회 전환 라우팅 동치성에 기반한다. 이러한 데이터에서 음이 아닌 이진 가중치는 모든 뉴런이 최대 한 번만 켜지도록 강제하며, 네트워크가 데이터를 정확히 맞추는 것은 아키텍처가 변화하는 각 입력을 대응하는 출력에 연결하는 꼭짓점 서로소 경로를 포함하는 것과 동치이다. 따라서 모든 뉴런은 단 $k+1$가지의 활성화 프로파일 중 하나를 가지지만, 이러한 프로파일을 동시에 실현할 수 있는지를 결정하는 것은 서로소 경로 라우팅만큼 어렵다. 이처럼 작은 입력 및 출력 차원은 각 뉴런이 국소적으로 할 수 있는 일을 제한하지만, 아키텍처가 뉴런들로 하여금 전역적으로 자원을 공유하도록 강제하는 방식은 제한하지 않는다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.