PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02396v1cs.LG

Inherit-MAS: 워크플로우 및 실행 상속을 통한 다중 에이전트 시스템의 테스트 시간 진화

Inherit-MAS: Test-Time Evolution of Multi-Agent Systems through Workflow and Execution Inheritance

대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(MAS)은 특화된 에이전트들을 조율하여 복잡한 작업을 해결하지만, 효과적인 워크플로우를 사전에 설계하기는 어렵습니다. 테스트 시간 진화(Test-time evolution)는 실행 피드백을 활용하여 워크플로우를 개선하지만, 광범위한 수정은 유용한 구성 요소를 손상시킬 수 있으며, 변경되지 않은 요청을 재실행하면 불필요한 연산이 발생할 수 있습니다. 생물학적 진화에서 상속과 선택의 상호작용에서 영감을 받아, 본 연구에서는 워크플로우 및 실행 수준에서 상속을 명시적으로 도입한 Inherit-MAS를 제안합니다. 먼저 메타 모델이 명시된 역할, 통신 입력, 도구 권한을 갖는 작업자 에이전트들의 워크플로우를 합성하고, 별도로 프롬프트가 제공된 평가자(judge)가 실행된 각 후보의 점수를 매기고 결함을 진단합니다. 일반적인 정제 라운드에서 워크플로우 상속(\emph{workflow inheritance})은 가장 최근에 완료된 후보에서 시작하여, 도움이 되지 않는다고 판단된 제거 가능한 노드를 폐기할 수 있으며, 진단된 결함을 해결하기 위해 검증된 수정을 적용합니다. 새로운 후보가 실행될 때, 실행 상속(\emph{execution inheritance})은 완전히 해결된 요청 및 실행 컨텍스트가 일치하는 경우에만 저장된 적격 결과를 상속하여 불필요한 모델 및 도구 호출을 방지합니다. GPT-4o-mini를 작업자로 사용했을 때, Inherit-MAS는 WorkBench에서 55.4% 완료율을, HotpotQA FullWiki에서 49.7% 결합 F1을 달성하여 EvoAgent, EvoMAS, TacoMAS를 능가했습니다. Qwen3-32B 작업자를 사용했을 때도 두 벤치마크 모두에서 이러한 진화형 MAS 베이스라인들을 능가했습니다. 실행 상속을 비활성화한 동일한 컨트롤러를 재실행한 것과 비교했을 때, 실행 상속은 WorkBench에서 작업자 토큰 사용량을 29.1%, HotpotQA에서 34.6% 줄였으며, 전체 토큰 사용량은 각각 5.3% 및 18.1% 감소시켰습니다.

arXiv:2607.20999v1cs.AI

워크플로우 국소화 메커니즘 학습: 구조화된 에이전트 스킬을 위한 귀속 기반 수리 및 지식 재사용

Workflow-Localized Mechanism Learning: Attribution-Guided Repair and Knowledge Reuse for Structured Agent Skills

에이전트 스킬(Agent Skills)은 고정된 언어 모델 에이전트를 위해 재사용 가능한 절차적 지식을 외부 아티팩트로 패키징하지만, 기존 옵티마이저는 워크플로우에서 실패가 발생한 위치, 어떤 메커니즘이 원인인지, 그리고 서드파티 스킬의 관련 지식을 로컬에서 어떻게 재사용해야 하는지를 함께 해결하지 못한다. 본 연구는 워크플로우 국소화 메커니즘 학습(WML)을 제안한다. WML의 노드-메커니즘 귀속(Node-Mechanism Attribution)은 실패한 워크플로우 노드, 관련 메커니즘, 그리고 가장 작은 유효 수정 대상을 식별하며, 단일 메커니즘 결함은 L3 리소스로, 메커니즘 간 관계적 결함은 L2 구성 프로토콜로 라우팅한다. 이어서 6개 모듈로 구성된 워크플로우 기반 스킬 최적화(WGSO) 루프가 출처(provenance) 및 범위(scope)를 고려한 서드파티 지식을 선택하고, 제한된 패치를 적용하며, 후보를 평가하고, 검증된 결과를 옵티마이저 측 메모리에 저장한다. SpreadsheetBench에서 WML은 DeepSeek과 Qwen3.6-Flash 각각 90.33 +/- 1.53 및 74.67 +/- 3.51의 Hard Accuracy를 달성한다. 추가 최적화 없이 학습된 스킬은 WikiTableQuestions로 전이되어 각각 84.00 +/- 2.00 및 83.00 +/- 2.00의 Denotation Accuracy를 기록한다. Compiler-Supported50에서 WML은 가장 높은 hard-PASS율과 성공 작업당 최저 비용을 모두 달성한다. 컴파일된 실행은 직접 SkillAgent 대비 토큰과 호출 수를 크게 줄이면서도 대부분의 성공 작업을 유지한다. 코드와 아티팩트는 https://github.com/xiaolin9595/workflow-localized-mechanism-learning 에서 제공된다.

arXiv:2606.11290v1cs.LG

FlowBank: 사전 계산 및 재사용을 통한 쿼리 적응형 에이전트 워크플로우 최적화

FlowBank: Query-Adaptive Agentic Workflows Optimization through Precompute-and-Reuse

대규모 언어 모델(LLM) 기반 멀티 에이전트 시스템은 점점 더 강력해지고 있지만, 현재의 에이전트 워크플로우 최적화 패러다임은 만족스럽지 못한 절충안을 제시합니다. 태스크 수준(task-level) 방법들은 상당한 오프라인 연산을 소모하지만 단 하나의 워크플로우만 배포하여 상호 보완적인 후보들을 사용하지 않은 채 남겨두는 반면, 쿼리 수준(query-level) 방법들은 상당한 추론 비용을 들여 쿼리마다 새로운 워크플로우를 합성합니다. 분석 결과, 이러한 패러다임들은 서로 경쟁하기보다 더 상호 보완적인 관계에 있음을 보여줍니다. 오프라인 탐색 중에 발견된 워크플로우는 종종 서로 다른 쿼리 부분집합을 해결하며, 비용이 많이 드는 쿼리 수준 생성으로 처리되는 많은 쿼리들은 이미 더 저렴한 사전 계산된 워크플로우로 해결될 수 있습니다. 이는 다른 목표를 시사합니다. 하나의 보편적으로 최적의 워크플로우를 찾거나 인스턴스마다 새로 생성하는 대신, 재사용 가능하고 상호 보완적인 워크플로우의 컴팩트한 뱅크를 구축하고 추론 시점에 그중에서 적응적으로 선택해야 합니다. 이를 위해서는 중복된 후보가 아닌 상호 보완적인 후보를 생성하고, 이를 배포 가능한 작은 포트폴리오로 압축하며, 성능-비용 트레이드오프 하에서 각 쿼리를 올바른 워크플로우에 할당하는 세 가지 결합된 문제를 해결해야 합니다. 이를 위해 본 연구는 포트폴리오 기반 에이전트 워크플로우 최적화를 위한 3단계 프레임워크인 FlowBank를 제안합니다. 다양화(Diversifying) 단계는 덜 커버된 쿼리로 탐색을 유도하여 높은 커버리지의 후보 풀을 생성하는 DiverseFlow를 제안합니다. 큐레이팅(Curating) 단계는 이 풀을 최소 중복을 가진 컴팩트한 포트폴리오로 압축하는 CuraFlow를 제안합니다. 매칭(Matching) 단계는 배포를 쿼리-워크플로우 이분 그래프에서의 엣지 가치 예측으로 간주하고, 각 들어오는 쿼리를 가장 높은 예측 효용을 가진 포트폴리오 구성원으로 라우팅합니다. 5개의 벤치마크에서 FlowBank는 비용 경쟁력을 유지하면서 평가된 방법들 중 최고의 평균 점수를 달성했으며, 각각 가장 강력한 자동화 및 수작업 기반 베이스라인 대비 상대적으로 4.26%와 14.92% 향상되었습니다.