PyTorchKR Papers

최신 논문

총 99편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.28733v3cs.AI

Agentic Abstention: Do Agents Know When to Stop Instead of Act?

LLM agents are expected to act over multiple turns, using search, browsing interfaces, and tools to complete user goals. Yet not every goal is well specified or achievable in an available environment. In such cases, a reliable agent should recognize that further interaction is unlikely to help and abstain from additional tool calls. We define Agentic Abstention, the problem of deciding when an agent should stop acting under uncertainty. Unlike standard LLM abstention, which is usually evaluated as a single-turn answer-or-abstain decision, agentic abstention is a sequential decision problem: an agent can answer, abstain, or gather more information at each turn, and the need to abstain may only become clear after interacting with the environment. We study this problem across web shopping, terminal environments, and question answering, evaluating 13 LLM-as-agent systems and 2 agent scaffolds on more than 28,000 task instructions. Our results show that the main challenge is not only whether agents can abstain, but also when they abstain. Some agents never abstain when they should, while others do so only after many unnecessary interactions. This gap is especially large on tasks where the instruction appears feasible until the environment reveals otherwise (e.g., no valid result matches the instruction). We further find that model scale, reasoning, and agent scaffolding affect abstention in different ways, where larger or more capable models sometimes perform worse at timely abstention. Finally, we introduce CONVOLVE, a context engineering method for improving agentic abstention that distills interaction trajectories into reusable stopping rules. On held-out WebShop tasks, CONVOLVE substantially improves timely abstention without updating model parameters, raising Llama-3.3-70B's timely recall rate from 26.7 to 57.4. Our dataset and code are available at https://agentic-abstention.github.io.

arXiv:2609.24997v4cs.CV

VideoGen-Agent: 비디오 생성 에이전트 강화

VideoGen-Agent: Reinforcing Video Generation Agents

Recent advances in video generative models have enabled high-fidelity, temporally coherent video generation. However, these models often struggle to satisfy prompts requiring specialized knowledge, specific identities, physical consistency, or ordered events. In this paper, we present VideoGen-Agent, a multimodal agent trained through multitask agentic reinforcement learning to use external tools for video generation. The agent coordinates augmentation, generation, and verification tools through multi-turn interactions, using the prompt and intermediate observations to guide its decisions. We train a shared policy on a category-balanced dataset spanning six tasks. Supervised fine-tuning on teacher-generated trajectories establishes tool-use behavior, which is then refined through reinforcement learning. A category-aware hybrid reward evaluates tool-call validity, task-appropriate tool use, and generated video quality. We further introduce VABench, a held-out benchmark of 600 prompts covering procedural knowledge, single- and multi-entity identity preservation, physical consistency, scene composition, and multi-shot temporal structure. On VABench, VideoGen-Agent improves over its base text-to-video generator by 19.1 points, from 56.5 to 75.6. Upgrading the generation tools further raises the score to 86.1 without additional agent training. Human raters prefer the upgraded configuration over the strongest standalone baseline in 84.3% of comparisons. These results support learning tool use across video-generation tasks and show that the trained agent can benefit from subsequent advances in generation tools. Project page: https://andyca111.github.io/VideoGen_Agent/

arXiv:2610.15884v4cs.AI

RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리

RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use

LLM agents that call external tools must decide what to do when a tool call times out: retrying risks duplicate side effects, while not retrying can leave the task incomplete. We present RetryBench, an evaluation protocol for retry decisions and failure recovery in tool-using LLM agents. Each decision is scored on retry permission (is the retry justified by an idempotency-key guarantee or proof of non-execution?), settled effects (duplicates and omissions), and completion, by replaying it across all hidden execution worlds consistent with the observation. On four synthetic software-engineering tasks, we run two controlled prompt-sensitivity studies (1,728 decisions). Study 1 (idempotency-key descriptions): with the contract fixed, GPT-5.6 Luna reuses the valid idempotency key in 10/40 decisions when an extra key is described as a "Candidate recovery key" but in 39/40 when it is an "Alternative key string"; across three further phrasings per family the gap is 27/120 versus 113/120. GPT-5.6 Sol and Terra are at ceiling (40/40). Study 2 (action order): under underspecified lookup guarantees, retry rates are 17-27 points lower for GPT-5.6 Terra and GPT-5.4 when retry is listed first (option-order bias), mainly on two tasks; we make no claim about which behavior is better. Findings are limited to researcher-chosen phrasings, four tasks and unpinned model aliases. Code and all model responses are released.

arXiv:2605.10832v3cs.CL

비전 네이티브 멀티모달 딥 서치 에이전트를 위한 온-정책 데이터 진화

Towards On-Policy Data Evolution for Visual-Native Multimodal Deep Search Agents

Multimodal deep search requires an agent to solve open-world problems by chaining search, tool use, and visual reasoning over evolving textual and visual context. Two bottlenecks limit current systems. First, existing tool-use harnesses treat images returned by search, browsing, or transformation as transient outputs, so intermediate visual evidence cannot be re-consumed by later tools. Second, training data is usually built by fixed curation recipes that cannot track the target agent's evolving capability. To address these challenges, we first introduce a visual-native agent harness centered on an image bank reference protocol, which registers every tool-returned image as an addressable <image:N> reference and makes intermediate visual evidence reusable by later tools. On top of this harness, On-policy Data Evolution (ODE) runs a closed-loop data generator that refines itself across rounds from rollouts of the policy being trained. This per-round refinement makes each round's data target what the current policy still needs to learn. The same framework supports both diverse supervised fine-tuning data and policy-aware reinforcement learning data curation, covering the full training lifecycle of the target agent. Across 8 multimodal deep search benchmarks, ODE improves the Qwen3-VL-8B agent from 24.9% to 39.0% on average. At 30B, ODE raises the average score from 30.6% to 41.5%. Further analyses validate the effectiveness of image bank reuse, especially on complex tasks requiring iterative visual refinement, while rollout-feedback evolution yields more grounded SFT traces and better policy-matched RL tasks than static synthesis.

arXiv:2610.02181v3cs.CV

OmniSeek: 다중 턴 시청각 추론을 위한 네이티브 도구 통합

OmniSeek: Native Tool Integration for Multi-turn Audio-Visual Reasoning

본 논문에서는 옴니 대규모 언어 모델(Omni-LLM)을 네이티브 도구 사용 능력을 갖춘 능동적인 다중 턴(multi-turn) 추론 에이전트로 변환하는 에이전트 프레임워크인 OmniSeek을 제시합니다. 전체 시청각 시퀀스를 단일 순전파(forward pass)로 수동 처리하는 대신, OmniSeek은 증거 획득을 추론 과정의 일부로 만듭니다. 즉, 긴 컨텍스트 내에서 서로 다른 모달리티 전반의 희소하지만 결정적인 증거를 검색하기 위해 보거나 들을지 여부와 그 시간 윈도우를 동적으로 결정합니다. 반복적인 다중 턴 프로토콜을 통해 검색된 원시 오디오 또는 시각 세그먼트는 후속 추론을 지원하기 위해 컨텍스트에 다시 추가됩니다. 이러한 능력을 콜드 스타트하기 위해, 오디오 및 시각 증거가 인터리빙된 다중 홉 사고의 연쇄(Chain-of-Thought) 궤적 말뭉치인 OmniTraj-170K를 합성하는 데이터 엔진을 구축합니다. 먼저 이러한 궤적을 기반으로 모델을 지도 학습하여 다중 턴 도구 사용 행동을 주입한 다음, 검증 가능한 보상을 활용한 2단계 강화학습을 통해 정책을 추가로 최적화합니다. 또한, 두 모달리티 모두에 의존하는 성공적인 추론 궤적에 명시적으로 보상을 제공하여 단일 모달리티 지름길을 억제하는 시청각 필수성(Audio-Visual Necessity) 목표를 도입합니다. 광범위한 벤치마크에 걸친 광범위한 실험을 통해 OmniSeek이 적응형 교차 모달 증거 탐색을 학습하고 시청각 추론 성능을 일관되게 향상시킴을 입증합니다.

arXiv:2610.00012v2cs.AI

인과적 세계 모델은 모듈형 LLM 에이전트에 언제 도움이 되는가

When Do Causal World Models Help Modular LLM Agents

LLM agents increasingly operate in modular systems, where planning requires coordinating multiple functional components whose actions can causally change downstream states and behaviors. This makes intervention-aware prediction essential: an agent must anticipate not only what is likely to happen next, but what will happen as a consequence of its own actions. We find that purely observational world models can incur irreducible intervention-time error in such systems, even when they accurately model observational trajectories. To address this limitation, we propose CausalCompose, a causal world-model framework that equips modular LLM agents with causal structure for intervention-aware prediction and planning. We theoretically show that causal composition can overcome this intervention gap with sufficient evidence and controlled local error. Experiments across diverse modular agent environments validate these results: incorporating causal structure consistently improves intervention-sensitive reasoning and planning, with particularly clear gains in structured tool-use systems where causal dependencies directly govern action execution. Our results show when causal world models help modular LLM agents: when causal dependencies are identifiable and actionable for planning.

arXiv:2610.15750v1cs.AI

Google Earth AI 지리공간 추론(Geospatial Reasoning) 에이전트: 역량과 체계적 평가

Google Earth AI Geospatial Reasoning Agent: Capabilities and a Systematic Evaluation

Google Earth AI는 지리공간(geospatial) AI 모델들의 패밀리와 이를 오케스트레이션하는 에이전트로 구성된다. 본 논문에서는 이 에이전트인 Google Earth AI의 Geospatial Reasoning 에이전트(GRA)를 소개한다. GRA는 Gemini 기반의 연구 시스템으로, 지리공간 데이터 소스, 파운데이션 모델, 그리고 도구들을 결합하여 우리 지구에 관한 질문에 답한다. GRA는 이러한 요소들을 모듈화된 도메인 스킬로 구성하고, 사전(upfront) 지리공간 계획과 결합하여 복잡한 질의를 다단계 워크플로우로 분해한다. 이러한 시스템을 평가하는 것은 어려운데, 실제 문제는 여러 타당한 워크플로우를 허용하고, 대규모 카탈로그 전반에 걸친 데이터 발견(data discovery)을 요구하며, 계속 변화하는 그라운드 트루스(ground truth)에 의존하기 때문이다. 우리는 두 가지 벤치마크를 도입하고 이들의 개발 분할(development split)을 공개한다. GeoExpertQueries는 실무자의 사용 사례(use case)에 기반하고 지리공간 전문가들에 의해 정제된 복잡한 분석 문제들을 제시한다. 각 문제는 세 명의 독립적인 전문가로부터 얻은 합의된 골든 워크플로우(golden workflow)와 짝을 이루며, 사람이 검증한 도구에 무관한(tool-agnostic) 오토레이터(autorater)에 의해 채점된다. GeoKTools는 필요한 도구 유형의 수를 체계적으로 변화시키는 결정론적(deterministic) 참조 솔버(reference solver)를 갖춘 템플릿화된 질의들로 구성된다. 우리는 또한 CBGB와 UnivEARTH라는 두 가지 외부 벤치마크를 사용하는데, 이 중 UnivEARTH는 포화(saturated) 상태임을 확인하였다. GRA의 도구와 에이전트적(agentic) 오케스트레이션의 기여를 분리하기 위해, 우리는 Gemini 3.1 Pro와 3.8 Flash 각각에 대해 네 가지 구성을 비교한다: 단독 LLM, 기본 도구를 갖춘 LLM, GRA의 스킬과 도구는 갖추었지만 사전 계획 및 실행 가이드는 없는 LLM, 그리고 GRA 자체이다. 기본 도구만 있는 경우, 고성능 모델은 템플릿화된 질의에서는 정답의 많은 부분을 복원하지만, 개방형(open-ended) 문제에서는 전문가 워크플로우의 작은 일부만을 충족시킨다. 반면 GRA는 두 경우 모두에서 우수한 성능을 보인다. 가장 큰 성능 향상은 GRA의 스킬과 도구로부터 나오며, 개방형 문제에서는 그 계획 및 실행 가이드가 Gemini 3.8 Flash와 결합될 때 추가적인 향상을 가져와, Flash가 더 낮은 비용으로 Pro와 동등하거나 이를 능가하는 성능을 내도록 한다.

arXiv:2610.01045v2cs.AI

공허한 약속: 에이전트가 이행할 수 없는 약속을 할 때

Empty Commitments: When Agents Promise What They Cannot Deliver

"내일 알려드리겠습니다"라고 말하는 챗봇은 사용자가 다시 메시지를 작성하기 전까지는 실행되지 않습니다. 우리는 이러한 약속을 공허한 약속(empty commitment)이라 부릅니다. 이는 현재 턴 이후의 행동에 대한 약속이지만, 에이전트의 도구나 런타임 환경에 이를 실행할 수 있는 수단이 전혀 없는 경우를 의미합니다. 깨진 약속과 달리 공허함은 발화 순간 에이전트의 구성(configuration)에 따라 결정되므로, 배포 전이나 런타임 시 단일 턴만으로도 감지할 수 있습니다. 본 연구에서는 약속 의미론(commitment semantics)을 기반으로 공허한 약속을 정의하고, 세 가지 실패 유형, 도구를 통해 실현될 수 있는 약속에 대한 앵커링 조건, 그리고 이러한 실패를 정직한 보류(honest deferral) 및 과도한 거부(over-refusal)와 구분하는 결과 분류 체계를 제시합니다. 우리는 400개의 인간 레이블로 검증된 체커(환경 미인지 감지기, 결정론적 실행 가능성 규칙, 응답 판정기)를 구축했습니다. 지속성 어포던스(persistence affordance)를 하나씩 추가하는 5가지 설정에 걸쳐 293개의 후속 요청으로 구성된 통제된 벤치마크에서, 8-14B 파라미터의 4개 오픈 가중치(open-weight) 모델은 도구가 존재하지 않고 아무것도 명시되지 않았을 때 응답의 45.9%에서 실패했습니다. 프론티어 모델은 4.4%의 실패율을 기록했으나, 이는 보유한 도구를 사용해서가 아니라 보류하고 되물음으로써 달성한 수치였습니다. 즉, 실행을 위한 도구 호출 없이 행해지는 약속은 모든 모델에 여전히 남아 있었습니다. 가장 저렴한 해결책인 모델에게 런타임 정보를 알려주는 방식은 아무것도 수행할 수 없는 환경에서 오픈 가중치 모델의 실패를 거의 절반으로 줄였으나, 스케줄러가 존재하는 환경에서는 아무런 변화를 주지 못했습니다. 지시적 역량 카드(directive capability card)는 과도한 거부라는 가장 큰 대가를 치르면서 대부분의 실패를 제거했으며, 루프 내에서 체커를 실행하고 플래그가 지정된 응답을 다시 작성하는 방식은 더 적은 비용으로 더 많은 실패를 제거했습니다. 코드, 프롬프트, 모델 출력 및 인간 레이블이 공개됩니다.

arXiv:2603.07980v2cs.LG

$OneMillion-Bench: 언어 에이전트는 인간 전문가와 얼마나 차이 나는가?

\$OneMillion-Bench: How Far are Language Agents from Human Experts?

언어 모델(LM)이 채팅 어시스턴트에서 다단계 추론과 도구 사용이 가능한 장기 호라이즌(long-horizon) 에이전트로 발전함에 따라, 기존 벤치마크는 여전히 실제 전문 업무의 요구에 미치지 못하는 구조화되거나 시험 형식의 과제에 주로 한정되어 있다. 이를 해결하기 위해 우리는 법률, 금융, 산업, 의료, 자연과학 분야에 걸친 400개의 전문가 선별 과제로 구성된 벤치마크 $OneMillion-Bench($OMB)를 소개하며, 이는 경제적으로 중대한 영향을 미치는 시나리오 전반에서 에이전트를 평가하기 위해 구축되었다. 기존 연구와 달리, 이 벤치마크는 권위 있는 출처 검색, 상충하는 증거의 해결, 도메인별 규칙 적용, 제약 조건 하의 의사결정을 요구하며, 정답 여부는 최종 답변만큼이나 추론 과정에도 좌우된다. 우리는 사실적 정확성, 논리적 일관성, 실용적 타당성, 전문 분야 규정 준수도를 평가하는 루브릭(rubric) 기반 평가 프로토콜을 채택하였으며, 에이전트 간 의미 있는 차별화를 보장하기 위해 전문가 수준의 문제에 초점을 맞춘다. 종합적으로, $OMB는 에이전트의 신뢰성(agentic reliability), 전문적 깊이, 그리고 도메인 집약적 시나리오에서의 실무 준비도를 평가하기 위한 통합 테스트베드를 제공한다.

arXiv:2610.02670v1cs.LG

LEAP: LLM 에이전트를 위한 효율적인 행동 제안 학습

LEAP: Learning Efficient Action Proposals For LLM Agents

대규모 언어 모델(LLM) 에이전트는 롤아웃(rollout) 과정이 느린 것으로 알려져 있습니다. 에이전트는 한 번에 한 단계씩 작업을 완료합니다. 각 단계에서 에이전트는 추론을 수행한 후 실행할 행동을 선택합니다. 다음 단계와 행동은 이전 단계가 끝날 때까지 시작될 수 없습니다. 추측 디코딩(speculative decoding)은 추론 토큰을 초안 작성(drafting)하고 검증함으로써 추론 단계에서의 롤아웃 속도를 가속합니다. 최근 연구들에서는 행동 단계에도 유사한 아이디어를 적용하기 시작했습니다. 이러한 연구들은 타깃 모델(target model)이 검증할 수 있도록 행동 제안 초안을 작성하기 위해 기존에 구축된 상용 모델(off-the-shelf model), 주로 대형 모델을 사용합니다. 대형 초안 모델은 타깃과 더 자주 일치하지만 제안을 작성하는 데 더 오랜 시간이 걸리는 반면, 소형 상용 모델은 빠르지만 타깃과 동일한 결정을 내리는 경우가 드뭅니다. 본 논문에서는 더 일반적인 질문을 던집니다. 행동 추측의 엔드투엔드(end-to-end) 가속을 결정하는 요인은 무엇인가? 이에 답하기 위해, 본 연구에서는 추측 라운드에 대한 지연 시간(latency) 프레임워크를 개발합니다. 이 프레임워크는 한 라운드에서 얻는 이득과 소요되는 비용을 비교합니다. 이득은 초안 모델이 타깃을 얼마나 잘 예측하는지, 그리고 작업이 종료되기까지 얼마나 많은 단계를 거칠 수 있는지에 따라 달라집니다. 비용은 초안 작성, 타깃의 검증 대기 시간, 도구 실행에서 발생합니다. 이 프레임워크를 바탕으로, 본 연구에서는 초안 모델의 크기를 작게 유지하면서 타깃의 행동 시퀀스로 학습(training)시켜 정확도를 높이는 LEAP(Learning Efficient Action Proposals)을 소개합니다. 0.6B 크기의 소형 모델을 사용하는 LEAP은 대부분의 결정에서 타깃과 일치하며, 작업 성공률의 체계적인 변화 없이 에이전트의 엔드투엔드 실제 소요 시간(wall clock time)을 최대 60% 단축합니다. 다양한 데이터셋, 타깃 모델 및 초안 모델에 걸쳐 본 프레임워크는 측정된 속도 향상의 대부분을 설명합니다. 또한 사전 트레이스 수집 없이도 초안 모델을 온라인 학습할 수 있으며 오프라인 학습의 성능과 일치함을 입증하여, LEAP이 실제 환경에 배포하기에 실용적임을 보여줍니다.

arXiv:2610.02404v1cs.LG

학습된 에이전틱 컨텍스트 관리

Trained Agentic Context Management

본 연구는 장문 컨텍스트 언어 모델을 다룬다. 장문 컨텍스트를 네이티브로 학습하거나 장문 컨텍스트 하니스(harness)를 설계하는 대신, 우리는 가능한 가장 단순한 하니스 위에서 모델을 학습시킨다: 임의로 지정한 프롬프트로 자기 자신을 호출하는 도구와 입력 컨텍스트에서 특정 범위의 토큰을 읽는 도구가 그것이다. 우리는 이 하니스를 사용하여 다양한 합성 데이터셋으로 Qwen3.6-35B-A3B를 파인튜닝한다. 단 8,000 토큰의 컨텍스트만으로도, 우리의 소형 모델은 문서 길이가 40K 토큰을 초과할 때 OOLONG-synth 벤치마크에서 1M 토큰의 컨텍스트를 가진 GPT-5.4만큼 강력한 성능을 보인다.

arXiv:2601.22352v2cs.LG

복구 가능성에는 법칙이 있다: 도구 증강 에이전트를 위한 ERR 척도

Recoverability Has a Law: The ERR Measure for Tool-Augmented Agents

언어 모델(LM) 에이전트는 도구 호출 실행에 실패한 후 스스로 복구할 수 있는 것처럼 보일 때가 많지만, 이러한 동작에는 공식적인 설명이 부족합니다. 본 연구에서는 복구 가능성이 측정 가능한 법칙을 따른다는 점을 보여줌으로써 이러한 격차를 해결하는 예측 이론을 제시합니다. 구체적으로, 확률적 실행 노이즈 하에서 최적 정책으로부터 복구 정책이 벗어나는 정도를 정량화하는 기대 복구 후회(ERR, Expected Recovery Regret)를 통해 복구 가능성을 공식화하고, ERR과 실증적으로 관찰 가능한 양인 효율성 점수(ES, Efficiency Score) 간의 1차 관계식을 도출합니다. 이를 통해 도구를 사용하는 에이전트의 복구 역학에 대한 반증 가능한 1차 정량적 법칙을 얻을 수 있습니다. 통제된 섭동, 진단적 추론, 실제 API를 아우르는 5개의 도구 사용 벤치마크 전반에서 이 법칙을 실증적으로 검증했습니다. 모델 규모, 섭동 체계, 복구 범위 전반에 걸쳐 ERR-ES 법칙에 따른 예측 후회는 몬테카를로 롤아웃으로 측정한 실패 후 관찰된 후회와 delta <= 0.05 이내로 긴밀하게 일치했습니다. 연구 결과는 복구 가능성이 모델 규모나 아키텍처의 단순한 부산물이 아니라 상호작용 역학의 지배를 받는 특성임을 밝혀내며, 언어 에이전트의 실행 수준 강건성을 위한 이론적 토대를 제공합니다.

arXiv:2606.00593v3cs.CL

SPADER: 다중 정답 질의응답을 위한 단계별 동료 어드밴티지와 다양성 인식 탐험 보상

SPADER: Step-wise Peer Advantage with Diversity-Aware Exploration Rewards for Multi-Answer Question Answering

다중 정답 QA(Multi-Answer QA)에서 도구를 활용하는 에이전트가 빈번한 고빈도 엔티티에만 집중하고 조기 탐색을 멈추는 문제를 해결하기 위해, SPADER는 병렬 궤적을 결정 단계별로 정렬해 크리틱 네트워크 없이 세밀한 크레딧 할당을 수행하는 Step-wise Peer Advantage(SPA)와 희귀 엔티티 발견을 장려하는 다양성 인식 탐색 보상(diversity-aware exploration reward)을 결합한 강화학습 프레임워크를 제안한다. QAMPARI, Mintaka, WebQSP, QUEST 벤치마크 실험에서 SPADER는 프롬프팅 기반 에이전트, 결과 감독 RL, 단계별 감독 방법 대비 재현율과 F1을 전반적으로 향상시켰다.

arXiv:2610.02089v1cs.RO

HumanoidToolBench: 선택부터 이동 실행까지 휴머노이드 도구 사용 벤치마킹

HumanoidToolBench: Benchmarking Humanoid Tool Use from Selection to Mobile Execution

로봇 하드웨어와 학습 방법이 발전함에 따라, 휴머노이드가 고유한 물리적 한계를 뛰어넘는 작업을 수행하기 위해서는 도구가 필요합니다. 성공적인 도구 사용을 위해서는 적절한 도구를 선택하고 조작(manipulation)과 필요 시 보행(locomotion)을 조율하여 작업을 완료해야 합니다. 기존 벤치마크는 휴머노이드에서 이러한 능력들을 종합적으로 평가하지 못합니다. 본 논문에서는 3가지 시나리오, 3가지 실행 수준, 2가지 도구 세트 모드를 아우르는 18개 작업 벤치마크인 HumanoidToolBench와 함께, 시뮬레이션 및 실제 Unitree G1 로봇에서 수집된 3,100개의 시연(demonstration) 데이터셋인 ToolBook을 소개합니다. 시뮬레이션에서 7개 정책, 실제 로봇에서 3개 정책을 평가한 결과 적절한 도구를 선택하는 것과 작업을 완수하는 것 사이에 상당한 격차가 있음을 확인했습니다. GR00T N1.7에 대한 심층 분석 결과, 보지 못한(unseen) 도구에 대한 선택 정확도가 감소하고 무관한 지시문이 주어져도 작업을 계속 실행하는 문제가 나타났습니다. 코드와 데이터는 https://snu-pi.github.io/HumanoidToolBench/ 에서 확인할 수 있습니다.

arXiv:2610.02001v1cs.AI

Mingbird: 소형 오픈 모델의 실제 작업 완수를 가능하게 하는 로컬 우선 에이전트 하네스

Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks

소형 오픈 가중치(open-weight) 모델(2-9B)은 일반 노트북에서도 구동되지만, 클라우드 스케일의 에이전트(agent) 하네스 환경에서는 실제 작업을 완수하는 경우가 드뭅니다. 도구 사전 채우기(prefill)로 컨텍스트가 넘치고, 자체 교정(self-correction)이 발산하며, 도구 시연이 루프에 빠지고, 작업이 조용히 중단되기 때문입니다. 본 논문에서는 통제된 단일 머신 비교와 하나의 서드파티 벤치마크를 통해, 이러한 실패의 상당 부분이 모델보다는 하네스에 기인한다는 증거를 제시합니다. 우리는 Windows 및 Ollama를 위한 로컬 우선 에이전트 하네스인 Mingbird를 소개합니다. Mingbird의 10가지 메커니즘은 소형 모델의 실패 형태를 조목조목 보완하며, 그중 대표적인 세 가지는 바이트 수준의 순 제로(net-zero) 사전 채우기 예산, 완료를 수락하기 전에 작업을 다시 읽는 완료 게이트(finish gate), 그리고 서명 수준의 루프 감지입니다. 머신, 모델, 예산, 점수 산정을 고정한 통제된 비교인 LRAB(4개 하네스 $\times$ 4개 오픈 모델(2B-35B) $\times$ 18개 실제 작업, 결정론적 산출물 점수 산정)에서 Mingbird는 goose(0.631), opencode(0.479), agent-mini(0.405) 대비 종합 0.886을 달성했으며 288개 셀 전체를 공개했습니다. $τ^2$-bench(278개 작업, 3개 암, 단일 프로토콜)에서는 0.791 및 0.737 대비 총합 0.856을 기록했습니다. 또한 동일한 18개 작업에 대한 프론티어 모델 프로브에서는 하네스 전반에 걸쳐 0.997에서 0.478의 범위를 보였으며, 잘 구성된 스캐폴드는 서로 0.072 이내의 차이를 유지했습니다. 단일 메커니즘 제외 어블레이션(leave-one-mechanism-out ablation)은 방향성만을 나타내는 것으로 보고됩니다. 동일 암에 대해 같은 날 밤 수행된 반복 실험은 그 평균을 최대 0.069까지 변화시켰는데, 이는 모든 명목상 단일 시행 델타의 크기이며, 단일 배치(batch) 매칭 비교(전체 메커니즘 스택 대 텍스트 재읽기 단독)에서는 실행 가능한 완료 가드가 세 차례의 반복 실험에 걸쳐 페어 기준 +0.10을 보였습니다. 본 증거에는 자체 제작된 벤치마크, 단일 머신, 단일 시행 점수 산정이라는 명시된 한계가 수반됩니다.

arXiv:2610.00613v1cs.AI

행동이 아닌 공간 전략: LLM 기반 에이전트를 위한 도구로서의 벡터 양자화 측지선

Spatial Strategies, Not Actions: Vector-Quantized Geodesics as Tools for LLM-Driven Agents

대규모 언어 모델(LLM) 기반 에이전트(agent)는 공간 이해력이 부족하고 주로 통계적 텍스트 패턴만을 활용한다는 비판을 자주 받습니다. 본 연구에서는 그리드 월드 환경(environment)에서 기하학적 도구와 상위 수준 오케스트레이터 역할을 하는 LLM을 결합한 아키텍처를 통해 이들의 공간 이해력을 조사합니다. 에이전트는 먼저 측지선 궤적(geodesic trajectory)을 수집하고, 이를 벡터 양자화(quantization)하여 대표적인 하위 집합을 추출합니다. 오프라인 단계에서 LLM은 선택된 각 궤적에 내재된 행동 패턴에 대한 자연어 설명을 연결하여 도구로 만듭니다. 온라인 단계에서는 LLM이 현재 상태와 목표에 맞춰 적절한 도구를 선택합니다. 하위 수준 제어는 도구와 연계된 궤적을 실행하는 기본 행동(primitive action)으로 처리됩니다. 에이전틱 AI 관점에서 이러한 접근 방식은 학습을 두 단계로 분리합니다. 즉, 도구 발견은 궤적의 비지도 양자화를 통해 처리되며, 추론과 의사결정은 LLM이 담당합니다. 오픈 비전-언어 모델(vision-language model)(Qwen3.6-35B-A3B)을 사용하여 부분 관측 가능한 동적 2D 그리드 환경에서 이 접근 방식을 테스트합니다. 기하학 기반 도구 라이브러리를 에이전트 중심 줌 도구 및 충돌 감지 도구와 결합함으로써, 빠르고 비추론적인 구성으로도 훨씬 비용이 많이 드는 사고의 연쇄(Chain-of-Thought) 버전의 목표 도달률과 동등한 성능을 달성하는 동시에 의사결정 비용을 수분에서 수초 단위로 단축할 수 있었습니다.

arXiv:2609.33153v2cs.SE

스킬은 실제로 어떤 역할을 하는가? LLM 에이전트의 도구 및 스킬 활용에 대한 추정 대상과 평가 타당성: 비판적 고찰

What Does a Skill Actually Do? Estimands and Evaluation Validity for Tool and Skill Use in LLM Agents: A Critical Review

대규모 언어 모델(LLM) 에이전트에서 도구 및 재사용 가능한 스킬을 통해 보고되는 개선 사항들은 서로 다른 비교 기준을 참조합니다. 본 비판적 서술형 고찰(critical narrative review)은 이러한 평가들이 무엇을 추정하는지, 그리고 해당 평가 설계가 어떤 결론을 뒷받침하는지 검토합니다. 본 리뷰에서는 인용된 논문 100편의 역할을 점검하고, 35편의 연구에서 핵심적인 평가 설계를 상세히 추출합니다. 또한 출간되었거나 게재 승인된 35편의 추가 연구를 집중적으로 검토하여 도구 생성, 메모리, 상호작용형 벤치마크, 신뢰성 및 위험에 대한 범위를 확장합니다. 평가 설계는 처치 대비(treatment contrast), 목표 모집단, 결과, 예산 제약, 요약 척도 및 식별 가정을 바탕으로 특성화됩니다. 분석적 분해와 반례를 통해, 처치된 실행 내의 트리거를 조건으로 평가할 경우 동일한 작업에 대한 실행을 쌍으로 구성하는 것 자체만으로는 호출 효과(invocation effect)를 식별하지 못함을 보여줍니다. 쌍을 이룬 이득 및 성능 저하(regression) 횟수는 기대 결과가 악화되는 작업의 비율이 아니라 결합 프로토콜 하에서의 불일치를 설명합니다. 모듈 배포의 총 효과는 공통 예산 하에서의 효율성과는 다른 질문에 답합니다. 여러 연구 간의 비교를 통해 정선된 스킬 제공과 검색기(retriever) 대체를 구분하고, 작업 모집단과 트리거된 하위 집합을 구분하며, 준비 비용과 한계 사용 비용을 구분합니다. 출간 상태와 분석 깊이도 기록됩니다. 본 고찰은 도구 및 스킬에 대한 주장이 해당 평가 설계가 뒷받침하는 비교와 일치하도록 돕기 위한 방법론적 종합과 보고 체크리스트를 제공합니다.

arXiv:2607.05780v2cs.RO

FuncBridge: 키포인트 궤적 추론을 통한 기능적 도구 사용 일반화

FuncBridge: Towards Functional Tool-Use Generalization via Keypoint Trajectory Reasoning

인간은 못을 박기 위해 책, 돌, 신발 등을 손쉽게 용도 변경하여 사용하지만, 특정 도구로 훈련된 로봇은 동일한 기능을 새로운 도구로 전이하지 못합니다. 본 연구에서는 이러한 간극을 기능적 일반화(functional generalization)로 공식화합니다. 기능적으로 동등한 도구들은 접촉이 발생할 수 있는 위치나 접촉 영역이 목표를 향해 어떻게 이동해야 하는지와 같이 시각적으로 인식 가능한 기능적 의도를 공유합니다. 그러나 이러한 지각적 유사성은 해당 기능을 실현하기 위해 각 도구마다 서로 다른 모터 패턴을 요구하는 행동 공간으로 직접 이어지지 않습니다. 이러한 간극을 좁히기 위해, 어포던스(affordance) 이미지, 인간 비디오 프롬프트, 기능적 비디오 및 객체 마스크, 2D 키포인트 궤적을 포함한 중간 표현들을 탐색하였으며, 그 결과 키포인트 궤적이 기능적 표현력과 행동 접지(action groundability) 간의 균형을 가장 잘 유지함을 발견했습니다. 이를 바탕으로, 행동 실행으로부터 기능적 추론을 분리하는 2단계 프레임워크인 FuncBridge를 제안합니다. 이는 행동 없는(action-free) 데이터로부터 일반화 가능한 키포인트 궤적을 예측하도록 학습한 후, 제한된 데모를 통해 이를 로봇 행동으로 접지합니다. 타격(hitting), 쓸기(sweeping), 걸기(hooking)를 포함한 10개의 도구와 3개의 기능에 걸친 벤치마크에서, FuncBridge는 시뮬레이션과 실제 환경 모두에서 보지 못한 도구에 대해 기존 최첨단 방법들을 일관되게 능가합니다.

arXiv:2602.21061v3cs.AI

도구 사용을 통한 OOD 추론에서의 깊이 유발 붕괴 완화

Tool Use Reduces Depth-Induced Collapse in OOD Reasoning

인간은 한 맥락에서 학습(training)한 아이디어를 실질적으로 다른 상황에 적용할 수 있습니다. 새로운 문제를 해결하기 위해 학습된 관계의 참신한 재조합을 탐색하고 구축하는 이러한 과정을 우리는 분포 외(OOD, out-of-distribution) 추론이라고 부릅니다. 대규모 언어 모델(LLM)이 OOD 추론을 지원할 수 있는 역량은 일반 지능 시스템을 위한 여러 제안의 근간이 됩니다. 그러나 대부분의 문제는 여러 방식으로 분해될 수 있으며, 일부는 얕은 하위 문제를 포함하고 다른 일부는 학습 데이터로부터 암기되었을 수 있는 하위 문제를 포함하기 때문에 이 특성을 측정하기는 까다롭습니다. 이로 인해 모델(model)이 실제로 수행해야 하는 구성적 추론의 양을 판단하기가 어렵습니다. 학습 분포에 대한 불확실성, 특정 데이터포인트와 학습 분포 사이의 거리를 측정하는 방법, 그리고 대부분의 과제를 분해하는 지수적인 가짓수로 인해 표준 자연어 처리 과제에서 현대 LLM의 OOD 추론 능력을 강건하게 측정하는 것은 다루기 어렵습니다. 본 연구에서는 모델이 데이터로부터 $GF(2)$ 상의 불리언 회로(Boolean circuit)를 점진적으로 해결하는 벤치마크를 도입합니다. 이 벤치마크는 이러한 교란 요인들로부터 OOD 추론을 격리하므로 최소화되어 있으면서도, 계산 가능한 모든 함수가 충분히 큰 $GF(2)$ 다항식으로 표현될 수 있다는 점에서 일반적입니다. 연구 결과, 독립형 모델의 다음 단계 정확도는 깊이가 깊어질수록 붕괴하는 것으로 나타났습니다. 반면, 코드 합성 및 실행을 통한 도구 사용은 소형 LLM과 프론티어 LLM 모두에서 이러한 붕괴를 방지합니다. 이러한 결과는 도구를 합성하는 것이 OOD 추론을 뒷받침하는 데 결정적인 역할을 한다는 점을 시사합니다.

arXiv:2602.13691v2cs.AI

PhGPO: 장기 도구 계획을 위한 페로몬 유도 정책 최적화

PhGPO: Pheromone-Guided Policy Optimization for Long-Horizon Tool Planning

대규모 언어 모델(LLM) 에이전트의 최근 발전은 도구 사용을 통해 복잡한 작업을 실행하는 데 뛰어난 역량을 입증했습니다. 그러나 탐험(exploration) 공간이 조합적 폭발을 겪기 때문에 장기 다단계 도구 계획은 여전히 어렵습니다. 이러한 시나리오에서는 올바른 도구 사용 경로를 찾더라도 일반적으로 현재 학습(training)에 대한 즉각적인 보상(reward)으로만 간주되어, 후속 학습을 위한 재사용 가능한 정보를 제공하지 못합니다. 본 논문에서는 역사적으로 성공한 궤적에 전체 학습 과정 전반에 걸쳐 활용할 수 있는 재사용 가능한 도구 전이 패턴이 포함되어 있다고 주장합니다. 역사적으로 성공한 경로가 페로몬으로 반영될 수 있는 개미 군집 최적화(ant colony optimization)에서 영감을 받아, 우리는 과거 궤적에서 궤적 기반 전이 패턴(즉, 페로몬)을 학습한 다음 학습된 페로몬을 사용하여 정책 최적화를 유도하는 페로몬 유도 정책 최적화(PhGPO)를 제안합니다. 이 학습된 페로몬은 정책 최적화가 역사적으로 성공적인 도구 전이를 향하도록 유도하는 명시적이고 재사용 가능한 가이드를 제공하여 장기 도구 계획을 개선합니다. 포괄적인 실험 결과는 우리가 제안한 PhGPO의 효과를 입증합니다.