PyTorchKR Papers

최신 논문

총 7편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.08894v1cs.AI

GATS: 효율적인 에이전트 플래닝을 위한 계층적 월드 모델을 갖춘 그래프 증강 트리 탐색

GATS: Graph-Augmented Tree Search with Layered World Models for Efficient Agent Planning

대규모 언어 모델(LLM) 에이전트는 다단계 플래닝 작업에서 가능성을 보여주었으나, LATS(Language Agent Tree Search)와 ReAct 같은 기존 접근 방식은 플래닝 과정에서 LLM 추론에 크게 의존하여 높은 계산 비용과 확률적 동작을 초래한다. 본 논문에서는 **GATS**(Graph-Augmented Tree Search)를 제안한다. GATS는 UCB1 기반의 체계적인 트리 탐색과 계층적 월드 모델을 결합하여 추론 중 LLM 호출을 제거하면서도 우수한 플래닝 성능을 달성하는 플래닝 프레임워크이다. 세 층으로 구성된 월드 모델은 다음을 통합한다: (L1) 정확한 심볼릭 액션 매칭, (L2) 실행 로그에서 학습된 통계, (L3) 미지의 액션에 대한 LLM 기반 예측. 분기 경로와 막힌 길이 포함된 합성 플래닝 작업에서 GATS는 **100% 성공률**을 달성한 반면, LATS는 92%, ReAct는 64%에 그쳤다. 코딩 워크플로우, 웹 탐색, 장기 과제를 포함한 12가지 도전적 시나리오에 걸친 포괄적인 스트레스 테스트에서 GATS는 **100% 성공**을 유지한 반면, LATS는 88.9%, ReAct는 23.9%로 하락했다. GATS는 플래닝 중 **과제당 LLM 호출이 0번**(LATS의 경우 과제당 37번 대비)으로, 실행 전반에 걸쳐 분산이 없는 결정론적 계획을 생성한다. 본 결과는 학습된 월드 모델을 활용한 체계적인 탐색이 에이전트 플래닝에서 LLM 유도 탐험을 크게 능가할 수 있음을 보여준다.

arXiv:2607.06283v1cs.AI

적응형 에이전트 스킬 검색을 위한 태스크 분해 기반 리랭킹

Task Decomposition-Guided Reranking for Adaptive Agent Skill Retrieval

에이전트 스킬 선택의 의미적 모호성 문제를 해결하기 위해 SkillReranker는 태스크와 스킬을 각각 서브태스크·상태 시퀀스로 구조화 파싱한 뒤, 중간 태스크 상태를 노드, 후보 스킬을 엣지로 삼는 방향성 비순환 실행 그래프를 구성하여 동적으로 스킬 집합을 선정하는 추론 시점 리랭킹 프레임워크다. ALFWorld와 ScienceWorld에서 세 가지 백본 LLM으로 실험한 결과, 기존 스킬 선택 베이스라인 대비 태스크 성능 향상과 함께 환경 상호작용 단계 및 토큰 소비가 감소함을 확인했다.

arXiv:2603.12056v3cs.AI

XSkill: Continual Learning from Experience and Skills in Multimodal Agents

Multimodal agents can now tackle complex reasoning tasks with diverse tools, yet they still suffer from inefficient tool use and inflexible orchestration in open-ended settings. A central challenge is enabling such agents to continually improve without parameter updates by learning from past trajectories. We identify two complementary forms of reusable knowledge essential for this goal: experiences, providing concise action-level guidance for tool selection and decision making, and skills, providing structured task-level guidance for planning and tool use. To this end, we propose XSkill, a dual-stream framework for continual learning from experience and skills in multimodal agents. XSkill grounds both knowledge extraction and retrieval in visual observations. During accumulation, XSkill distills and consolidates experiences and skills from multi-path rollouts via visually grounded summarization and cross-rollout critique. During inference, it retrieves and adapts this knowledge to the current visual context and feeds usage history back into accumulation to form a continual learning loop. Evaluated on five benchmarks across diverse domains with four backbone models, XSkill consistently and substantially outperforms both tool-only and learning-based baselines. Further analysis reveals that the two knowledge streams play complementary roles in influencing the reasoning behaviors of agents and show superior zero-shot generalization.

arXiv:2606.30639v1cs.AI

LLM 에이전트 계획을 위한 자기 진화 월드 모델

Self-Evolving World Models for LLM Agent Planning

월드 모델은 장기 계획을 수행하는 대규모 언어 모델(LLM) 에이전트에게 선견 능력, 즉 행동 실행 전 결과를 예측하는 능력을 부여하는 원칙적인 방법을 제공한다. 그러나 신뢰할 수 없는 선견은 무시되거나 오용되거나 하위 의사결정을 오히려 저하시킬 수 있다. 본 논문에서는 하위 에이전트와 모든 모델 파라미터를 동결한 채로 배포 시점의 컨텍스트를 수정하는 자기 진화 월드 모델 프레임워크 WorldEvolver를 소개한다. WorldEvolver는 세 가지 모듈을 통합한다: (i) 검색 기반 시뮬레이션을 통해 실제 행동 전이를 활용하는 에피소딕 메모리(Episodic Memory), (ii) 예측-관찰 불일치로부터 지속적인 휴리스틱 규칙을 추출하는 시맨틱 메모리(Semantic Memory), (iii) 낮은 신뢰도의 예측을 에이전트 추론 컨텍스트에 통합하기 전에 필터링하는 선택적 선견(Selective Foresight). ALFWorld와 ScienceWorld에서 WorldEvolver를 평가하며, Word2World에서 월드 모델 예측 정확도와 AgentBoard에서 하위 에이전트 성공률을 측정한다. 광범위한 실험을 통해 WorldEvolver가 세 가지 백본에 걸쳐 가장 높은 예측 정확도를 달성하고 하위 에이전트 성공률에서 다른 월드 모델 베이스라인을 앞서며, 테스트 시점 메모리 수정이 예측 충실도와 계획 성능 모두를 향상시킴을 보인다.

arXiv:2606.22953v1cs.AI

계획은 지속되지 않는다: 컨텍스트 관리가 대규모 언어 모델 에이전트에게 핵심적(load bearing)인 이유

Plans Don't Persist: Why Context Management Is Load Bearing for LLM Agents

장기 지평(long-horizon) 에이전트는 컨텍스트 관리에 의존한다: 시스템은 오래된 토큰을 압축·요약·제거하여 유한한 윈도우를 넘어 작업을 계속할 수 있도록 한다. 이는 삭제된 정보가 더 이상 필요하지 않거나 이미 내재화되었을 때에만 안전하다. 계획(plan)은 극단적 사례(stress case)이다: 계획은 초기에 작성되고, 여러 단계에 걸쳐 사용되며, 가장 먼저 제거된다. 우리는 리플레이 페어링(replay pairing)을 도입한다. 이는 히스토리에 계획이 포함된 경우와 그렇지 않은 경우에 동일한 궤적(trajectory)을 실행하고 은닉 상태(hidden-state) 코사인 거리를 측정하는 진단 도구이다. Llama-3.1-70B에서 계획 신호는 계획 직후 한 단계에서 0.453으로 급상승한 뒤, 단일 행동-관찰 단계에서 4.1배 하락한다; HotpotQA에서는 12.4배 하락한다. 이는 표준 대규모 언어 모델(LLM) 에이전트가 계획을 지속적 상태로 유지하지 않으며, 대신 계획이 컨텍스트에 남아 있는 것에 의존한다는 증거이다. L32 층 프로브(probe)는 이 감쇠를 진단 도구로서 탐지하지만, 이것이 계획 내용 자체를 읽는다는 증명은 아니다. 추론 모델(reasoning model)은 측정 교란 요인(confound)을 추가한다: 해당 모델의 `<think>` 추적이 계획 내용을 재도출하기 때문에, 표준 스트리핑(stripping)은 스트리핑된 조건에 계획 증거를 남긴다. 우리는 이를 추론-추적 교란(reasoning-trace confound)이라 명명하고, 엄격한 스트리핑(strict stripping)으로 수정한다. 엄격한 스트리핑은 스트리핑된 실행에서만 이전 `<think>` 블록을 제거한다. 이 방법은 인샘플(in-sample)에서 단계+1 신호의 +163%를, 홀드아웃에서 +153%를 회복하며, 비추론 Llama에는 의미 있는 변화를 주지 않는다(+4.8%). DeepSeek-R1-Distill-Llama-70B에서 Llama로 학습된 프로브는 AUROC 0.748(p=6e-4)로 전이되는 반면, R1 특화 프로브는 1.000에 도달하며, 이는 R1이 계획 신호를 다른 은닉 상태 방향으로 인코딩함을 시사한다. 마지막으로, 압축 스트레스 테스트는 실질적 비용을 보여준다: 단순 계획 제거는 ALFWorld 성공률을 34.7pp 감소시키는 반면, 프로브 기반 재표면화(probe-gated re-surfacing)는 이를 회복하지 못한다. 본 연구의 기여는 에이전트에 중요한 정보가 지속적 상태가 아닌 컨텍스트 상주(context-resident) 상태일 수 있음을 보여주는 측정 및 스트레스 테스트 프레임워크이다. 컨텍스트 관리는 핵심적이지만, 계획 보호만으로는 충분하지 않다.

arXiv:2606.18051v1cs.CL

LLM 에이전트를 위한 조합적 스킬 라우팅: 분해, 검색, 구성

Compositional Skill Routing for LLM Agents: Decompose, Retrieve, and Compose

LLM 에이전트는 점점 외부 스킬(재사용 가능한 도구 명세)에 의존하고 있지만, 실제 작업은 종종 하나를 선택하는 것이 아니라 여러 스킬을 조합하는 것을 요구한다. 이를 Compositional Skill Routing 문제로 형식화한다. 복잡한 사용자 쿼리와 대규모 스킬 라이브러리가 주어졌을 때, 쿼리를 원자적 하위 작업으로 분해하고, 각 하위 작업에 적합한 스킬을 검색하며, 실행 가능한 계획을 구성한다. SkillWeaver를 제안한다. 이는 LLM 작업 분해기, FAISS 인덱싱을 갖춘 bi-encoder 스킬 검색기, 의존성 인식 방향성 비순환 그래프(DAG) 플래너를 결합한 분해-검색-구성 프레임워크이다. 평가를 위해 CompSkillBench를 도입한다. 이는 공개 MCP 생태계에서 수집한 24개 기능 카테고리에 걸친 2,209개의 실제 MCP 서버 스킬에 대한 300개의 조합적 쿼리로 구성된 벤치마크이다. 실험 결과, 작업 분해 품질이 주요 병목임을 밝힌다. 표준 LLM 분해는 단계 수준에서 34.2%의 카테고리 재현율에 불과하다. 이를 해결하기 위해 Iterative Skill-Aware Decomposition(SAD)를 제안한다. 이는 분해를 이용 가능한 스킬과 반복적으로 정렬하는 검색-증강 피드백 루프이다. SAD는 단일 반복에서 분해 정확도를 51.0%에서 67.7%로 향상시킨다(+32.7%, Wilcoxon p < 10^-6). DA 조건부 분석은 올바른 세분성이 효과적인 검색의 전제 조건임을 확인한다(DA=1일 때 CatR@1이 34%에서 41%로 상승). SkillWeaver는 컨텍스트 윈도우 소비를 99% 이상 줄이며, 전이 실험은 일반화를 확인한다(검색 풀에 대상 카테고리가 없는 경우에도 상대적 DA 이득 +35.6%).

arXiv:2606.04874v2cs.CL

에이전트 계획 벤치마크: LLM 에이전트의 계획 능력을 위한 진단 프레임워크

Agent Planning Benchmark: A Diagnostic Framework for Planning Capabilities in LLM Agents

계획(Planning)은 LLM(대규모 언어 모델) 에이전트의 핵심입니다. 에이전트는 행동하기 전에 목표를 분해하고, 도구를 선택하며, 제약 조건에 대해 추론하고, 작업이 불가능한 시점을 판단해야 합니다. 그러나 기존 에이전트 평가는 주로 엔드-투-엔드 성공만 보고하므로, 실패 원인이 계획인지 실행인지 파악하기 어렵습니다. 본 논문에서는 22개 도메인과 5가지 설정에 걸쳐 4,209개의 멀티모달 사례를 포함하는 계획 특화 진단 벤치마크인 Agent Planning Benchmark (APB)를 소개합니다. APB는 전체적 계획, 피드백 조건부 단계별 계획, 그리고 불필요한 도구, 고장 난 도구, 해결 불가능한 작업 상황에서의 강건성(robustness)을 포괄합니다. 12개의 MLLM(멀티모달 대규모 언어 모델)에 대한 평가 결과, APB는 장기 계획, 도구 노이즈 강건성, 적절한 거절(calibrated refusal), 그리고 추론 시간 정제(inference-time refinement)에서의 체계적인 약점을 드러냈습니다. 또한 200개의 ToolSandbox 작업과 200개의 $τ^2$-bench 작업에서 APB를 추가로 검증한 결과, APB 기반 정제는 3개의 대표 모델에서 계획 정확성, 계획 등급, 다운스트림 실행 지표를 일관되게 향상시키는 것으로 나타났습니다. 따라서 APB는 실행 벤치마크에 대한 상위 진단 보완 요소로 활용될 수 있습니다. APB 벤치마크와 코드는 해당 URL에서 확인할 수 있습니다.