arXiv:2610.00613v1 cs.AI

행동이 아닌 공간 전략: LLM 기반 에이전트를 위한 도구로서의 벡터 양자화 측지선

Spatial Strategies, Not Actions: Vector-Quantized Geodesics as Tools for LLM-Driven Agents

Gabriel Turinici

제출 2026-09-30

한국어 초록

대규모 언어 모델(LLM) 기반 에이전트(agent)는 공간 이해력이 부족하고 주로 통계적 텍스트 패턴만을 활용한다는 비판을 자주 받습니다. 본 연구에서는 그리드 월드 환경(environment)에서 기하학적 도구와 상위 수준 오케스트레이터 역할을 하는 LLM을 결합한 아키텍처를 통해 이들의 공간 이해력을 조사합니다. 에이전트는 먼저 측지선 궤적(geodesic trajectory)을 수집하고, 이를 벡터 양자화(quantization)하여 대표적인 하위 집합을 추출합니다. 오프라인 단계에서 LLM은 선택된 각 궤적에 내재된 행동 패턴에 대한 자연어 설명을 연결하여 도구로 만듭니다. 온라인 단계에서는 LLM이 현재 상태와 목표에 맞춰 적절한 도구를 선택합니다. 하위 수준 제어는 도구와 연계된 궤적을 실행하는 기본 행동(primitive action)으로 처리됩니다. 에이전틱 AI 관점에서 이러한 접근 방식은 학습을 두 단계로 분리합니다. 즉, 도구 발견은 궤적의 비지도 양자화를 통해 처리되며, 추론과 의사결정은 LLM이 담당합니다. 오픈 비전-언어 모델(vision-language model)(Qwen3.6-35B-A3B)을 사용하여 부분 관측 가능한 동적 2D 그리드 환경에서 이 접근 방식을 테스트합니다. 기하학 기반 도구 라이브러리를 에이전트 중심 줌 도구 및 충돌 감지 도구와 결합함으로써, 빠르고 비추론적인 구성으로도 훨씬 비용이 많이 드는 사고의 연쇄(Chain-of-Thought) 버전의 목표 도달률과 동등한 성능을 달성하는 동시에 의사결정 비용을 수분에서 수초 단위로 단축할 수 있었습니다.

원문 초록

Large language model (LLM) based agents are often criticized for lacking spatial understanding and mainly exploiting statistical text patterns. We investigate their spatial comprehension through an architecture combining geometrical tools with a LLM serving as a high-level orchestrator in grid-world environments. The agent first collects geodesic trajectories, which are then vector-quantized to extract a representative subset. Offline, the LLM associates a natural language description of the underlying behavioral patterns to each selected trajectory, making it a tool. Online, the LLM chooses the appropriate tool conditioned on the current state and goal. Low-level control is handled by primitive actions that execute the trajectory associated with the tool. From an agentic AI perspective, this approach separates learning into two levels: tool discovery is handled through unsupervised quantization of trajectories, while reasoning and decision-making are handled by the LLM. We test the approach in a partially observable dynamic 2D grid environment with an open vision-language model (Qwen3.6-35B-A3B). Pairing the geometry-derived tool library with an agent-centered zoom tool and a collision detection tool lets a fast, non-reasoning configuration match the goal-reaching rate of a much more costly chain-of-thought version, while cutting the cost of a decision from minutes to seconds.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00613v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10942v2cs.AI공통 태그 Sequential Decision Making, llm agents

StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경

StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents

강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.

arXiv:2608.05446v2cs.LG공통 태그 Sequential Decision Making, llm agents

EvoHarness-RL: 자기 진화형 에이전트를 위한 런타임 하네스 조율 학습

EvoHarness-RL: Learning Runtime Harness Coordination for Self-Evolving Agents

장기 작업(long-horizon) 대규모 언어 모델(LLM) 에이전트는 상태 유지, 진행 상황 추적, 실패 복구, 확장된 상호작용 전반에 걸친 경험 재사용을 위해 외부 실행 지원에 점점 더 많이 의존하고 있습니다. 그러나 기존 하네스 및 그 사용 방식은 특정 환경에 맞춤화되어 프롬프트, 휴리스틱 또는 시스템별 규칙을 통해 제어되는 경우가 많아 에이전트와 하네스 조율을 공동으로 최적화하기 어렵습니다. 본 논문에서는 환경별 하네스 구현을 공유 정책 인터페이스와 분리하는 통합 프레임워크인 EvoHarness-RL을 제안합니다. EvoHarness-RL은 외부 지원을 신념, 진행, 경험(Belief, Progress, and Experience, BPE) 작업 공간으로 구성하고, 이 상태에 접근 및 업데이트하기 위한 네 가지 간결한 하네스 행동을 노출합니다. 먼저 BPE를 추론 시점의 스캐폴드로 인스턴스화한 다음, 지도형 초기화에 이어 비용 인식 GRPO를 통해 하네스 조율을 학습 가능하도록 만듭니다. 이종의 장기 작업 전반에 걸쳐 EvoHarness-Base는 프론티어 모델의 평균 성공률을 10.0%p 향상시키며, EvoHarness-RL은 가장 강력한 오픈소스 기준선보다 8.5%p 뛰어난 성능을 보임과 동시에 더 높은 강화학습(RL) 롤아웃 효율성과 보지 못한 작업에 대한 더 강력한 일반화 성능을 보여줍니다. 분석 결과, 정책의 역량이 향상됨에 따라 학습을 통해 에이전트가 잦은 스캐폴드 사용에서 선별적이고 환경 의존적인 하네스 접근으로 점진적으로 전환되는 반면, 외부 작업 공간은 작업 실행과 일반화를 더 잘 지원하기 위해 지속적으로 진화하고 개선되는 것으로 나타났습니다. 종합적으로 이러한 결과는 장기 작업 에이전트가 외부 스캐폴딩 자체뿐만 아니라 비용 인식 정책의 일부로서 외부 지원과 조율하는 방법과 시점을 학습함으로써 이점을 얻는다는 점을 보여줍니다.

arXiv:2610.02664v1cs.AI공통 태그 Sequential Decision Making, llm agents

장기 실행 에이전트의 GHOST: 턴 전반에서 간과된 안전 제약 조건으로 인한 거버넌스 위험

A GHOST in Long-Horizon Agents: Governance Hazard from Overlooked Safety Constraints across Turns

장기 실행 에이전트(long-horizon agent)는 복잡한 문제 해결에서 인간을 보조하는 데 점점 더 중요한 역할을 하고 있습니다. 그러나 이러한 확장된 상호작용 이력은 지금까지 충분히 탐구되지 않은 실행 안전성(execution-safety) 문제를 유발합니다. 정상적인 상호작용 환경에서도 에이전트는 여러 턴(turn) 이전에 명시된 안전 제약 조건을 위반하는 행동을 실행할 수 있습니다. 본 연구에서는 비가역적인 피해를 초래할 수 있는 이러한 실패 모드를 '턴 전반에서 간과된 안전 제약 조건으로 인한 거버넌스 위험(GHOST, Governance Hazard from Overlooked Safety Constraints across Turns)'이라고 명명합니다. 실험 결과 GHOST 사건은 개별적인 예외 사례가 아님을 확인했습니다. 정상적인 상호작용 조건에서도 정확히 발생하는 이 실패 모드는 GPT-5.5에서 11.5%의 발생률을 나타냈습니다. 나아가 본 논문에서는 이론적으로 각 안전한 접두 문맥(safe prefix)에 따른 잔여 조건부 위반 위험이 발산하는(non-summable) 수열로 아래로 유계되는 경우, 실행이 거의 확실하게(almost surely) 위험 영역에 진입함을 증명합니다. 이러한 이론적 통찰을 바탕으로, 과거 의미론적 안전 제약 조건 복원과 실행 전 감사를 결합한 2개 층의 방어 메커니즘인 STAR-Guard를 제안합니다. STAR-Guard는 적용 가능한 안전 제약 조건을 복원하여 안전하지 않은 제안을 줄이는 동시에, 결정론적 감사 층을 통해 잔여 위반 사항이 환경(environment)에 도달하지 못하도록 방지합니다. 이러한 2개 층 설계에 힘입어, GPT-5.5 설정에서의 실험에서 GHOST 사건이 전혀 발생하지 않음을 관찰했습니다.

arXiv:2609.40111v2cs.AI공통 태그 Sequential Decision Making, llm agents

에이전트 오류 데이터셋: 실패 분석 및 오류 인식 사후 학습을 위한 50,000개 오류-진단 쌍 확장

Agent Error Dataset: Scaling 50,000 Error--Diagnosis Pairs for Failure Analysis and Error-Aware Post-Training

실패한 대규모 언어 모델(LLM) 에이전트 롤아웃(rollout)은 최종 보상(reward) 이상의 정보, 즉 에이전트가 이용할 수 있었던 관찰값, 에이전트가 선택한 행동, 그리고 환경(environment)의 반응을 담고 있습니다. 이러한 경험을 학습(training)에 재사용하려면 수정해야 할 결정을 식별하고 구체적인 대안을 검증해야 합니다. 본 연구에서는 텍스트 기반 에이전트 시스템의 33개 환경, 19개 하네스 제품군, 23개 정책 모델에 걸친 9,961개 소스 작업에서 수집된 50,228개의 오류-진단 쌍으로 구성된 에이전트 오류 데이터셋(Agent Error Dataset, AED)을 소개합니다. 우리는 원래 롤아웃을 반복하지 않고도 다양한 설정 간 실패 분석 및 재진단을 지원할 수 있도록 소스 추적 기록과 실행 메타데이터를 보존합니다. 본 논문의 5단계 에이전틱 오류-학습(Agentic Error-to-Training, AET) 파이프라인은 자연스럽게 발생한 실패를 수집하고, 진단 및 제안된 수정 사항을 생성하며, 기록된 증거를 바탕으로 이를 검증합니다. 리플레이(replay)가 지원되는 환경에서는 일치하는 실행 설정 하에 동일한 체크포인트(checkpoint)로부터 원래 행동을 재시도한 결과와 수정 사항을 비교합니다. 그런 다음 진단 및 액터 복구를 위한 별도의 학습 뷰를 구성합니다. 3,062개의 매칭된 리플레이 쌍 전반에서 첫 번째로 제안된 수정 사항은 검증기 통과율을 18.4%에서 51.1%로 높여 32.7%p의 향상을 달성했습니다. 별도로 동결된 진단 릴리스를 사용하여 1,656개 소스 작업에 대해 전체 진단 미세조정(fine-tuning)을 수행한 결과, 943개 케이스의 홀드아웃(holdout)에서 3개 시드 평균으로 Qwen3-8B의 내부 교사 라벨과의 정확한 단계 일치율이 47.2%에서 63.6%로 향상되었습니다. 이 비교에서 가장 강력한 프롬프트 기반 참조 모델은 54.7%를 기록했으며, 4단계로 증가하는 학습 세트 크기마다 평균 일치율이 향상되었습니다. 액터 학습 레시피에 대한 단일 시드 비교에서, 행동 전용 복구 학습은 WebShop-lite에서 성공 전용 학습보다 6.67%p 더 높은 점수를 기록했습니다.

arXiv:2610.00979v1cs.AI공통 태그 Sequential Decision Making, llm agents

RISED: 에이전트 다중 환경 선택 및 자기 증류를 위한 루브릭

RISED: RubrIcs for agentic multi-environment Selection and sElf-Distillation

다양한 상호작용 환경에서 단일 대규모 언어 모델(LLM) 에이전트를 공동으로 학습(training)시키는 것은 제너럴리스트 에이전트로 나아가는 경로로서 점점 더 많은 주목을 받고 있습니다. 기존의 커리큘럼 및 데이터 선택 전략은 종종 환경(environment) 수준에서 학습을 할당하거나 국소적인 보상(reward) 기반 신호에 우선순위를 두며, 프롬프트(prompt) 그룹 선택 시 환경 간 현재 롤아웃(rollout) 사이의 관계를 명시적으로 고려하지 않습니다. 한편, 환경마다 학습되는 속도가 다르기 때문에 배치(batch) 내에 전체 실패 및 전체 성공 롤아웃 그룹이 공존할 수 있으며, 이로 인해 해당 데이터에는 그룹 상대적 보상 신호가 남지 않게 됩니다. 이러한 두 가지 과제는 다중 환경 강화학습(RL)에서 스칼라 보상에만 의존하는 것의 한계를 부각합니다. 즉, 스칼라 보상은 환경 간 관계에 대한 제한적인 정보만 제공하며, 보상이 동일할 때는 그룹 내 보상 대조를 제공하지 못합니다. 이는 학습을 유도하기 위해 롤아웃 행동을 기술하는 루브릭(rubric)과 같은 더 풍부한 텍스트 피드백의 필요성을 동기부여합니다. 보상으로서의 루브릭 활용을 넘어, 본 연구는 온라인 데이터 선택과 정책 감독을 모두 유도하도록 루브릭을 재목적화합니다. LLM 판별기(judge)는 환경 전반에 걸쳐 공유되는 사전 정의된 루브릭 어휘를 사용하여 각 롤아웃에 태그를 지정합니다. 생성된 프로필은 이미 선택된 데이터와의 중복을 제한하면서 혼합 환경 배치의 전반적인 행동 구성과 일치하는 데이터 선택을 안내합니다. 사용 가능한 긍정적 루브릭(바람직한 행동 설명)은 온-정책(on-policy) 자기 증류 교사 모델(model)을 위한 특권적 맥락(privileged context)을 제공하여 추가적인 토큰(token) 수준의 감독을 공급하는 반면, 부정적 루브릭(원치 않는 행동 설명)은 이후의 롤아웃 생성이 반복되는 실패 모드에서 벗어나도록 유도합니다. 이러한 구성 요소들이 결합하여 RISED를 형성합니다. 여러 모델 백본에 걸쳐 RISED는 환경 전반에서 가장 높은 평균 통과율을 달성하며 모든 개별 환경에서 1위 또는 2위를 기록합니다. RISED에 대한 루브릭 기반 분석은 이러한 성능 향상에 수반되는 행동 변화를 추가로 규명할 수 있습니다.

arXiv:2610.01138v1cs.AI공통 태그 Sequential Decision Making, llm agents

LLM 에이전트 환경에서의 행동 결제 감사: 순서, 진행도 및 리플레이

Auditing Action Settlement in LLM Agent Environments: Order, Progress, and Replay

대규모 언어 모델(LLM) 에이전트 환경에서 동시 발생하는 행동은 각 제안이 개별적으로 유효하더라도 중재가 필요합니다. 본 연구에서는 타입화된 스냅샷 결제(snapshot-settlement) 계약을 구현하고 세 가지 고유한 특성인 순서 민감도, 유용한 진행도, 리플레이 일관성을 감사(audit)합니다. 28,800회의 완전 순열 실험과 2,160회의 스크립트 기반 다단계 에피소드에서 5가지 결제 정책을 테스트합니다. 결합 정책은 고정된 우선순위를 조건으로 할 때 공간적으로 순서 불변성을 보이지만, 보수적 거부 정책은 6개 에이전트 출입구 태스크에서 31.25%의 에이전트만 완료한 반면 무작위 티켓 정책은 90.28%를 완료하여 대응 개선 폭은 59.03%포인트(95% 부트스트랩 구간: 50.00-68.06)에 달했습니다. 모든 정책은 테스트된 공간적 제약을 보존하지만, 우선순위 중재는 여전히 독립적인 소규모 인스턴스 최적해를 놓칩니다. 별도의 전체 상태 저널 감사는 보존된 최종 앵커를 바탕으로 156개의 체크포인트를 정확히 리플레이하고 인위적으로 생성된 1,332개의 손상을 거부합니다. 본 연구의 실증적 증거는 인간적 사실성이나 장기적 공정성이 아닌 실행 의미론(execution semantics)에 관한 것입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.