arXiv:2609.34565v2 cs.AI

FlowState: 장기 작업 대규모 언어 모델(LLM) 에이전트를 위한 메모리로서의 실행 상태

FlowState: Execution State as Memory for Long-Horizon LLM Agents

Minghao Li, Bangyan Li, Zifan Wang, Yulong Li, Hu Xu, Gan Zhang, Jingtong Wu, Wenqiang Xu

제출 2026-09-28

한국어 초록

장기 작업(long-horizon tasks)을 수행하려면 대규모 언어 모델(LLM) 에이전트가 이전 상호작용의 정보를 지속적으로 활용해야 합니다. 그러나 전체 히스토리를 유지하면 컨텍스트 비용이 증가하는 반면, 이를 압축하면 나중에 필요한 세부 정보를 잃을 위험이 있으며, 과거 정보의 관련성은 작업이 진행됨에 따라 분명해지는 경우가 많습니다. 이러한 문제를 해결하기 위해, 요청 전반에 걸쳐 유지 및 재방문할 수 있는 메모리로 실행 상태를 다루어 현재의 의사결정과 과거 정보의 재사용을 통합하는 FlowState를 제안합니다. FlowState는 의미론적 유형이 지정된 상태 노드, 이들의 관계, 원시 도구 관측치에 대한 참조를 보존하여 지속적인 유지와 온디맨드 접근을 분리합니다. 단일 실행 루프 내에서 증분 상태 업데이트(ISU)는 새로운 입력과 피드백을 기반으로 현재 상태를 유지하고, 점진적 상태 접근(PSA)은 추론 중에 필요에 따라 과거 상태와 뒷받침하는 근거를 점진적으로 드러냅니다. 이러한 메커니즘은 에이전트가 새로운 정보에 비추어 이전 결정을 재평가하고 후속 조치를 안내할 수 있도록 지원합니다. 동일한 DeepSeek-V4-Flash 모델을 사용하는 전체 컨텍스트 기준선과 비교했을 때, FlowState는 MemoryArena의 평균 성공률과 $τ^3$-Bench의 평균 통과율을 각각 4.55%p 및 13.95%p 향상시키는 동시에 전체 토큰 소비량을 43.2% 및 40.6% 줄였습니다. 이러한 결과는 장기 작업에서 FlowState의 성능 및 효율성 이점을 입증합니다.

원문 초록

Long-horizon tasks require LLM agents to continually draw on information from earlier interactions. However, retaining the full history increases context costs, while compressing it risks losing details needed later, and the relevance of historical information often becomes apparent as the task progresses. To address these challenges, we propose FlowState, which treats execution state as memory that can be retained and revisited across requests, unifying current decision-making with the reuse of historical information. FlowState preserves semantically typed state nodes, their relations, and references to raw tool observations, separating persistent retention from on-demand access. Within a single execution loop, Incremental State Update (ISU) maintains the current state based on new inputs and feedback, while Progressive State Access (PSA) progressively reveals historical states and supporting evidence as needed during reasoning. Together, these mechanisms enable agents to reassess prior decisions in light of new information and guide subsequent actions. Compared with a full-context baseline using the same DeepSeek-V4-Flash model, FlowState improves the average success rate on MemoryArena and the average pass rate on $τ^3$-Bench by 4.55 and 13.95 percentage points, respectively, while reducing total token consumption by 43.2% and 40.6%. These results demonstrate the performance and efficiency advantages of FlowState on long-horizon tasks.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.34565v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01415v1cs.AI공통 태그 Decision Making, llm agents, long-horizon tasks

메모리를 넘어서: 명시적 신념 상태를 활용한 장기적 에이전트 제어

Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States

대규모 언어 모델(LLM) 에이전트(agent)는 점점 더 복잡한 작업을 수행할 수 있게 되었지만, 상호작용 이력을 메모리로 구성하는 기존 방식은 현재 세계에 대한 일관된 이해를 보장하지 못합니다. 본 논문에서는 에이전트의 의사결정 맥락으로서 명시적 신념 상태(belief state)를 구성하고 지속적으로 유지하는 추론(inference) 시점 프레임워크인 PoS를 소개합니다. 각 신념은 현재 세계 상태에 대한 추정과 미해결된 작업 요구사항을 결합하여, 에이전트가 여전히 무엇을 학습하고 달성해야 하는지를 명시화합니다. 이러한 신념을 신뢰할 수 있고 실행 가능한 상태로 유지하기 위해, PoS는 일관성을 검증(validation)하고 작업 진행 상황을 모니터링하여 에이전트가 목표를 향한 유의미한 진전 없이 행동을 지속하는 '신념 갇힘(Belief Trapping)' 현상을 감지합니다. 이후 갇힘 패턴과 미해결된 작업 요구사항의 유형 모두에 맞추어 복구가 이루어집니다. 실행 및 진단을 아우르는 4개의 벤치마크(benchmark)에 걸친 실험 결과, PoS는 세 가지 LLM 백본 모두에서 모든 벤치마크에 걸쳐 가장 높은 종합 성능을 달성함을 보여줍니다. 소거 연구(ablation)를 통해 일관성 검증과 복구의 중요성을 입증하였으며, 문맥 스케일링(context-scaling) 실험에서는 문맥 증가에 대한 견고성을 확인했습니다. 종합적으로 이러한 결과는 단순한 이력 유지 및 압축을 넘어, 장기적(long-horizon) 문맥 관리의 기반으로서 신념 구성과 지속적 유지의 유효성을 뒷받침합니다.

arXiv:2607.22962v1cs.AI공통 태그 Decision Making, llm agents, agent memory

ConsistencyGate: 자기 일관성 승인 제어를 통한 LLM 에이전트의 메모리 오염 방지

ConsistencyGate: Preventing Memory Contamination in LLM Agents via Self-Consistency Admission Control

다중 턴으로 동작하는 LLM 에이전트는 외부 메모리 저장소에 사실을 축적하고 이를 하류 추론의 전제로 재사용한다. 따라서 한 단계에서 기록된 환각 사실은 이후 모든 단계에서 거짓 전제로 지속되며, 우리는 이러한 실패 양식을 메모리 오염(memory contamination)이라 부른다. 기존 메모리 관리는 검색(retrieval)과 용량은 다루지만 기록 시점(write-time)의 정확성은 다루지 않는다. 이 승인(admission) 문제는 유용성(utility) 또는 최근성(recency) 기준으로는 해결할 수 없으며, 통제되지 않은 오염은 긴 궤적(trajectory)에 걸쳐 누적된다. 우리는 ConsistencyGate를 제안한다. 이는 컨텍스트 c에서 추출된 후보 사실 m을 확정하기 전에 LLM에 K회 질의하여 soft support score를 얻고, 평균이 임계값을 초과할 때만 m을 승인하는 기록 시점 승인 게이트이다. 이 메커니즘은 모델에 무관하며 미세조정이 필요 없고, 지연 시간에 민감한 배포를 위한 log-probability 변형에서는 단일 순전파로 축약된다. 자연 데이터에서의 효과를 측정하기 위해, LoCoMo와 MSC의 장기 대화에 통제된 단일 세부 정보 손상(single-detail corruption)을 심어 두 개의 실제 대화 벤치마크(LoCoMo-Contam 및 MSC-Contam)를 구성하고, near-oracle 상한을 격리하는 구조화된 합성 코퍼스(MemContam)로 이를 보완한다. 네 가지 LLM 백본에 걸쳐 ConsistencyGate는 모든 것을 기록하는(write-everything) 기준선 대비 모든 벤치마크에서 오염을 줄이며, 비용은 소스 컨텍스트에서 암시적으로만 진술된 사실에 집중된다. 우리는 게이트 구현과 함께 세 벤치마크를 모두 공개한다.

arXiv:2609.18304v4cs.CL공통 태그 llm agents, long-horizon tasks

세계는 롤백하고, 반성은 유지하라: 장기 지평 LLM 에이전트를 위한 롤백 유도 반성(Rollback-Induced Reflection)

Rollback the World, Keep the Reflection: Rollback-Induced Reflection for Long-Horizon LLM Agents

대규모 언어 모델(LLM) 에이전트는 다단계 환경 상호작용을 통해 장기 지평 과제를 점점 더 많이 수행하지만, 단 한 번의 잘못된 행동만으로도 이후 상태와 관측이 바뀌어 오류가 시간에 따라 누적될 수 있다. 기존 방법은 변경된 환경 상태를 복구하지 않은 채 문맥만 고치거나, 이전 상태로 되돌리면서 유용한 경험을 버려, 실패 조건을 제거하는 것과 과거 실수를 반복하지 않는 것을 동시에 달성하기 어렵다. 우리는 신뢰할 수 있는 복구를 대신 롤백 경계 제어 문제로 보아, 언제 개입할지, 어디서 재개할지, 복구 후 어떤 정보가 남아야 하는지를 함께 결정해야 한다고 주장한다. 이 관점에 기반해, 선택한 이전 상태로 실행을 복원하면서 포기한 궤적에서 정제한 재사용 가능한 지식을 이어가 후속 결정을 이끄는 통합 복구 프레임워크인 Rollback-Induced Reflection(RIR)을 제안한다. 또한 롤백 깊이와 보존 기억에 대한 통합 연산자로 복구를 특성화하여, 상태 복원과 지식 보존에 대한 일반적 관점을 제공한다. 세 가지 장기 지평 벤치마크 실험에서 RIR은 여러 LLM 백본에서 평균 과제 성능을 일관되게 향상시키며, 구조화된 반성 기억이 유용한 경험을 보존하고 선택적 롤백이 효율적인 복구를 가능하게 함을 보여준다.

arXiv:2610.10942v2cs.AI공통 태그 Decision Making, llm agents

StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경

StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents

강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.

arXiv:2610.13455v1cs.AI공통 태그 Decision Making, llm agents

에이전틱 대규모 언어 모델

Agentic Large Language Models

대규모 언어 모델(LLM)은 전 세계적으로 큰 반향을 일으키고 있습니다. 인간의 언어로 소통하고 세상을 추론하는 능력 덕분에 LLM은 글쓰기, 질의응답 등 다양한 작업에 널리 활용되는 도구가 되었습니다. 모델이 제공하는 답변은 이미 우리의 결정과 행동에 영향을 미치고 있습니다. 만약 LLM이 세상에서 직접 행동할 수 있다면 어떻게 될까요? LLM끼리 서로 상호작용할 수 있다면 어떤 일이 일어날까요? 에이전틱 LLM은 대규모 언어 모델의 역량과 현실 세계에서 행동하는 능력을 결합합니다. 이 책에서는 에이전틱 LLM이 어떻게 작동하고, 행동하며, 상호작용하는지, 그리고 이것이 사용자로서 우리에게 무엇을 의미하는지 논의합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.