Jev-Mem: 효율적인 AI 에이전트를 위한 System-One 제어 에이전트 메모리
Jev-Mem: System-One-Controlled Agentic Memory for Efficient AI Agents
한국어 초록
장기 호라이즌 AI 에이전트에게 에이전트 메모리(agentic memory)가 필수적이 되어 가고 있으나, 많은 기존 시스템은 메모리의 조직화, 검색, 활용 방식을 자기회귀(autoregressive) LLM이 제어하도록 의존하여, 값비싼 생성(generation)을 메모리 연산의 critical path에 두고 있다. 우리는 System-One/System-Two 인지에서 영감을 받은 새로운 에이전트 메모리 아키텍처인 Jev-Mem을 제안한다. System One은 빠르고 경량의 의사결정을 담당하고, System Two는 더 느린 숙고형 추론을 수행한다. Jev-Mem은 전용 System-One 제어 평면(control plane), 구조화된 다중 관계(multi-relational) 메모리 평면, System-Two 추론 평면을 통해 이러한 역할 분담을 에이전트 메모리에 가져온다. System-One 컨트롤러는 구축(construction) 단계에서 메모리 타입 지정과 관계적 조직화를 관장하고, 검색(retrieval) 단계에서는 쿼리 라우팅, 검색 예산(retrieval-budget) 할당, 그래프 탐색, 후보 스코oring, 적응형 중단(adaptive stopping)을 동적으로 수행한다. System Two는 복잡한 추론과 답변 합성(answer synthesis)에만 호출된다. 이 설계는 메모리 효과성과 시스템 효율성을 모두 개선한다. LoCoMo에서 Jev-Mem은 전체 LLM-as-a-Judge 점수 0.777을 달성하여 가장 강한 기준선 대비 11.0% 상대 향상을 보였으며, 메모리 구축 시간을 158 s로 줄여 경쟁 메모리 시스템 중 가장 빠른 것 대비 6.6× 속도 향상을, 평균 쿼리 지연(latency)을 0.93 s로 낮춰 36.7% 감소를 이루었다.
원문 초록
Agentic memory is becoming essential for long-horizon AI agents, yet many existing systems rely on autoregressive LLMs to control how memories are organized, retrieved, and used, placing expensive generation on the critical path of memory operations. We introduce \textbf{\method}, a new agentic memory architecture inspired by System-One/System-Two cognition. System One captures fast, lightweight decision-making, whereas System Two performs slower, deliberative reasoning. Jev-Mem brings this division of labor to agentic memory through a dedicated System-One control plane, a structured multi-relational memory plane, and a System-Two reasoning plane. The System-One controller governs memory typing and relational organization during construction, and dynamically performs query routing, retrieval-budget allocation, graph traversal, candidate scoring, and adaptive stopping during retrieval. System Two is invoked only for complex reasoning and answer synthesis. This design improves both memory effectiveness and system efficiency: on LoCoMo Jev-Mem achieves an overall LLM-as-a-Judge score of 0.777, an 11.0\% relative improvement over the strongest baseline, while reducing memory construction time to 158\,s, a 6.6$\times$ speedup over the fastest competing memory system, and lowering average query latency to 0.93\,s, a 36.7\% reduction.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.23986v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
언어 모델은 위키피디아 게임을 플레이할 수 있는가?
Can Language Models Play the Wikipedia Game?
언어 모델은 색인하기에 너무 방대한 문서 집합에서 정보 검색을 지원하거나 자동화하는 데 점점 더 많이 활용되고 있습니다. 이 작업은 전문적인 언어학적 또는 과학적 지식을 요구할 때 어려워집니다. 본 연구에서는 유사한 정보 검색 작업에서 언어 모델을 테스트하기 위해 위키피디아 게임(Wikipedia Game)을 활용했습니다. 이 게임에서 플레이어는 오직 문서 내 링크만을 사용하여 목표 문서에 도달해야 합니다. 5개 언어의 위키피디아와 5개의 학술 문헌 데이터셋에 걸쳐 문장 임베딩(embedding) 모델(model)과 대규모 언어 모델(LLM)들을 비교했습니다. OpenAlex를 사용하여 위키피디아 페이지 및 논문 인용으로 이루어진 초대형 로컬 그래프를 구축하고, 이를 생성하고 탐색할 수 있는 코드를 제공합니다. 이를 통해 서드파티 API에 의존하지 않고도 언어 모델의 탐색 능력을 연구할 수 있습니다. 또한 해당 모델들을 인간 및 TF-IDF 벤치마크와 비교했습니다. 위키피디아 게임 형식은 다양한 기법, 언어 및 도메인 전반에 걸쳐 강력한 비교를 가능하게 합니다. 가장 우수한 모델들(GPT-o3 mini, GPT-4o, QwQ:32B, DeepSeek-R1:70B)이 인간에 필적하는 성공률을 달성했으나, 인간을 유의미하게 능가한 모델은 없었습니다. 성능과 순위는 언어와 주제에 따라 다양하게 나타났으며, 이는 이러한 기법을 활용하는 실무자들에게 시사점을 제공합니다.
LEAP: LLM 에이전트를 위한 효율적인 행동 제안 학습
LEAP: Learning Efficient Action Proposals For LLM Agents
대규모 언어 모델(LLM) 에이전트는 롤아웃(rollout) 과정이 느린 것으로 알려져 있습니다. 에이전트는 한 번에 한 단계씩 작업을 완료합니다. 각 단계에서 에이전트는 추론을 수행한 후 실행할 행동을 선택합니다. 다음 단계와 행동은 이전 단계가 끝날 때까지 시작될 수 없습니다. 추측 디코딩(speculative decoding)은 추론 토큰을 초안 작성(drafting)하고 검증함으로써 추론 단계에서의 롤아웃 속도를 가속합니다. 최근 연구들에서는 행동 단계에도 유사한 아이디어를 적용하기 시작했습니다. 이러한 연구들은 타깃 모델(target model)이 검증할 수 있도록 행동 제안 초안을 작성하기 위해 기존에 구축된 상용 모델(off-the-shelf model), 주로 대형 모델을 사용합니다. 대형 초안 모델은 타깃과 더 자주 일치하지만 제안을 작성하는 데 더 오랜 시간이 걸리는 반면, 소형 상용 모델은 빠르지만 타깃과 동일한 결정을 내리는 경우가 드뭅니다. 본 논문에서는 더 일반적인 질문을 던집니다. 행동 추측의 엔드투엔드(end-to-end) 가속을 결정하는 요인은 무엇인가? 이에 답하기 위해, 본 연구에서는 추측 라운드에 대한 지연 시간(latency) 프레임워크를 개발합니다. 이 프레임워크는 한 라운드에서 얻는 이득과 소요되는 비용을 비교합니다. 이득은 초안 모델이 타깃을 얼마나 잘 예측하는지, 그리고 작업이 종료되기까지 얼마나 많은 단계를 거칠 수 있는지에 따라 달라집니다. 비용은 초안 작성, 타깃의 검증 대기 시간, 도구 실행에서 발생합니다. 이 프레임워크를 바탕으로, 본 연구에서는 초안 모델의 크기를 작게 유지하면서 타깃의 행동 시퀀스로 학습(training)시켜 정확도를 높이는 LEAP(Learning Efficient Action Proposals)을 소개합니다. 0.6B 크기의 소형 모델을 사용하는 LEAP은 대부분의 결정에서 타깃과 일치하며, 작업 성공률의 체계적인 변화 없이 에이전트의 엔드투엔드 실제 소요 시간(wall clock time)을 최대 60% 단축합니다. 다양한 데이터셋, 타깃 모델 및 초안 모델에 걸쳐 본 프레임워크는 측정된 속도 향상의 대부분을 설명합니다. 또한 사전 트레이스 수집 없이도 초안 모델을 온라인 학습할 수 있으며 오프라인 학습의 성능과 일치함을 입증하여, LEAP이 실제 환경에 배포하기에 실용적임을 보여줍니다.
TAGGRAPH: 에이전트 지속 이력의 그래프 검색을 위한 태그 증강 그래프
TAGGRAPH: Tag-Augmented Graphs for Graph Retrieval of Agent Persistent Histories
장기 기억은 대규모 언어 모델(LLM) 에이전트(agent)가 과거의 상호작용을 기억하고 세션 전반에서 일관성을 유지할 수 있게 해 주지만, 메모리 시스템은 표현, 인덱싱, 검색, 평가 방식이 서로 달라 비교하기가 어렵습니다. 본 논문에서는 공유된 5W(육하원칙) 스타일의 대화형 메모리를 기반으로 하는 통제된 평가 프레임워크를 제시합니다. 국소적 그래프 구성은 공통의 기본 그래프를 순회하며, AdaptiveGraph는 시간순 엣지와 개인화된 페이지랭크(Personalized PageRank) 확산을 추가합니다. 또한 동일하게 추출된 노트에 대한 BM25와 원시 입력을 사용하는 외부 기준선인 OpenClaw를 평가합니다. 검색 순위는 메모리 설정에 따라 달라집니다. LongMemEval-S에서 AdaptiveGraph는 MRR 0.844로 가장 우수한 그래프 구성을 보였으나, BM25는 0.867, OpenClaw는 0.880에 달했습니다. ATANT Core에서는 국소적 그래프 순회가 확산 및 BM25보다 우수한 성능을 보인 반면, 스트레스 라운드에서는 BM25가 앞섰습니다. 테스트된 범위 내에서 LongMemEval-S의 크기를 줄여도 ATANT 확산 패널티가 재현되지 않았으나, 테스트된 가장 작은 저장소도 ATANT Core보다 여전히 컸기 때문에 저장소 크기 영향을 배제할 수 없습니다. 이 패널티는 관대한 콘텐츠 일치 기준 하에서도 지속되었습니다. 어휘 정규화(normalization)와 추출 품질은 그래프 검색에 실질적인 영향을 미치며, 상위 5위권 실패 사례에서는 추출 태그 누락이 흔하게 나타났습니다. 따라서 검색 전략은 메모리 설정과 함께, 그리고 강력한 어휘 기반 기준선과 대조하여 공동으로 평가되어야 합니다.
EviGraph: 시간적 공공 서비스 지식 그래프 기반의 증명 수반 선택적 추천
EviGraph: Proof-Carrying Selective Recommendation over Temporal Public-Service Knowledge Graphs
공공 서비스 추천에는 요청된 서비스, 범위 및 날짜와 일치하는 근거가 필요하다. 그러나 누락된 모든 세부 사항을 결정적인 것으로 취급하면 유용한 추천이 보류될 수 있다. 본 논문에서는 미해결 상태로 남아 있어도 되는 정보와 핵심적인 결정 요건을 구분하는 EviGraph를 소개한다. 언어 에이전트(language agent)는 이러한 요건을 시간적 지식 그래프의 근거와 연결하며, 결정론적 검사기(deterministic checker)는 추천이 뒷받침되는지 여부를 확립한다. 실행 가능한 정책 참조가 포함된 이중 언어 홍콩 공공 서비스 벤치마크에 대한 평가 결과, 이러한 구분이 불필요한 기권(abstention)을 줄여주는 것으로 나타났다. 그러나 추가적인 검증은 결정 품질을 향상시키지 않으면서 뒷받침된 추천을 철회할 위험이 있다. 이러한 발견은 신뢰할 수 있는 근거 기반 탐색이 단순히 검증을 늘리는 것보다 결정을 위해 무엇이 확립되어야 하는지를 명시하는 것에 달려 있음을 시사한다.
JevSpawn: 구성적 행동 공간을 통한 적응형 에이전트 추론
JevSpawn: Adaptive Agentic Inference through Compositional Action Spaces
대규모 언어 모델(LLM) 에이전트는 중간 추론과 행동을 토큰 단위로 생성하므로, 장기적인 상호작용 시 속도가 느리고 연산 비용이 많이 듭니다. Jev 방식의 모델은 유한한 체(finite fields)에 대해 빠른 확률적 예측을 제공하지만, 이러한 대상을 사전에 지정해야 한다는 한계가 있습니다. 이러한 요구 조건은 사용 가능한 행동을 자연어 지시사항으로부터 도출하고 상호작용을 통해 적응시켜야 하는 자율적인 과업 해결을 제한합니다. 본 논문에서는 자연어 과업 명세와 유한 확률적 탐험을 연결하는 구성적 정책인 JevSpawn을 소개합니다. 병렬 행동 생성(action spawning)은 피드백 기반 분기 선택, 표현 수정, 유지된 대안으로부터의 복구와 결합됩니다. 공유된 행동 구조와 모델 접두사는 추가적인 학습 없이도 반복적인 생성 및 컨텍스트 연산을 줄여줍니다. 7개의 에이전트 베이스라인 및 TypeSafe Jev 변형을 대상으로 한 8개 벤치마크 과업 평가를 통해, JevSpawn이 과업 성능 향상과 더 빠른 탐색을 실현하며 구조화된 에이전트 추론에 유망한 접근법임을 입증합니다.
더 적은 토큰으로 더 나은 행동을: 14% 더 높은 성공률과 65% 더 적은 토큰을 달성한 GPT-6 Astra 로봇 에이전트
Fewer Tokens, Better Action: GPT-6 Astra Robot Agents with 14% Higher Success Rate but 65% Fewer Tokens
비전-언어 모델(VLM) 에이전트는 시각적 피드백과 행동 프리미티브를 통해 로봇을 제어할 수 있지만, 반복적인 모델 호출과 불필요한 관측으로 인해 상당한 토큰 오버헤드가 발생합니다. 본 논문에서는 피드백 기반 프리미티브 구성과 선택적 관측을 결합한 대화형 코드 실행 프레임워크인 PyRUA-Lean을 제안합니다. 이 에이전트는 고전적인 로봇 프리미티브와 학습된 비전-언어-행동(VLA) 정책을 조건부 확인 및 로컬 재시도를 수행하는 Python 셀로 구성하며, 재계획을 위해 명시적으로 요청된 이미지와 상태 피드백만을 반환합니다. LIBERO-PRO, RoboTwin 2.0 및 RoboCasa365의 700개 시뮬레이션 작업 인스턴스에 걸쳐, 동일한 GPT-6 Astra 플래너와 기반 로봇 프리미티브를 사용하는 도구 호출 기준선과 PyRUA-Lean을 비교합니다. 동일한 대규모 언어 모델(LLM) 호출 예산 하에서, PyRUA-Lean은 전체 성공률을 63.1%에서 71.7%로 향상시킵니다. 두 에이전트가 모두 해결한 인스턴스에서 PyRUA-Lean은 LLM 호출을 49% 적게 사용하고 입력 토큰을 65% 적게 사용합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.