적시 메모리: LLM 에이전트를 위한 과제 적응형 메모리 큐레이션 학습
Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents
한국어 초록
에이전트형 메모리 시스템은 과거 경험을 재사용하여 이후 성능을 개선하지만, 기존 설계의 대부분은 쓰기 시점에 메모리를 큐레이션한다. 한 과제가 완료되면 그 실행 궤적은 반성, 워크플로, 스킬, 또는 추론 전략과 같은 고정된 산출물로 증류되어, 이후 유사도에 따라 검색된다. 이는 미래 질의가 알려지기 전에 무엇을 기억할 가치가 있는지 시스템이 결정하게 강제하며, 정보를 되돌릴 수 없이 버리고, 다양한 가능한 하위 과제를 모두 수용해야 하는 질의 독립적 요약을 만든다. 이러한 쓰기 시점 큐레이터를 학습하는 것 또한 어렵다. 저장 결정의 가치는 관련 질의가 도착했을 때, 잠재적으로 많은 과제 이후에야 드러날 수 있어 장기 지평 신용 할당(credit assignment) 문제를 야기하기 때문이다. 우리는 대신 원시 궤적을 보존하고, 현재 과제가 알려진 읽기 시점까지 큐레이션을 연기한다. 검색된 trace와 새 과제가 주어지면, 메모리 큐레이터가 즉각적 필요에 맞춘 간결하고 과제 적응형 페이로드를 합성한다. 이 페이로드는 동일 과제에서 소비되므로, 큐레이터는 지연된 유틸리티 신호 없이 즉각적인 과제 성공으로부터 직접 학습할 수 있으며, 관련 과제를 인위적으로 묶을 필요도 없다. ALFWorld, WebShop, $\tau^2$-bench에서 우리의 Just-in-Time Memory(JitMem)는 메모리 없는 에이전트뿐 아니라 휴리스틱 및 학습된 쓰기 시점 메모리 방법보다 일관되게 우수하며, 각각 가장 강한 기준선 대비 절대 성공률 16.2, 16.3, 3.9%p를 개선한다. 특히, 학습되지 않은 큐레이터만으로도 이미 이러한 기준선과 견줄 만하거나 이를 넘어서며, 과제 적응형 읽기 시점 큐레이션 자체가 이득의 주요 원천임을 보여준다. 큐레이터를 추가로 학습하면 개선이 더 누적된다.
원문 초록
Agentic memory systems reuse past experience to improve future performance, yet most existing designs curate memory at write time: once a task is completed, its trajectory is distilled into a fixed artifact, such as a reflection, workflow, skill, or reasoning strategy, that is later retrieved by similarity. This forces the system to decide what is worth remembering before the future query is known, irreversibly discarding information and producing a query-independent summary that must serve many possible downstream tasks. Learning such a write-time curator is also difficult because the value of a storage decision may only become apparent when a relevant query arrives, potentially many tasks later, creating a long-horizon credit-assignment problem. We instead retain raw trajectories and defer curation until read time, when the current task is known. Given the retrieved traces and the new task, a memory curator synthesizes a compact, task-adaptive payload tailored to the immediate need. Because this payload is consumed on the same task, the curator can be trained directly from immediate task success, avoiding delayed utility signals and the need to artificially group related tasks. Across ALFWorld, WebShop, and $\tau^2$-bench, our Just-in-Time Memory (JitMem) consistently outperforms no-memory agents as well as heuristic and learned write-time memory methods, improving over the strongest baseline by 16.2, 16.3, and 3.9 absolute success-rate points, respectively. Notably, even an untrained curator is already competitive with or surpasses these baselines, showing that task-adaptive read-time curation itself is a major source of the gain; training the curator further compounds the improvement.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.27334v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
OmniSeek: 다중 턴 시청각 추론을 위한 네이티브 도구 통합
OmniSeek: Native Tool Integration for Multi-turn Audio-Visual Reasoning
본 논문에서는 옴니 대규모 언어 모델(Omni-LLM)을 네이티브 도구 사용 능력을 갖춘 능동적인 다중 턴(multi-turn) 추론 에이전트로 변환하는 에이전트 프레임워크인 OmniSeek을 제시합니다. 전체 시청각 시퀀스를 단일 순전파(forward pass)로 수동 처리하는 대신, OmniSeek은 증거 획득을 추론 과정의 일부로 만듭니다. 즉, 긴 컨텍스트 내에서 서로 다른 모달리티 전반의 희소하지만 결정적인 증거를 검색하기 위해 보거나 들을지 여부와 그 시간 윈도우를 동적으로 결정합니다. 반복적인 다중 턴 프로토콜을 통해 검색된 원시 오디오 또는 시각 세그먼트는 후속 추론을 지원하기 위해 컨텍스트에 다시 추가됩니다. 이러한 능력을 콜드 스타트하기 위해, 오디오 및 시각 증거가 인터리빙된 다중 홉 사고의 연쇄(Chain-of-Thought) 궤적 말뭉치인 OmniTraj-170K를 합성하는 데이터 엔진을 구축합니다. 먼저 이러한 궤적을 기반으로 모델을 지도 학습하여 다중 턴 도구 사용 행동을 주입한 다음, 검증 가능한 보상을 활용한 2단계 강화학습을 통해 정책을 추가로 최적화합니다. 또한, 두 모달리티 모두에 의존하는 성공적인 추론 궤적에 명시적으로 보상을 제공하여 단일 모달리티 지름길을 억제하는 시청각 필수성(Audio-Visual Necessity) 목표를 도입합니다. 광범위한 벤치마크에 걸친 광범위한 실험을 통해 OmniSeek이 적응형 교차 모달 증거 탐색을 학습하고 시청각 추론 성능을 일관되게 향상시킴을 입증합니다.
MemTrace: 장기 코딩 에이전트를 위한 상태 일관적 메모리
MemTrace: State-Consistent Memory for Long-Horizon Coding Agents
코딩 에이전트(agent)가 여러 파일과 단계에 걸친 장기 소프트웨어 발전 작업을 수행함에 따라, 길어진 실행 궤적은 두 가지 연계된 문제를 야기합니다. (1) 누적된 이력으로 인해 컨텍스트 예산에 부담이 가중되고, (2) 저장소의 변경 사항으로 인해 이전 실행 근거의 유효성이 상실될 수 있습니다. 기존 접근 방식은 더 큰 컨텍스트 윈도우(context window), 압축, 검색 또는 저장소 표현과 같은 기법을 통해 이러한 문제를 해결하지만, 컨텍스트 갱신 후 일관된 작업 상태를 재구성하지 못하거나 회상된 근거가 여전히 유효한지 검증하지 못하는 경우가 많습니다. 이에 따라 본 논문에서는 실행 이력을 보존하고 변화하는 작업(예: 반복적인 파일 간 수정) 및 저장소 상태와 이력의 재사용을 정렬하는 출처 인식 메모리 시스템인 MemTrace를 제안합니다. MemTrace는 이력을 주요 정보(예: 파일, 심볼, 테스트)에 고정된 불변의 Memory Trace로 저장하며, 이들의 실행 순서와 의존성을 Memory Trace Graph로 구조화합니다. 컨텍스트가 제한될 때 작업 메모리는 컴팩트한 Memory Anchor만 유지하며, 에이전트는 이를 통해 최신 실행 상태를 재구성하고 다음 행동과 관련된 근거를 찾을 수 있습니다. 과거 근거를 복원하기 전에 MemTrace는 현재 저장소 상태에 대해 유효성을 검사하고 다음 행동에 필요한 정보만을 검색합니다. 세 가지 상호보완적인 장기 코딩 벤치마크(benchmark) 전반에서, MemTrace는 동일한 백본 및 하네스 조건 하에 완전히 평가된 모든 베이스라인을 일관되게 능가하여 Codex CLI 환경에서 DeepSWE pass@1을 21.2포인트, SWE-EVO 해결률(Resolved Rate)을 4.4포인트, SWE-Milestone 점수를 17.8포인트 향상시켰습니다.
컨텍스트와 메모리의 분리: 토큰 효율적인 테스트 시간 지속 학습을 위한 구조화된 메모리
Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning
대규모 언어 모델(LLM)은 에이전트가 도메인 특화 지식을 통합하고 경험을 통해 적응해야 하는 기업, 과학, 의료 분야의 애플리케이션에 점점 더 많이 배포되고 있습니다. 컨텍스트 엔지니어링은 추론(inference) 시점에 제공되는 지침, 전략, 근거를 통해 모델 동작을 개선함으로써 가중치(weight) 업데이트의 실용적인 대안을 제시합니다. 그러나 온라인에서 컨텍스트를 적응시키는 과정은 일반적으로 많은 비용이 드는 시행착오를 수반하며, 쿼리가 독립적으로 처리되는 경우가 많아 유용한 경험이 다음으로 이어지지 못합니다. 메모리 시스템은 상호작용 전반에 걸쳐 정보를 보존하여 이러한 한계를 해결하지만, 공유된 컨텍스트에 정보를 지속적으로 덧붙이는 방식은 컨텍스트가 확장됨에 따라 토큰(token) 비용 증가, 컨텍스트 윈도우(context window) 한계, 성능 저하 문제에 직면합니다. 본 논문에서는 컨텍스트 최적화(optimization)에 대한 통합된 정식화를 도입하고, 에이전트 메모리 시스템 업데이트가 모델의 컨텍스트에 대한 최적화 업데이트 절차로 해석될 수 있음을 보여줍니다. 이러한 관점은 메모리 설계와 그 효율성을 연구하기 위한 원칙적인 프레임워크를 제공하고자 합니다. 이어서 재사용 가능한 전략을 축적, 정제, 조직화하고 연결하는 경량 그래프 기반 메모리인 GraphMemory를 제안합니다. 각 쿼리에 대해 GraphMemory는 관련 서브그래프만을 검색하여, 모델에 전체 메모리를 노출하지 않고도 온라인 컨텍스트 적응을 가능하게 합니다. 제한된 검색 조건 하에서 검색되는 메모리의 양은 처리되는 예시 수가 증가하더라도 일정하게 유지됩니다. 실험 결과, GraphMemory는 베이스라인 대비 약 81~85% 적은 메모리 구축 토큰을 사용하면서도 경쟁력 있는 다운스트림 성능을 달성함을 보여줍니다.
DyadMem: 에이전트와 사용자의 상호작용 방식을 평가하는 장기 기억 벤치마크
DyadMem: A Long-Term Memory Benchmark of How Agents Work with Users
장기 에이전트(agent)는 사용자에 대한 사실뿐만 아니라 공유된 히스토리가 발전함에 따라 특정 에이전트가 해당 사용자와 어떻게 상호작용해야 하는지도 기억해야 합니다. 기존 벤치마크는 주로 사용자의 사실 및 선호도나 여러 사용자 간에 재사용 가능한 경험만을 감독하여, 이러한 관계 특정적 에이전트 메모리를 암묵적인 상태로 남겨두었습니다. 또한, 대부분의 이전 연구는 긴 상호작용 기록에 대한 최종 답변 질의응답(QA)만으로 모델을 측정하므로 평가가 여전히 불완전하고 신뢰하기 어렵습니다. 이를 위해 본 논문에서는 새롭게 정의한 사용자 조건부 관계형 에이전트 메모리(URAM)와 함께 DyadMem을 소개합니다. DyadMem은 동일한 다중 세션 궤적을 따라 사용자 측 메모리와 URAM을 공동으로 주석 처리하여 6가지 메모리 범주를 구성합니다. 요약하자면, 본 벤치마크는 3,065개의 에피소드, 50,961개의 세션, 61,210개의 QA 인스턴스를 포함하며, 광범위한 세션 수준의 수집(Capture) 및 업데이트(Update) 골드 주석, 쿼리 수준의 리콜(Recall) 지원, 그리고 골드 메모리(Gold-Memory)와 전체 파이프라인(Full-Pipeline)이라는 두 가지 QA 설정을 제공합니다. 16개의 공개 가중치(weight) 모델과 4개의 독점 모델 전반에서 골드 메모리 QA는 일관되게 강력한 성능을 보였으나, 전체 파이프라인 QA는 급격히 하락했습니다. 이러한 격차는 본 연구의 세분화된 평가 설계를 명확히 뒷받침합니다. 또한, 여러 정량적 결과는 프론티어 대규모 언어 모델(LLM)에서도 낮은 수집 재현율(recall), 불완전한 검색(Recall), 안전하지 않은 삭제 문제가 발생함을 추가로 보여줍니다. 나아가 엄격한 실험을 수행하여 URAM의 효과를 검증했으며 20개 모델 모두에서 긍정적인 효과를 관찰했습니다. 요약하자면, DyadMem은 해당 분야의 발전을 위해 광범위한 주석 작업을 거친 이중 도메인, 전체 파이프라인 메모리 벤치마크입니다.
에이전트는 무엇을 기억해야 하는가? 유한 메모리 평가에서 보존과 검색의 분리
What Should an Agent Remember? Disentangling Retention from Retrieval in Bounded-Memory Evaluation
영속적인(persistent) 에이전트는 정보가 유입될 때 무엇을 보존할지와 쿼리가 주어졌을 때 무엇을 표면화할지를 모두 결정해야 하지만, 기존의 메모리 평가는 보존과 선택 방식이 모두 서로 다른 방법들을 비교함으로써 이러한 결정들을 혼동시킬 수 있다. 본 연구에서는 보존 규칙과 선택 규칙을 교차 구성한 스트리밍 재현율(streaming-recall) 벤치마크를 구축하고, 동일한 300개의 시드 에피소드에서 모든 조건을 평가한다. 접근 가능한 범위를 고정했을 때, 쿼리 인식(query-aware) 선택은 필요한 사실에 대한 재현율을 15.5%p(95% CI: 12.8~18.2) 향상시키는 반면, 과거 이력 접근성까지 함께 변화시키는 혼합 비교에서는 68.7%p의 이점을 보고하며 이 중 53.2%p는 이력 접근성에 기인한다. 제한된 보존 조건에서 쿼리 인식, 밀집(dense), 오라클(oracle) 선택은 보존 상한선(retention ceiling)에 도달하며, 제한된 최신성(bounded recency) 조건에서 관찰된 319건의 실패는 모두 순위 지정(ranking) 오류가 아닌 축출(eviction)로 인해 발생한다. 목표 대상이 과거로 충분히 멀어짐에 따라 재현율은 0%로 떨어진다. SQuAD에서 평가를 반복해도 보존 상한선은 유지되면서 밀집 검색(dense retrieval)이 자연어 텍스트에서 어휘 검색(lexical retrieval)보다 우수한 성능을 보일 수 있음을 확인했다. 이러한 결과는 유한 메모리 평가 시 이력 접근성을 고정하고 보존과 선택을 분리하여 보고해야 함을 보여준다.
모든 경험이 가중치에 속하는 것은 아니다: 자기 개선형 GUI 에이전트를 위한 컴포넌트 라우팅
Not All Experience Belongs in the Weights: Component Routing for Self-Improving GUI Agents
자기 개선형 GUI 에이전트(agent)는 자신이 생성한 궤적을 보관한 후 미세조정(fine-tuning)을 거치거나 프롬프트(prompt)로 검색하여 에이전트에게 다시 전달하지만, 두 목적지를 비교하는 기존 연구들은 서로 일치하지 않는 결과를 보인다. 본 연구에서는 이러한 원인이 경험의 단위에 기인한다고 본다. 즉, 하나의 궤적은 서로 다른 특성을 가진 항목들을 한데 묶기 때문에, 해당 묶음에 대한 결론은 그 구성에 따라 달라진다. 이를 해결하기 위해, (i) 우리는 경험을 로케이터(locator), 절차(procedure), 상태 사실(state fact), 교훈(lesson)으로 분할하고 각 컴포넌트를 컨텍스트 또는 가중치로 보내는 컴포넌트 라우팅을 도입하며, 세 가지 백본 계열, 두 가지 환경, 세 가지 시드에 걸쳐 동일한 항목을 비교했다. 하나의 풀에는 두 목적지가 존재하는데, 로케이터와 교훈은 가중치에서 우세했고, 절차와 상태 사실은 컨텍스트에서 우세했다. (ii) 우리는 어떠한 학습(training)도 진행하기 전에 측정한 두 가지 속성인 재발생성(recurrence)과 상태 조건성(state-conditionality)을 바탕으로 규칙을 적합했다. 이 규칙은 24개 셀 중 24개에서 보류된(held-out) 백본 계열의 목적지를 정확히 찾아냈으며, 두 가지 개입을 통해 컴포넌트를 경계 방향으로 이동시켰고, 규칙 기반 라우팅은 모든 전체 궤적 기준선(baseline)을 능가했을 뿐만 아니라 각 백본의 더 우수한 단일 목적지보다 평균 +3.5점 높은 성능을 달성했다. (iii) 우리는 학습과 생성자-소비자 간 차이가 두 목적지의 가치를 어떻게 변화시키는지 규명했다. 동일한 컴포넌트가 가중치에 기록된 후에는 노트 판독이 감소하며 가장 자주 재발생하는 항목에서 이러한 감소가 가장 컸고, 컨텍스트 이득은 정보 격차에 따라 증가한 반면 가중치 이득은 정책 격차에 따라 감소했다. 코드와 데이터는 공개될 예정이다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.