arXiv:2607.29377v1 cs.CL

Zero-Mem: LLM 에이전트를 위한 제로 토큰 메모리 연산

Zero-Mem: Zero-Token Memory Operations for LLM Agents

Yilin Xiao, Zhehan Zhu, Yujing Zhang, Jin Chen, Zijin Hong, Luyao Zhuang, Qinggang Zhang, Shengyuan Chen, Xiaocao Ouyang, Lingfei Ren, Xiao Huang

제출 2026-07-31

한국어 초록

대규모 언어 모델(LLM) 에이전트가 긴 상호작용 동안 일관되게 행동하려면 메모리가 필요하지만, 기존의 많은 시스템은 이러한 메모리를 운용하기 위해 추가적인 LLM 호출을 사용합니다. 중간 기록을 생성하고 이들의 검색을 중개하는 과정은 반복적인 토큰 및 시간 비용을 유발하며, 생략되거나 병합된 세부 정보는 원래의 증거를 모호하게 만들 수 있습니다. 본 연구에서는 구조화된 메모리 접근에 생성 과정이 반드시 필요한지에 대한 의문을 제기합니다. Zero-Mem은 제로 토큰 메모리 연산(zero-token memory operations)을 도입합니다. 즉, 최종 질문 답변(QA) 단계 외에는 어떤 단계에서도 LLM을 호출하거나 LLM 입력 또는 출력 토큰을 소비하지 않으며, 인코더 연산은 별도로 계산됩니다. Zero-Mem은 원본 상호작용 기록을 기록의 원천으로 보존하며, 이 기록을 상호 보완적인 두 가지 방식으로 구조화합니다. 엔티티-문맥 그래프는 상호작용 전반에 걸친 연결을 드러내고, 시간적 계층 구조는 대화의 지역성(conversational locality)과 세션 상태를 보존합니다. 각 질의에 대해 Zero-Mem은 두 관점의 가중치를 조절하여 양쪽 모두에서 검색을 수행하고, 이들의 구조를 따라 뒷받침하는 관계나 주변 문맥을 복원합니다. 결정론적 보정(deterministic calibration)은 먼저 상충하는 증거를 폐기한 후, 독자(reader)의 답변이 검색된 기록에 기반(grounded)하도록 유지합니다. 오직 최종 QA 독자만이 LLM을 호출합니다. 장기 기억 및 긴 문맥 질문 답변 벤치마크 전반에서 Zero-Mem은 메모리 연산에서 LLM 호출과 LLM 토큰 소비를 제거하면서도 경쟁력 있는 성능을 달성합니다. 동일한 최종 QA 독자와 문맥 예산 하에서, 가장 빠른 비교 기준선(baseline) 대비 메모리 연산 시간 비용을 57.6% 절감합니다. 절제 연구(ablation study)는 두 가지 관점과 이들의 질의 의존적 조정이 기여함을 뒷받침합니다. 전반적으로 이러한 결과는 구조화된 에이전트 메모리가 과거의 중간 표현을 굳이 생성할 필요가 없음을 보여줍니다. 동료 평가(peer review) 이후, 코드와 세부 구현 내용은 https://github.com/TheMoon0815/Zero-mem 에서 공개될 예정입니다.

원문 초록

LLM agents need memory to act consistently over long interactions, yet many systems use additional LLM calls to operate that memory. Generating intermediate records and mediating their retrieval adds recurring token and time costs, while omitted or merged details can obscure the original evidence. We ask whether structured memory access requires generation at all. Zero-Mem introduces \emph{zero-token memory operations}: no step outside final question answering invokes an LLM or consumes LLM input or output tokens; encoder computation is accounted for separately. Zero-Mem preserves original interaction traces as its source of record. It organizes the traces in two complementary ways. An entity--context graph exposes connections across interactions, while a temporal hierarchy preserves conversational locality and session state. For each query, Zero-Mem weighs the two views, retrieves from both, and follows their structure to recover supporting relations or surrounding context. Deterministic calibration first discards conflicting evidence and then keeps the reader's answer grounded in the retrieved traces. Only the final-QA reader invokes an LLM. Across long-memory and long-context question-answering benchmarks, Zero-Mem achieves competitive performance while eliminating LLM calls and LLM-token consumption from memory operations. With the same final-QA reader and context budget, it reduces memory-operation time cost by 57.6\% relative to the fastest compared baseline. Ablations support the contribution of the two views and their query-dependent coordination. Overall, the results show that structured agent memory need not generate an intermediate representation of the past. After peer review, the code and implementation details will be available at \textcolor{blue}{https://github.com/TheMoon0815/Zero-mem}.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2607.29377v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.