arXiv:2605.13941 cs.LG

EvolveMem:Self-Evolving Memory Architecture via AutoResearch for LLM Agents

제출 2026-05-13

한국어 초록

장기 기억은 여러 세션에 걸쳐 동작하는 대규모 언어 모델(LLM) 에이전트에 필수적이지만, 기존의 메모리 시스템은 검색 인프라를 고정된 것으로 취급합니다. 저장된 내용은 진화하지만, 채점 함수, 융합 전략, 그리고 답변 생성 정책은 배포 시점에 고정된 채로 남아 있습니다. 우리는 진정한 적응형 메모리에는 두 수준, 즉 저장된 지식과 이를 조회하는 검색 메커니즘의 공진화가 필요하다고 주장합니다. 이를 위해 EvolveMem을 제안합니다. EvolveMem은 LLM 기반 진단 모듈이 최적화하는 구조화된 행동 공간으로 전체 검색 구성을 노출하는 자기진화형 메모리 아키텍처입니다. 각 진화 라운드에서 이 모듈은 질문별 실패 로그를 읽고, 근본 원인을 식별한 뒤, 표적화된 구성 조정을 제안합니다. 이후 보호 장치가 있는 메타 분석기가 이를 적용하며, 성능 저하 시 자동 되돌리기와 정체 시 탐색을 수행하는 안전장치를 함께 둡니다. 이러한 폐쇄 루프 자기진화는 AutoResearch 과정을 구현합니다. 즉, 시스템이 자체 아키텍처를 대상으로 반복적인 연구 사이클을 자율적으로 수행하여 수동 구성 튜닝을 대체합니다. 최소한의 기준선에서 시작한 이 과정은 자율적으로 수렴하며, 원래 행동 공간에는 없던 완전히 새로운 구성 차원을 포함해 효과적인 검색 전략을 발견합니다. LoCoMo에서 EvolveMem은 가장 강력한 기준선보다 상대적으로 25.7% 높은 성능을 보였고, 최소 기준선 대비 78.0%의 상대적 향상을 달성했습니다. MemBench에서는 가장 강력한 기준선보다 상대적으로 18.9% 높은 성능을 보였습니다. 진화된 구성은 벤치마크 간에 파국적 전이가 아니라 긍정적인 전이를 보였으며, 이는 이 자기진화 과정이 벤치마크별 휴리스틱이 아니라 보편적인 검색 원리를 포착한다는 점을 시사합니다. 코드는 https://github.com/aiming-lab/SimpleMem 에서 확인할 수 있습니다.

요약

장기 기억을 요구하는 대규모 언어 모델(Large Language Model, LLM) 에이전트에서는 저장된 지식의 양만 늘리는 것으로는 충분하지 않으며, 무엇을 기억하느냐 못지않게 어떻게 검색하느냐가 성능을 좌우합니다. EvolveMem은 바로 이 지점에서 출발해, 메모리 내용만 진화하는 기존 관행을 넘어 검색 점수 함수, 융합 전략, 답변 생성 정책까지 포함한 검색 인프라 전체를 함께 진화시켜야 한다는 관점을 제시합니다. 핵심 방법론은 검색 구성을 구조화된 행동 공간으로 노출하고, 대규모 언어 모델 기반 진단 모듈이 질문별 실패 로그를 읽어 원인을 판별한 뒤, 그 결과에 따라 설정을 조정하는 폐루프 자기진화 구조를 만드는 데 있습니다. 이러한 설계는 Evaluate-Diagnose-Propose-Guard라는 순환을 통해 구현되며, 각 라운드에서 성능 저하가 감지되면 자동으로 되돌리고, 개선이 정체되면 탐색 범위를 넓히는 안전장치를 함께 갖춥니다. 다시 말해, 사람의 수동 튜닝에 의존하던 하이퍼파라미터 최적화를 시스템 스스로 수행하도록 바꾸어, 자기 자신의 아키텍처를 대상으로 반복적인 연구를 수행하는 AutoResearch 형태를 실현합니다. 이 접근의 중요한 특징은 검색을 단일 점수 계산으로 보지 않고, 키워드 기반 검색, 의미적 유사도, 구조화된 메타데이터 일치와 같은 다중 관점을 결합한 뒤 이를 다시 진화 대상으로 삼는다는 점입니다. 또한 질문을 여러 하위 질문으로 분해해 재검색하는 기능, 인물명 혼동에 강한 재검색 경로, 답변의 불확실성을 다시 검증하는 절차까지 포함함으로써 검색과 생성, 검증이 분리되지 않은 하나의 적응형 파이프라인으로 구성됩니다. 부록의 수식적 정식화에서는 이러한 아이디어가 더 명확해지는데, 메모리 저장소는 계층적 범위를 통해 세션 간 문맥을 유지하고, 누락된 정보가 발견되면 다시 추출하는 피드백 루프를 통해 저장 품질까지 함께 보완합니다. 결국 EvolveMem은 단순히 더 많은 메모리를 쌓는 시스템이 아니라, 저장, 검색, 검증, 재추출이 서로 맞물린 공진화 구조를 통해 장기 실행 에이전트의 기억 능력을 체계적으로 향상시키는 방법을 보여줍니다. 실험 결과도 이러한 방법론의 타당성을 뒷받침합니다. LoCoMo에서 가장 강한 기준선 대비 25.7%의 상대 향상을 보였고, MemBench에서도 18.9%의 상대 향상을 달성했으며, 최소 기준선 대비로는 훨씬 큰 개선을 기록했습니다. 특히 진화된 설정이 다른 벤치마크로 옮겨가도 성능이 무너지는 대신 긍정적인 전이를 보였다는 점은, 이 방법이 특정 데이터셋에만 맞춘 휴리스틱이 아니라 보다 보편적인 검색 원리를 학습했을 가능성을 시사합니다. 따라서 EvolveMem은 장기 기억 연구를 저장 구조의 개선에만 국한하지 않고, 메모리 검색 정책 자체를 자율적으로 진화시키는 방향으로 확장했다는 점에서, 향후 적응형 에이전트와 메모리 시스템 연구에 중요한 기준점을 제시합니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.