PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29778v1cs.DB

Mandol: 장기 대화를 위한 응집형 에이전트 메모리 시스템

Mandol: An Agglomerative Agent Memory System for Long-Term Conversations

장기 대화 에이전트는 세션을 초월하여 복잡한 상관관계를 지닌 다중 유형의 정보를 기억하고 질의할 수 있어야 한다. 기존 에이전트 메모리 시스템은 이기종 벡터 데이터베이스와 그래프 데이터베이스에 의존하여 메모리 정보를 단편화하고 높은 데이터베이스 간 I/O 지연을 초래한다. 검색 측면에서는 일반적인 검색-증강 생성(RAG) 방식의 방법들이 노이즈를 유발하고 상관 단서를 놓치며 토큰 예산 제어가 부족하여 대규모 언어 모델(LLM)의 정확도와 효율성을 저하시키는 경향이 있다. 우리는 단편화된 메모리 표현과 저장소를 통합된 메모리 네이티브 아키텍처로 통합하는 응집형 메모리 시스템인 Mandol을 제안한다. 핵심 구성 요소는 다음과 같다: (1) 메모리를 원시 메모리 정보를 나타내는 기본 층과 기본 메모리들을 추적 가능한 추상 메모리로 응집하는 고수준 추상 층으로 구성하는 계층적 메모리 모델로, 두 층 모두 구조화된 시맨틱 그래프로 균일하게 표현된다; (2) SemanticMap과 SemanticGraph를 결합한 응집형 시맨틱 데이터 구조로, 키-값, 벡터, 그래프 구조를 기본적으로 융합하고 데이터베이스 간 I/O를 제거하는 통합 하이브리드 검색 연산자를 제공한다; (3) 질의 적응형 라우팅, 정량적 노이즈 제거 및 충돌 해결, 토큰 제한 컨텍스트 생성을 갖춘 정량적 질의 메커니즘으로, 검색 시 LLM을 일절 사용하지 않는다. 널리 사용되는 두 장기 대화 벤치마크인 LoCoMo와 LongMemEval에서의 실험 결과, Mandol은 대표적인 에이전트 메모리 시스템들 중 최고의 전체 정확도를 달성한다. 성능 비교 측면에서 Mandol은 10 QPS 동시 부하 환경에서 5.4배의 검색 속도 향상과 4.8배의 삽입 속도 향상을 달성하면서도 소비자급 하드웨어에서 낮은 지연 시간을 유지한다.