SwiftMem: 쿼리 인식 인덱싱을 통한 빠른 에이전트 메모리
SwiftMem: Fast Agentic Memory via Query-aware Indexing
에이전트형 메모리 시스템은 LLM 에이전트가 장기 문맥을 유지하고 관련 정보를 효율적으로 검색할 수 있게 하는 데 핵심적이 되었다. 그러나 기존 메모리 프레임워크는 저장 층이 HNSW와 같은 효율적인 벡터 인덱스로 뒷받침되는 경우에도 전체 메모리 임베딩 공간에 대해 쿼리와 무관한(query-agnostic) 검색을 수행하는 경우가 많다. 이 전체 범위 검색 경로는 메모리가 커질수록 지연 병목을 만들어 실시간 에이전트 상호작용을 방해한다. 우리는 SwiftMem을 제안한다. 이는 시간적 및 의미적 차원에 대한 특화 인덱싱을 통해 검색 범위를 쿼리 관련 메모리 부분집합으로 좁히는 쿼리 인식 에이전트형 메모리 시스템이다. 우리의 시간적 인덱스는 시간에 민감한 검색을 위한 로그 시간 범위 쿼리를 가능하게 하며, 의미적 DAG-Tag 인덱스는 계층적 태그 구조를 통해 쿼리를 관련 주제에 매핑한다. 성장 과정에서의 메모리 단편화를 해결하기 위해, 우리는 의미적 클러스터를 기반으로 저장소를 재구성하여 지역성을 개선하는 임베딩-태그 공동 통합(co-consolidation) 메커니즘을 도입한다. LoCoMo와 LongMemEval$_S$에서 SwiftMem은 강력한 HNSW 기반 메모리 시스템 대비 경쟁력 있는 LLM-judge 정확도를 유지하면서 10.8/12.7 ms 검색 지연 시간을 달성한다. 보정된 벤치마크인 LoCoMo Refined에서 SwiftMem은 최상위 LLM-judge 점수에 근접한 수준을 유지하면서 한 자릿수(order-of-magnitude) 지연 시간 우위를 보존한다.