PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00872v1cs.AI

MemFit: 효율적인 장기 에이전트 메모리

MemFit: Efficient Long-Term Agentic Memory

대규모 언어 모델(LLM)을 위한 장기 메모리(long-term memory) 시스템은 다양한 애플리케이션 전반에서 추론 능력을 확장하기 위해 널리 활용되고 있습니다. 현재의 메모리 시스템은 메모리를 구성하고 통합하기 위해 LLM 에이전트에 의존하므로, 비용이 많이 들고 비효율적인 쓰기 연산이 발생합니다. 이러한 한계를 해결하기 위해, 대화형 에이전트의 메모리 연산 비용과 지연 시간을 줄여주는 장기 메모리 시스템인 MemFit을 제안합니다. 메모리 구축을 위해 값비싼 LLM 호출에 의존하거나 압축을 통해 표면적인 세부 정보를 버리는 기존 시스템과 달리, MemFit은 LLM 없이 거의 즉각적인 삽입이 가능한 추가 전용(append-only) 저장소에 각 턴을 원문 그대로 저장하며, 턴을 대체하는 대신 세그먼트 요약으로 색인화합니다. 또한, MemFit은 텍스트 및 멀티모달 환경 모두에서 캡션이 보강된 에피소드에 대해 어휘적·의미적 신호와 크로스 인코더 재순위화(reranking)를 결합하는 LLM 기반이 아닌 다중 경로 검색 전략을 사용합니다. 널리 사용되는 세 가지 벤치마크인 LoCoMo, MemGallery, LongMemEval-S에 대한 실증적 결과는 MemFit이 메모리 구축 시간과 비용을 수배 단축하면서도 최고 수준의 성능(SOTA)을 달성하여, 지속적인 에이전트 메모리를 위한 확장 가능하고 효율적인 설루션을 제공함을 보여줍니다.

arXiv:2605.03228v2cs.CR

섀도 메모리를 통한 장기 지평(Long-Horizon) 위협으로부터 LLM 에이전트 보호

Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory

대규모 언어 모델(LLM) 기반 에이전트가 복잡한 실제 과제를 수행하는 데 점점 더 많이 배포됨에 따라, 사용자-에이전트-환경 간의 장기적인 상호작용을 악용하여 단일 턴 설정에서는 달성하기 어려운 악의적 목적을 추구하는 공격이 늘어나고 있습니다. 이러한 장기 지평(long-horizon) 위협은 핵심 도메인에서 LLM 에이전트를 안전하게 배포하는 데 상당한 위험을 초래합니다. 본 논문에서는 다양한 장기 지평 위협에 대응하도록 설계된 새로운 방어 프레임워크인 ShadowMem을 제안합니다. 시스템 보안의 "섀도 스택(shadow stack)" 추상화에서 착안한 ShadowMem은 안전성에 초점을 맞춘 전용 에이전트 메모리를 유지하며, 에이전트의 전체 실행 궤적에 걸쳐 안전 관련 핵심 컨텍스트를 증류하여 보존합니다. 그리고 이 섀도 메모리를 활용하여 대기 중인 행동을 실행하기 전에 그 위험을 사전에 평가합니다. 폭넓은 평가 결과, ShadowMem은 다양한 장기 지평 위협에 대해 탐지 정확도에서 기존 방어 기법을 크게 능가하고, 대부분의 공격을 초기 단계에서 탐지하며, 에이전트의 유용성에는 무시할 만한 수준의 오버헤드만 추가하는 것으로 나타났습니다. 저자들이 아는 한, ShadowMem은 에이전트 메모리 접근 방식을 사용하여 장기 지평 위협을 탐지하고 완화하는 최초의 프레임워크로서, 이 중요한 과제에 대한 새로운 패러다임을 확립하고 향후 연구를 위한 유망한 방향을 제시합니다. 아티팩트는 https://github.com/ZJUWYH/ShadowMem 에서 확인할 수 있습니다.

arXiv:2609.23986v1cs.AI

Jev-Mem: 효율적인 AI 에이전트를 위한 System-One 제어 에이전트 메모리

Jev-Mem: System-One-Controlled Agentic Memory for Efficient AI Agents

장기 호라이즌 AI 에이전트에게 에이전트 메모리(agentic memory)가 필수적이 되어 가고 있으나, 많은 기존 시스템은 메모리의 조직화, 검색, 활용 방식을 자기회귀(autoregressive) LLM이 제어하도록 의존하여, 값비싼 생성(generation)을 메모리 연산의 critical path에 두고 있다. 우리는 System-One/System-Two 인지에서 영감을 받은 새로운 에이전트 메모리 아키텍처인 Jev-Mem을 제안한다. System One은 빠르고 경량의 의사결정을 담당하고, System Two는 더 느린 숙고형 추론을 수행한다. Jev-Mem은 전용 System-One 제어 평면(control plane), 구조화된 다중 관계(multi-relational) 메모리 평면, System-Two 추론 평면을 통해 이러한 역할 분담을 에이전트 메모리에 가져온다. System-One 컨트롤러는 구축(construction) 단계에서 메모리 타입 지정과 관계적 조직화를 관장하고, 검색(retrieval) 단계에서는 쿼리 라우팅, 검색 예산(retrieval-budget) 할당, 그래프 탐색, 후보 스코oring, 적응형 중단(adaptive stopping)을 동적으로 수행한다. System Two는 복잡한 추론과 답변 합성(answer synthesis)에만 호출된다. 이 설계는 메모리 효과성과 시스템 효율성을 모두 개선한다. LoCoMo에서 Jev-Mem은 전체 LLM-as-a-Judge 점수 0.777을 달성하여 가장 강한 기준선 대비 11.0% 상대 향상을 보였으며, 메모리 구축 시간을 158 s로 줄여 경쟁 메모리 시스템 중 가장 빠른 것 대비 6.6× 속도 향상을, 평균 쿼리 지연(latency)을 0.93 s로 낮춰 36.7% 감소를 이루었다.

arXiv:2607.21604v1cs.AI

AgentKVShift: 에이전트 메모리 시스템을 위한 효율적인 KV 캐시 재사용

AgentKVShift: Efficient KV Cache Reuse for Agentic Memory Systems

메모리 증강 LLM 에이전트는 요약, 키워드, 태그와 같은 LLM 생성 메타데이터로 검색된 콘텐츠를 적극적으로 큐레이션하는 에이전트 메모리 시스템을 통해 수백 번의 상호작용에 걸쳐 문맥을 유지한다. 추론 비용 관점에서 모든 검색은 이러한 구조화된 메모리 단위를 Key-Value(KV) 상태로 완전히 재인코딩하게 하며, 이는 prefill 지연시간을 지배한다. 기존의 학습 없는 KV 재사용 방법은 소수의 토큰만 선택적으로 재계산하여 이를 완화하지만, RAG 스타일의 원시 구절용으로 설계되었으며 구조화된 에이전트 메모리에서는 성능이 저하된다. 우리는 검색된 메모리 단위마다 동작하는 학습 없는, 프로브 기반 KV 잔차 보정 방법인 AgentKVShift를 제안한다. 우리가 보여주는 핵심 통찰 중 하나는, 메모리별 KV 재사용 잔차가 공유된 메모리 수준 오프셋과 작은 토큰별 변동으로 분해된다는 것이다. 소규모 프로브 집합에서 이 오프셋을 추정하면 단일 가중 보정으로 모든 재사용 토큰을 수정할 수 있다. 이전 재사용 방법이 재계산할 토큰을 결정하고 나머지 캐시를 그대로 두는 것과 달리, AgentKVShift는 재계산하지 않는 토큰도 보정하여 새로고침 예산을 전체 청크에 걸친 유용한 신호로 전환한다. 3B에서 32B 파라미터에 이르는 4개의 오픈소스 LLM과 두 개의 장기 에이전트 메모리 벤치마크(장기 대화 및 에이전트 애플리케이션)에서 AgentKVShift는 캐시의 10-30%만 새로고침하면서 거의 완전 재계산 수준의 성능을 달성하며, 동일한 재계산 비율에서 기준선을 능가한다. 이에 가까운 성능에 도달하기 위해 최대 5배 적은 재계산이 필요하며, 기존 재사용 방법은 45-55% 새로고침에서만 이 수준에 도달한다. 이 영역에서 AgentKVShift는 단일 A100에서 KV 재사용 없음 대비 2-3.5배의 prefill 속도 향상을 제공한다. AgentKVShift는 KV 캐시 양자화와 직교적으로 결합되며, 공격적인 2비트 및 4비트 설정에서 기존 재사용 방법 대비 2배 이상의 F1을 유지한다.

arXiv:2607.04391v1cs.CL

메모리 조율 시미언틱 시스템(MOSS): 감사 가능한 에이전트 메모리 아키텍처

Memory-Orchestrated Semantic System (MOSS): An Auditable Agentic Memory Architecture

장기 메모리는 AI 에이전트의 구조적 약점으로 남아 있다. 지배적인 접근 방식인 검색-증강 생성(RAG)은 임베딩 기반 유사도 검색에 의존하는데, 이는 구조적으로 불투명하고 감사하기 어려우며 벡터 표현의 이론적 한계에 묶여 있다. 우리는 에이전트가 구조화된 관계형 데이터베이스를 대상으로 검색을 주도하는 에이전트 메모리 아키텍처인 메모리 조율 시맨틱 시스템(MOSS)을 제안한다. MOSS는 모델 비종속적, 스토리지 비종속적, API 비종속적으로 설계되어 임의의 관계형 엔진에서 실행되고, 임의의 대규모 언어 모델(LLM) 제공자(또는 결정론적 비-LLM 프로세스)에 연결되며, 로컬 또는 클라우드의 임의의 인프라에 배포된다. 검색 실행은 기호적이고 재현 가능하며(쿼리가 수립된 후에는 LLM이 검색 루프에 참여하지 않음), 인덱싱부터 답변 생성까지 시스템의 모든 단계가 기록되고 검사 가능하여 MOSS는 구조적으로 감사 가능하다. 외부 온톨로지를 강제하는 대신 MOSS는 코퍼스 자체로부터 개념적 어휘를 도출한다. 우리는 에이전트 메모리 문헌에서 유례없는 종단적 배포 사례를 보고한다. 개별 연구자의 작업 코퍼스를 대상으로 1년간 지속적으로 프로덕션 운영한 사례로, 2024년 10월까지 소급 인덱싱된 약 4,400만 토큰 규모의 대화형 코퍼스—110,183개 세그먼트, 163,494개의 카탈로그화된 문서, 569개의 귀납적으로 도출된 개념, 322,662개의 개념 어노테이션, 그리고 약 500만 개의 관계로 구성된 11개의 메타데이터 그래프—를 4세대에 걸친 인프라에서 운영하였다. 현재 사례는 단일 연구자를 대상으로 하지만, 이 아키텍처는 특정 개인에 국한되지 않으며 팀, 기관, 또는 시간이 지남에 따라 지식을 축적하는 모든 주체에 적용 가능하다. 우리는 감사 가능하고 주권적이며 구조적으로 무한한 메모리가 세션이 아닌 수년에 걸쳐 개인이나 조직과 함께하도록 설계된 AI 에이전트의 전제 조건임을 주장한다.

arXiv:2606.21649v2cs.CL

EvoEmbedding: 긴 문맥 검색 및 에이전트 메모리를 위한 진화 가능한 표현

EvoEmbedding: Evolvable Representations for Long-Context Retrieval and Agentic Memory

정적 임베딩 모델은 텍스트를 고립적으로 인코딩해 주변 문맥과 시간적 순서를 반영하지 못하지만, EvoEmbedding은 순차 입력을 처리하며 갱신되는 잠재 메모리와 원시 콘텐츠를 함께 사용해 동일 쿼리도 진화하는 문맥에 맞게 다른 대상을 검색할 수 있는 진화 가능한 임베딩을 생성한다. EvoTrain-180K로 학습한 이 모델은 긴 문맥 검색 벤치마크에서 Qwen3-Embedding-8B·KaLM-Embedding-Gemma3-12B 등 더 큰 전문 모델을 능가했으며, 단순 검색-증강 생성(RAG) 파이프라인으로도 전용 에이전트 메모리 시스템을 넘어선다.