PyTorchKR Papers

최신 논문

총 77편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25052v1cs.CL

스스로 정화되고 그래도 포착됨: 에이전트가 스스로 쓰는 저장소의 오류를 위한 단일 측정 원시량, 그리고 하락하는 점수가 실제로 측정하는 것

Self-Cleaning and Captured Anyway: One Measured Primitive for Error in a Store an Agent Writes to Itself, and What a Falling Score Actually Measures

결론을 스스로 기록해 두었다가 나중에 조회하는 저장소에 쓰는 에이전트는, 보통 일방적 오�(contamination)으로 보고되는 루프를 닫는다. append-only 저장소에 대해 무한 임기(infinite-tenure) 한계로 이 루프를 보면 그림이 달라진다. 기록은 절대 삭제되지 않으므로 도달 가능한 상태 공간에는 (n-1)/n에서의 단단한 상한이 있어, 결과는 감쇠가 아니라 두 가지 경계 사이의 선택이 된다. f_0 = 0.9에서 두 모드 사이 구간은 220회 실행 중 3.6%를 차지하는데, 균일 분포라면 20.6%가 될 것이며, 처음 15회에서는 엄밀히 비어 있다. pooled mean은 요약하는 실행의 8.2%를, 중앙값은 68.2%를 설명한다. 모델이 기여하는 모든 것은 적합 매개변수 없이 하나의 측정 원시량, 복사 함수 \gamma(\phi)가 담는다. Wikidata 사실 36개에서 sign(\hat{\gamma} - \gamma_{crit})(\gamma_{crit} = 1/k, r = 0, w = 1)는 실제 사실 실행 360개 중 353개(동일 배치의 합성 40개 중 39개)에서 drift 방향을 예측한다. 규모는 저장소를 구원하지 못한다. pooled frontier capture는 0.850이며, claude-sonnet-4.5는 등록된 예측 <0.5에 대해 20개 seed 중 20개에서 포착(captured)된다. 구간이 검증하는 것은 개수가 아니라 구별 가능성(distinguishability)이다. 실제 사실에서 다값(multi-valued) 실행은 나머지 대비 그 점유율이 6.4배이다. f_0 ∈ {0.1, 0.3, 0.5}에서도 유지되며, capture는 f_0 = 0.5에서 정점을 이루고, 기준을 먼저 고정한 네 가지 개입 가운데에서는 동일 예산에서 timing이 fraction을 지배하고 consistency gate는 모든 모델을 0.993으로 끌어올린다. 리샘플링 단위는 seed이며, pooled 수준에서 design effect는 3.75이다. 44-seed 대조에서 주장 4를 뒷받침하는 순서는 seed 3개일 때 Spearman +0.98에서 44개일 때 +0.31–0.80으로 붕괴하는 반면, 주장 2의 순서는 그곳에서 정확하다(+1.00, p = 0.017). 채점된 87개 행은 모두 부록 W에 있으며, 그중 37개는 withdrawn, failed, self-correcting, undecidable 또는 acknowledged limit로 채점되었고 50개는 그렇지 않다.

arXiv:2609.03450v2cs.IR

상속된 에이전트 메모리의 예산 제한 검증에서 계획 포인터와 레코드 지시문 형식

Plan Pointers and Record-Directive Form in Budgeted Verification of Inherited Agent Memory

한 줄짜리 메모리를 상속받은 모델은 행동하기 전에 보관된 원본 레코드 하나를 가져올 수 있으며, 저장소에 있는 지시문(directive)이 이 가져오기를 유도할 수 있다. 지시문은 포인터, 기준(criterion), 또는 둘 다일 수 있다. 사전 등록된 16개 연구(179,352회 시도)에 걸쳐, 각 형식에서 요청이 어디로 향하는지를 측정했다. 모든 결과는 기술적(descriptive)이며 사전 등록된 구간을 사용하고, 메커니즘에 대한 주장은 하지 않는다. 길이를 맞춘 기준은 직접 제공자(direct-provider) 모델 여섯 개에서 단순 id보다 우수했으나(D), 아홉 개 모델로 구성된 OpenRouter 패널에서는 사전 등록된 우위 규칙을 충족하지 못했다(E). 생성된 세계(K2-K5)에서는 사전 등록된 두 가지 시그니처가 Opus 5와 Fable 5.1에서 성립했고, Fable 5는 같은 부호를 따랐으며, Haiku 4.5는 반대로 나타났고, Sonnet 5, GPT-5.6 엔드포인트, GPT-6 Astra는 0에 가까웠다(K2). 다섯 가지 게인(gain)에서 방어적 어댑터를 적용했을 때, 복합 지표(composite) - 기준 대비(criterion contrast)의 게인 의존적 변화에 대한 70B 규칙은 충족되지 않았다(K3 및 K4). 8B 감쇠 규칙(0.95 구간: 기울기가 0 미만이고 변화가 마진을 넘어섬)에서는, 8B의 변화 -17.5 [-26.7, -8.1]이 36개 패밀리에서는 이를 충족하지 못했으나(K4), 사전 등록된 검정력을 갖춘 337개 패밀리에서는 -16.6 [-19.4, -13.8]로 충족했다(마진에서 실현된 단측 오류는 유한 격자의 각 모서리당 1.8~3.2%로, 명목 수준 2.5%이며 균일 오류 보장은 아니다. K4의 상태는 그대로 유지된다. K5, 첫 번째 래더). 반면 부과된 Meta-SecAlign 템플릿 하의 두 번째 SecAlign++ 어댑터는 충족하지 못했다(-11.8 [-14.3, -9.3]; K5, 두 번째 래더). 어떤 NOT-MET도 대비(contrast)가 변하지 않았다는 진술은 아니다. 두 결과의 차이(+4.7 [+2.3, +7.2])는 고정된 두 실행 경로를 기술할 뿐이며, 우위, 동등성 또는 '유의한 차이'에 대한 주장을 뒷받침하지 않는다. 상태가 서로 다르다는 사실로부터 도출되는 것은 없다(K5). 구간은 실행에 조건부인 패밀리 재가중(family-reweighting) 안정성을 기술하는 것이지, 엔진 실행 간 재현성을 기술하는 것이 아니다. 감사용 재실행(audit replay)은 결과를 대체하거나 결과에 평균으로 포함되지 않았으며, 결측 게이트(missingness gate)는 작동하지 않았고 방향성 완료(directional completion)는 어떤 상태도 바꾸지 않았다.

arXiv:2609.22818v1cs.CR

안전성의 대가: LLM 에이전트에서 메모리 포이즈닝 방어의 양성 케이스 유틸리티와 토큰 오버헤드

The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents

LLM 에이전트용 메모리 포이즈닝(memory-poisoning) 방어는 일반적으로 공격을 막는 능력으로 평가된다. 그러나 이들이 처리하는 트래픽은 적대적(adversarial)인 경우가 드물다. 방어를 도입하는 비용은 매 상호작용마다 지불되지만, 그 이익은 전체 중 극히 일부의 경우에만 나타난다. 우리는 메모리 백엔드, 검색(retrieval) 과정, 판정(judge)을 조건마다 동일하게 유지하고 방어 방식만 바꾸는 측정 설정을 마련했다. 각 조건을 다섯 개의 대화에 걸쳐 세 번씩 시험하여, temperature zero에서도 여전히 유의한 파이프라인 실행에 내재된 잡음과 방어의 실제 효과를 구분했다. 완전히 양성(benign) 트래픽 위에서 세 가지 쓰기 시점(write-time) 방어(입력 정화, 출처(provenance) 검증, LLM 기반 이상 탐지)와 하나의 읽기 시점(read-time) 방어(재순위화(reranking))를 시험한 결과, 쓰기 시점 방어들은 우리가 분별할 수 있는 유틸리티 비용을 보이지 않았으며, 95% 신뢰구간은 대략 ±4.5점 범위에 있고 0을 포함한다. 재순위화기(reranker)는 다르다. 핵심 정확도를 4.4점 낮추며(95% CI [-9.0, -0.05], bootstrap; McNemar p=0.064), 이 결과는 재현에도 견디지만 우리 해상도의 경계에 있다. 더 분명한 비용은 통계적이기보다 기계적이다. 공격이 없는 대화에서 재순위화기는 판정된 항목의 33.6%에서 정당한 메모리를 격리(quarantine)하며, 단일 대화에서 최대 106건의 거짓 격리에 이르고, 2.7%의 토큰 오버헤드가 있다. 네 가지 방어를 모두 겹쳐도 이 비용이 누적되지는 않는다. 결합 조건의 정확도 손실은 더 작고 신뢰구간이 0을 포함하여, 쓰기 시점 방어가 재순위화기가 버리는 것을 부분적으로 상쇄할 수 있음을 시사한다. LLM 사용 여부가 아니라 방어가 파이프라인을 어디서 가로채는지가 양성 케이스에서의 대가를 결정하는 것으로 보인다.

arXiv:2608.03699v3cs.AI

TARL: 장기 에이전트의 실행 가능한 메모리 관리를 위한 트랜잭션 인식 신뢰 원장

TARL: Transaction-Aware Reliable Ledgers for Executable Memory Management in Long-Term Agents

영구 메모리(persistent memory)는 장기 에이전트(agent)가 지식을 유지하도록 돕지만, 단 한 번의 업데이트 오류로도 향후 검색 및 추론이 반복적으로 왜곡될 수 있습니다. 기존 시스템의 대부분은 메모리 업데이트를 이진(binary) Write/Hold 결정으로 축소하여, 새로운 정보를 추가해야 하는지, 무시해야 하는지, 오래된 믿음을 수정하는 데 사용해야 하는지, 신뢰할 수 없어 거부해야 하는지, 혹은 검증을 위해 보류해야 하는지를 구분하지 못합니다. 이러한 선택지들은 동일한 이진 라벨을 공유할 수 있지만 근본적으로 다른 메모리 상태를 생성합니다. 본 논문에서는 각 진술을 다섯 가지 실행 가능한 동작(action) 중 하나로 매핑하는 메모리 상태 업데이트 프레임워크인 TARL을 소개합니다. TARL은 영향을 받는 메모리를 식별하고, 시간적 범위를 해결하며, 출처의 신뢰성을 비교하고, 수락(accepted), 보류(pending), 거부(rejected) 원장(ledger)을 업데이트합니다. 또한 대안적 업데이트 작업에 의해 생성된 메모리 상태를 비교하여 모델이 올바른 결과로 이어지는 작업을 선택하도록 장려하는 방식으로 추가 학습됩니다. 아울러 세분화된 동작 라벨과 다음 상태 목표를 포함하는 벤치마크인 TARL-Mem을 소개합니다. 인도메인(in-domain), 교차 출처(cross-source), 시간적, 반사실적(counterfactual), 순차적 평가 전반에 걸쳐 TARL은 동작 예측 및 상태 복구를 개선하고, 메모리 오염을 줄이며, 상충하는 증거를 보존하고, 누적된 손상을 억제합니다.

arXiv:2605.13438v4cs.AI

CogniFold: 인지적 폴딩을 통한 상시 활성화 능동적 메모리

CogniFold: Always-On Proactive Memory via Cognitive Folding

기존 에이전트 메모리는 주로 반응형이며 검색 기반이라, 경험을 자율적으로 지속적인 인지 구조로 조직할 능력이 부족합니다. 진정으로 자율적인 에이전트를 향해, 우리는 차세대 능동적 어시스턴트를 위해 설계된 뇌 영감을 받은 "상시 활성화" 에이전트 메모리인 CogniFold를 소개합니다. CogniFold는 파편화된 이벤트 스트림을 지속적으로 자기 발생적 인지 구조로 폴딩하여, 유입되는 이벤트와 축적된 지식으로부터 점진적으로 더 높은 수준의 인지를 부트스트래핑합니다. 우리는 상호 보완적 학습 시스템(Complementary Learning Systems, CLS) 이론을 두 개의 층(해마, 신경피질)에서 세 개로 확장하여 전두엽 의도 층을 추가함으로써 이를 구현합니다. 의도적 통제와 의사결정의 중심지인 전두엽을 모방하여, CogniFold는 그래프 토폴로지 자기 조직화를 통해 이를 달성합니다. 즉, 인지 구조는 스트림 하에서 능동적으로 조립되고, 의미적으로 유사할 때 병합되며, 오래되면 감퇴하고, 연상 회상(associative recall)을 통해 다시 연결되며, 개념 클러스터 밀도가 임계값을 초과할 때 의도를 표면화합니다. 우리는 CogEval-Bench를 사용하여 구조 형성을 평가하며, CogniFold가 인지적 기대와 개념 출현(concept emergence)에 부합하는 메모리 구조를 독특하게 생성함을 입증합니다. 또한, 8개의 다운스트림 벤치마크(장기 대화 메모리를 탐색하는 LoCoMo, LongMemEval 2개와 다른 인지 영역에 걸친 6개)에 걸쳐, CogniFold가 기존 메모리 작업에서 동시에 견고하게 수행됨을 검증합니다. 우리의 코드는 https://github.com/OpenNorve/CogniFold에서 확인할 수 있습니다.

arXiv:2607.21106v2cs.AI

AttriMem: 에이전트 메모리 학습을 위한 귀속 기반 프로세스 피드백

AttriMem: Attribution-Guided Process Feedback for Agent Memory Construction

효과적인 메모리는 LLM 에이전트에 필수적이지만, 이를 효과적으로 구축하는 것은 여전히 어려운 과제이다. 메모리 구축 정책은 상호작용이 누적됨에 따라 어떤 정보를 추출, 저장, 갱신, 압축 또는 폐기할지 결정한다. 휴리스틱 메모리 방법은 주관적이고 과제별 규칙에 의존하며, 이는 하류 목표와 불일치할 수 있고 과제 간 적응성을 제한한다. 반면 RL 기반 방법은 과제 피드백으로부터 학습하지만, 주로 결과 수준이나 모듈 수준의 보상을 사용한다. 이러한 거친 신호는 과제 성공 여부는 나타내지만 최종 답을 뒷받침하는 중간 메모리 내용이 무엇인지 식별할 수 없어, 세밀한 크레딧 할당(credit assignment) 병목을 만든다. 그러나 이러한 프로세스 피드백을 구축하는 것은 매우 어렵다. 중간 메모리 결정에는 고유한 정답(ground-truth) 목표가 없고, 적절한 크레딧은 에이전트의 불확실한 추론 궤적에 따라 달라지므로 사전에 지정할 수 없기 때문이다. 우리는 RL로 메모리 구축 정책을 학습하기 위한 귀속 기반 프로세스 피드백 프레임워크인 AttriMem을 제안한다. AttriMem은 최종 답에 대한 토큰 수준 기여도에서 도출된 국소 보상으로 전역 결과 보상을 보강한다. 장기 대화 질의응답 실험에서 AttriMem은 검색 기반, 휴리스틱, RL 기반 베이스라인을 능가하며, 벤치마크와 답변 모델에 걸쳐 일반화되고 RL 최적화를 안정화한다.

arXiv:2607.24368v1cs.CL

Keep It InMind: 에이전트 메모리의 암묵적 연관 블라인드 스팟 벤치마킹

Keep It InMind: Benchmarking the Implicit-Association Blind Spot in Agent Memory

장기 메모리 시스템은 사용자가 말한 내용을 외부 저장소에 저장하고, 관련 쿼리가 도착하면 이를 검색한다. 이 인터페이스는 너무 당연해서 거의 명시되지 않는 가정 위에 놓여 있다: 필요한 메모리는 그것을 필요로 하는 쿼리와 유사할 것이다. 세계 지식(world knowledge)은 이 가정을 깨뜨린다. 견과류 알레르기는 아몬드 가루 성분을 통해 마카롱 요청에 대한 답을 바꿔야 하지만, 두 텍스트는 검색기(retriever)가 볼 수 있는 단서를 공유하지 않는다. 우리는 이러한 실패 양식을 암묵적 연관 블라인드 스팟(implicit-association blind spot)이라고 부르며, 10개 생활 영域에 걸친 125개 과제로 구성되고 113개 과제가 인용 가능한 공개 출처에 기반한 전문가 검증 벤치마크 InMind를 소개한다. 이 벤치마크의 짝을 이루는 대조군은 기존 평가가 혼동하는 세 가지 설명을 분리한다: 사실이 저장되지 않았거나, 모델에 연결 지식이 없거나, 사실은 저장되었으나 끝내 표면화되지 않았다는 경우이다. 결론은 명확하다. 결정적 메모리가 컨텍스트에 배치되면 백본은 간접 쿼리의 84.0%에 답한다. 동일한 메모리를 검색해야 할 때, 여섯 가지 벡터·그래프·에이전트 메모리 시스템은 최대 14.4%에 불과하며, 요청 시 동일한 사실을 최대 100%까지 회상함에도 불구하고 그렇다. 차원이 8배인 임베딩은 모든 시스템의 답변-블라인드 타깃 재현율을 높이지만 격차는 본질적으로 그대로 남는다. 쿼리 도착 전에 메모리를 가시적으로 유지하는 최소 진단 프로브는 격차의 대부분을 회복하며, 실패를 쿼리 조건부 인터페이스 자체에 위치시키고 어떤 사실이 가시적으로 유지되어야 하는지 결정하는 라우팅을 InMind가 평가하도록 설계된 미해결 과제로 지목한다.

arXiv:2607.23929v1cs.AI

MemTX: 상태 유지 에이전트 메모리를 위한 트랜잭션 신념 커밋

MemTX: Transactional Belief Commit for Stateful Agent Memory

대규모 언어 모델(LLM) 에이전트는 점점 더 영속적인 공유 메모리를 통해 협조하고 있다. 한 에이전트의 쓰기는 다른 에이전트의 전제가 되고, 결국 실제 부작용을 가진 도구 호출로 이어진다. 현재의 에이전트 메모리 시스템은 수락된 모든 쓰기를 즉시 실행 가능한 진실로 취급하므로, 오염된 도구 결과, 오래된 업데이트, 또는 팀원의 미완성 메모가 조용히 되돌릴 수 없는 행동을 유발할 수 있다. 우리는 메모리 쓰기가 신념 커밋(belief commit)이 아니라고 주장한다. 우리는 트랜잭션 신념 커밋 프로토콜인 MemTX를 제안한다. 각 레코드는 증거, 권한, 출처(provenance), 유효성을 담는다. 쓰기는 스냅샷 격리 트랜잭션 내에서 스테이징되고 검증-커밋 파이프라인에 의해 승인되며, 되돌릴 수 없는 도구 호출은 진행 중인 신념 상태에 의해 게이팅되고, 신념을 철회하면 파생 레코드와 도구 부작용에 대한 타입화된 연쇄 수리(cascading repair)가 트리거된다. 행동 안전 게이팅(action-safety gating)과 연쇄 수리 완전성(cascade-repair completeness)이라는 두 불변식은 속성 기반 테스트(property-based testing)와 550만 개의 프로토콜 상태에 대한 유계 완전 열거(bounded exhaustive enumeration)로 기계 검증되었으며, 위반은 0건이었다. 세 모델 패밀리의 다섯 백본(backbone)에 걸쳐 MemTX는 네 백본에서 paired-McNemar 유의성으로 여덟 기준선을 모두 앞서며, 다섯 번째이자 가장 강력한 백본에서는 최고 기준선과 통계적으로 동률을 이루면서, 모든 백본에서 하류 피해(downstream harm)가 0인 유일한 방법으로 남는다. 백본 역량은 커밋 규율(commit discipline)을 대체할 수 없다.

arXiv:2607.22962v1cs.AI

ConsistencyGate: 자기 일관성 승인 제어를 통한 LLM 에이전트의 메모리 오염 방지

ConsistencyGate: Preventing Memory Contamination in LLM Agents via Self-Consistency Admission Control

다중 턴으로 동작하는 LLM 에이전트는 외부 메모리 저장소에 사실을 축적하고 이를 하류 추론의 전제로 재사용한다. 따라서 한 단계에서 기록된 환각 사실은 이후 모든 단계에서 거짓 전제로 지속되며, 우리는 이러한 실패 양식을 메모리 오염(memory contamination)이라 부른다. 기존 메모리 관리는 검색(retrieval)과 용량은 다루지만 기록 시점(write-time)의 정확성은 다루지 않는다. 이 승인(admission) 문제는 유용성(utility) 또는 최근성(recency) 기준으로는 해결할 수 없으며, 통제되지 않은 오염은 긴 궤적(trajectory)에 걸쳐 누적된다. 우리는 ConsistencyGate를 제안한다. 이는 컨텍스트 c에서 추출된 후보 사실 m을 확정하기 전에 LLM에 K회 질의하여 soft support score를 얻고, 평균이 임계값을 초과할 때만 m을 승인하는 기록 시점 승인 게이트이다. 이 메커니즘은 모델에 무관하며 미세조정이 필요 없고, 지연 시간에 민감한 배포를 위한 log-probability 변형에서는 단일 순전파로 축약된다. 자연 데이터에서의 효과를 측정하기 위해, LoCoMo와 MSC의 장기 대화에 통제된 단일 세부 정보 손상(single-detail corruption)을 심어 두 개의 실제 대화 벤치마크(LoCoMo-Contam 및 MSC-Contam)를 구성하고, near-oracle 상한을 격리하는 구조화된 합성 코퍼스(MemContam)로 이를 보완한다. 네 가지 LLM 백본에 걸쳐 ConsistencyGate는 모든 것을 기록하는(write-everything) 기준선 대비 모든 벤치마크에서 오염을 줄이며, 비용은 소스 컨텍스트에서 암시적으로만 진술된 사실에 집중된다. 우리는 게이트 구현과 함께 세 벤치마크를 모두 공개한다.

arXiv:2607.22690v1cs.AI

LazyMem: 효율적인 장기 에이전트 메모리를 위한 광범위 검색과 선택적 구성

LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory

장기 메모리는 LLM 에이전트가 과거 상호작용을 재사용하게 하지만, 원시 대화 기록은 장황하고 정보 밀도가 낮다. 광범위한 검색은 근거 커버리지를 높이지만 하류 추론을 노이즈로 압도한다. 쓰기 시점 압축은 노이즈를 줄이지만 미래 쿼리에 필요할 수 있는 세부 정보를 되돌릴 수 없이 버린다. 우리는 LazyMem을 제안한다. 이는 모든 메모리 구성을 쿼리 시점으로 미룸으로써 이 딜레마를 우회한다. 경량 4B 모델이 겹치는 병렬 윈도우에서 검색된 후보 풀을 처리하며, 쿼리와 관련된 내용만 선택적으로 유지하고 압축한다. 이 모델은 지도 미세조정 후, 선택 정확도를 측정하는 규칙 기반 행동 신호와 출처 충실성 및 쿼리 유용성을 측정하는 LLM 판정 품질 신호를 결합한 형식 게이트 복합 보상을 사용한 그룹 기반 강화학습으로 학습된다. LongMemEval 벤치마크에서 LazyMem-4B는 213개의 메모리 토큰만으로 LLM 판정 정확도 0.85를 달성하며, 검색 전용 방식 대비 68.7배 적은 토큰을 사용하고, 대상 도메인 학습 없이 LoCoMo(0.68)로 일반화되며, 이전 쿼리 시점 기준선 대비 평균 지연 시간을 줄인다. 32B 변형은 0.93에 도달하여 집계 중심 질문 유형에서 oracle-context 참조를 능가한다. 본 연구와 관련된 코드는 https://github.com/allacnobug/LazyMem 에서 공개되어 있다.

arXiv:2607.22562v1cs.AI

SF-AMS: LLM 에이전트의 구조화된 메모리를 위한 전략적 망각

SF-AMS: Strategic Forgetting for Structured Memory in LLM Agent

장기 컨텍스트 의존성 관리는 LLM 에이전트의 주요 병목으로 남아 있으며, 중복되고 무관한 정보는 다단계 추론을 저하시킬 수 있다. 에이전트 메모리 시스템을 위한 전�ategic Forgetting for Agent Memory Systems, SF-AMS)은 메모리 단위의 장기적 중요도를 모델링하여 간결하고 고유용성(high-utility) 메모리를 유지하는 프레임워크로 제안된다. SF-AMS는 정적 검색과 휴리스틱 감쇠를 사용 빈도 중복성과 시간적 신호로부터 메모리 중요도를 갱신하는 유틸리티 기반 생존 메커니즘으로 대체하며, 이를 통해 안정적이고 엔티티 일관성(entity-consistent) 정보를 우선시하고 노이즈를 걸러내는 계층적 메모리 구조를 형성한다. 이를 바탕으로 복합 중요도 점수(Composite Importance Scoring)는 의미적 및 엔티티 수준 신호를 통합하여 검색의 견고성(robustness)을 향상시킨다. LoCoMo 및 LongMemEval-s에서의 실험은 LightMem, MemO, A-Mem을 포함한 강력한 최신(state-of-the-art) 기준선 대비 일관된 성능 향상을 보여준다. 가장 큰 개선은 Qwen2.5-7B에서의 다중 홉(multi-hop) 추론에서 나타나며, SF-AMS는 가장 강한 기준선 대비 F1 +9.65를 달성한다. 이어 GPT-4o-mini에서의 시간적 추론(temporal reasoning) +6.91 F1, 개방형(open-domain) 태스크 +6.53 F1이 뒤를 이으며, 강력한 백본(backbone) 간 일반화를 보여준다. 이러한 결과는 메모리 중요도를 동적 유틸리티 신호로 모델링하는 것이 신뢰할 수 있는 장기 컨텍스트 추론에 핵심적임을 보여준다.

arXiv:2607.21962v1cs.CL

그라운드 트루스 우선: 에이전트 메모리를 위한 종단 평가 도구와 메모리 아키텍처 순위의 기간 교차

Ground Truth First: A Longitudinal Evaluation Instrument for Agent Memory, and the Tenure Crossover in Memory-Architecture Rankings

LLM-에이전트 메모리 벤치마크는 일반적으로 대화를 먼저 생성한 뒤 답변 키를 추출하는데, 이 과정에서 기록된 라벨 오류와 오염(contamination) 문제가 있으며, 대부분 짧은 상호작용 이력만 측정한다. 우리는 파이프라인을 뒤집는다: 시드가 주어진 life-script 샘플러가 어떤 텍스트도 존재하기 전에 유효 기간, 변동성 클래스, 소스 채널을 갖춘 사실을 생성하고, LLM 렌더러가 이벤트별 사실 매니페스트로부터 채팅과 이메일을 작성하며, 충실도 검증기가 심어진 모든 사실을 확인하고, 질문은 스크립트로부터 기계적으로 생성되므로 정답(gold answer)은 구조상 스크립트-유효하며 답변 가능성에 대해 별도로 검증된다. 합성·가상화 코퍼스(~380개 질문, 15유형)는 우리가 조사한 벤치마크에 없는 특성을 포함한다: 사실별 유효 기간, 발신/수신 신뢰 구분, 무해한 하네스 내 주입(injection) 프로브, as-of-date 질문 세트. 메모리 없는 대조군(고정 답변기, 버전 관리된 LLM 심판, 3회 반복, 2개 시간 지평)에 대해 다섯 가지 메모리 아키텍처를 벤치마킹한 결과, 백엔드 순위가 이력 길이에 따라 역전된다: 3주에서 선두인 예산 제한 큐레이션 맵 메모리는 9주까지 가면 퇴출(evicted)된 내용의 재현율이 96%에서 72%로 떨어지는 반면, 출처(provenance) 유형 그래프는 90%까지 상승한다; 이 역전은 완전한 교차-패밀리 재심사 하에서 6명 사용자 모두에서 양의 방향으로 나타난다(exact p=0.031). 전체 렌더링 이력 기준선은 짧은 지평에서 최고 메모리 시스템과 동률이거나 이를 초과하지만, 9주에서는 심판 독립적 이점이 없으며, 읽기 비용은 약 2배이다. 작성 단계 품질은 하류 품질과 강하게 상관한다(약하게 작성된 사실은 24% vs 2% 실패), 주입 저항성은 출처 경계가 표현(representation)을 통해 유지되는지를 추적했다. 계층형 아키텍처는 두 체제 모두에서 메모리 시스템 중 최고 성능(단기 지평 96.8%)을 보이며, 코퍼스 생성기와 하네스와 함께 Veracium이라는 오픈소스 라이브러리로 공개된다.

arXiv:2601.08160v2cs.CL

SwiftMem: 쿼리 인식 인덱싱을 통한 빠른 에이전트 메모리

SwiftMem: Fast Agentic Memory via Query-aware Indexing

에이전트형 메모리 시스템은 LLM 에이전트가 장기 문맥을 유지하고 관련 정보를 효율적으로 검색할 수 있게 하는 데 핵심적이 되었다. 그러나 기존 메모리 프레임워크는 저장 층이 HNSW와 같은 효율적인 벡터 인덱스로 뒷받침되는 경우에도 전체 메모리 임베딩 공간에 대해 쿼리와 무관한(query-agnostic) 검색을 수행하는 경우가 많다. 이 전체 범위 검색 경로는 메모리가 커질수록 지연 병목을 만들어 실시간 에이전트 상호작용을 방해한다. 우리는 SwiftMem을 제안한다. 이는 시간적 및 의미적 차원에 대한 특화 인덱싱을 통해 검색 범위를 쿼리 관련 메모리 부분집합으로 좁히는 쿼리 인식 에이전트형 메모리 시스템이다. 우리의 시간적 인덱스는 시간에 민감한 검색을 위한 로그 시간 범위 쿼리를 가능하게 하며, 의미적 DAG-Tag 인덱스는 계층적 태그 구조를 통해 쿼리를 관련 주제에 매핑한다. 성장 과정에서의 메모리 단편화를 해결하기 위해, 우리는 의미적 클러스터를 기반으로 저장소를 재구성하여 지역성을 개선하는 임베딩-태그 공동 통합(co-consolidation) 메커니즘을 도입한다. LoCoMo와 LongMemEval$_S$에서 SwiftMem은 강력한 HNSW 기반 메모리 시스템 대비 경쟁력 있는 LLM-judge 정확도를 유지하면서 10.8/12.7 ms 검색 지연 시간을 달성한다. 보정된 벤치마크인 LoCoMo Refined에서 SwiftMem은 최상위 LLM-judge 점수에 근접한 수준을 유지하면서 한 자릿수(order-of-magnitude) 지연 시간 우위를 보존한다.

arXiv:2607.21404v1cs.CL

MemTools: 상호운용 가능한 에이전트 메모리를 위한 통합 연구 프레임워크

MemTools: A Unified Research Framework for Interoperable Agent Memory

에이전트 아키텍처에서 메모리 시스템은 필수적이지만, 만연한 아키텍처 파편화가 체계적인 연구를 제한한다. 기존 구현은 일반적으로 메모리 수명 주기의 서로 다른 단계를 결합하고, 평가(evaluation) 로직을 특정 데이터셋과 얽히게 하며, 이질적인 메모리 유형의 관리에 대한 제한적인 지원을 제공한다. 본 연구에서는 메모리 시스템 구성 요소를 기반 배포 환경으로부터 분리하는 상호운용성 연구 프레임워크인 MemTools를 제안한다. MemTools는 선언적 데이터 계약을 통해 메모리 수명 주기를 표준화하여, 서로 다른 시스템 간 구성 요소의 교환 가능한 조립을 가능하게 한다. 또한 벤치마크(benchmark) 데이터셋을 실행 프로토콜과 직교적으로 분리하여 통제된 평가를 용이하게 한다. 더 나아가 MemTools는 공유 런타임 내에서 기호적(symbolic), 신경망(neural), 멀티모달(multimodal) 메모리 표현을 조율하기 위한 통합 계산 인터페이스를 제공한다. 교차 시스템 구성 요소 통합, 평가 프로토콜 재구성, 이질적 메모리 조율에 대한 실증적 평가는 MemTools가 메모리 설계 변수의 체계적인 격리와 분석을 가능하게 함을 보여준다. 이러한 결과는 MemTools가 에이전트 메모리에 대한 원칙에 기반한 연구를 발전시키기 위한 실용적이고 확장 가능한 인프라를 제공함을 시사한다.

arXiv:2607.20458v1cs.CL

CAMeR: LLM 에이전트의 적응형 메모리 유지를 위한 키워드 게이트 하이브리드 활성화

CAMeR: Keyword-Gated Hybrid Activation for Adaptive Memory Retention in LLM Agents

장시간 대화를 수행하는 대규모 언어 모델(LLM) 에이전트는 방대한 양의 정보를 축적하지만, 기존 메모리 시스템은 모든 것을 무차별적으로 유지하거나 관련 지식과 무관한 지식을 구분하지 못하는 균일한 망각 휴리스틱을 적용한다. 본 논문은 CAMeR(Context-Activated Memory Reinforcement)를 제안한다. 이는 키워드 게이트 하이브리드 활성화—기호적(word-level Jaccard) 및 하위기호적(임베딩 cosine) 게이팅 메커니즘의 결합—와 적응형 가중치 동역학을 결합한 메모리 유지 프레임워크이다. CAMeR은 각 메모리-쿼리 쌍에 대해 하이브리드 유사도 점수를 계산한다. 임계값을 초과하는 메모리는 강화를 받으며, 모든 메모리는 통제된 감쇠를 겪는다. CAMeR-Bench를 도입한다. 이는 8개 주제 클러스터에 걸쳐 단계적 활성화 빈도를 갖는 76개 메모리, 100라운드 벤치마크로, 기존 벤치마크(LoCoMO, LongMemEval)가 검증할 수 없는 적응형 유지를 테스트하도록 설계되었다. CAMeR-Bench에서 CAMeR의 키워드 게이트는 임베딩 전용 게이팅 대비 고빈도 메모리와 한 번도 참조되지 않은 메모리 간 유지 격차가 1.6$\times$ 더 크다(scissors gap: 0.039 vs. 0.024). 한편 시간 기반 베이스라인(Oblivion, SuperLocalMemory)은 100라운드 동안 거의 0에 가까운 가중치로 붕괴한다. CAMeR의 top-5 검색은 전체 컨텍스트 방식 대비 83.2\%의 토큰을 절약한다(누적 39k vs. 231k). 동시에 검색 정밀도를 향상시키는 가중치 신호를 생성한다. 8가지 ablation 조건을 통해, 학습 가능한 감쇠가 아닌 키워드 게이트가 이 규모에서 주요 성능 동력임을 확인한다. 결과는 하이브리드 기호-신경 게이팅이 LLM 에이전트의 적응형 메모리 유지를 위한 단순하면서도 효과적인 메커니즘을 제공함을 보여준다.

arXiv:2601.01885v3cs.CL

Agentic Memory: 대규모 언어 모델 에이전트를 위한 통합 장·단기 메모리 관리 학습

Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents

대규모 언어 모델(LLM) 에이전트는 유한한 컨텍스트 윈도우로 인해 장기간 추론에서 근본적인 한계에 직면하며, 이로 인해 효과적인 메모리 관리가 중요하다. 기존 방법들은 일반적으로 장기 메모리(LTM)와 단기 메모리(STM)를 별도의 구성 요소로 처리하며, 휴리스틱이나 보조 컨트롤러에 의존하여 적응성과 end-to-end 최적화를 제한한다. 본 논문에서는 LTM과 STM 관리를 에이전트의 정책(policy)에 직접 통합하는 통합 프레임워크인 Agentic Memory(AgeMem)를 제안한다. AgeMem은 메모리 연산을 도구 기반 행동(tool-based actions)으로 노출하여, LLM 에이전트가 무엇을 언제 저장, 검색, 갱신, 요약 또는 폐기할지 자율적으로 결정할 수 있게 한다. 이러한 통합 행동을 학습하기 위해 3단계 점진적 강화학습 전략을 제안하고, 메모리 연산이 유발하는 희소하고 불연속적인 보상을 해결하기 위해 단계별 GRPO를 설계한다. 5개의 장기간 벤치마크에서의 실험은 AgeMem이 여러 LLM 백본에 걸쳐 강력한 메모리 증강(memory-augmented) 베이스라인을 일관되게 능가하며, 향상된 과제 성능, 더 높은 품질의 장기 메모리, 더 효율적인 컨텍스트 사용을 달성함을 보여준다.

arXiv:2607.21503v1cs.AI

에이전트형 컨텍스트 관리: 에이전트 메모리와 비용을 수명주기·아키텍처 문제로 다루어 해결

Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems

프로덕션 AI 에이전트의 실패는 추론 능력 부족 때문인 경우보다, 추론 컨텍스트에 무엇이 들어 있는지 관리하지 못하기 때문인 경우가 더 많다: 대화 기록, 큰 프롬프트, 큰 도구 정의, 그리고 불어나는 도구 출력. 에이전트는 매 턴마다 증가하는 토큰 비용을 지불하면서 스스로 축적된 기록에 잠겨, 대화 내·대화 간에서 회상 누락이 발생한다. 기존의 대응은 이를 저장-검색 문제로 취급한다. 우리는 이러한 프레이밍이 너무 좁다고 주장한다. 에이전트가 마음속에 담아 두는 것을 능동적으로 관리하는 것은 단순한 저장소가 아니라 수명주기이다: 무엇을 기억할지 결정하고, 추출·구조화하며, 데이터 유형별로 적절한 저장소를 선택하고, 출처를 보존하면서 통합·망각하며, 지금 무엇이 관련 있는지 결정하고, 다음에 무엇이 필요할지 예측하며, 중요한 것을 잃지 않고 컨텍스트를 예산 내로 압축하는 일을 아우른다. 진지한 프로덕션 환경에서는 이는 단일 사용자가 아니라 조직적 범위 계층 전반에서 작동한다. 우리는 이 분야를 에이전트형 컨텍스트 관리(Agentic Context Management, ACM)라 명명하고, 이를 아키텍처 설계(architecting), 수집(ingesting), 범위 지정(scoping), 예측(anticipating), 압축 및 통합(compacting & consolidation)의 다섯 원시 요소로 분해한다. 이어 경제적 논거를 제시한다: 순진한 컨텍스트 축적은 대화 길이에 대해 토큰 비용을 2차적으로 증가시키고, 거친 요약은 정확도 절벽(accuracy cliff)이라는 대가로 선형 비용을 얻으며, 검증된 압축(compaction)만이 충실도를 유지한 채 선형 비용을 달성한다. 우리는 다섯 원시 요소를 멀티테넌트 서비스로 구현한 참조 구현 Maximem Synap을 설명하고, Section 6에 상세히 기술한 구성에서 LongMemEval 92%, LoCoMo 93.2%를 보고한다. 마지막으로 기존 벤치마크가 아직 포착하지 못하는 차원—지연(latency), 토큰 효율성, 컨텍스트 부패(context-rot) 저항성—과, 이 범주가 가리키는 의사결정 수준·조직 수준 컨텍스트의 미래 전선을 논한다.

arXiv:2607.20972v1cs.AI

전달이지 저장이 아님: 코딩 에이전트를 위한 하네스 속성으로서의 단서 고정형 작업 기억

Delivery, Not Storage: Cue-Anchored Working Memory as a Harness Property for Coding Agents

코딩 에이전트는 한 종류의 기억만 갖추고 출시된다: 문서. 지시 파일, 계획 산출물, 자동 기록된 메모리 디렉터리는 의도적으로 작성되고 의도적으로 검색된다. 에이전트는 이를 쓰기로 선택하고 다시 읽기로 선택해야 한다. 인간의 전문성은 결코 기록되지 않는 두 번째 층위에서 작동한다. 작업의 부수 효과로 인코딩되고, 상황이 단서를 제공할 때 비자발적으로 검색되는 상황에 묶인 운영적 사실(함정, 위치, 지역적 관례)이다. 우리는 이 두 번째 층위가 장기 실행 에이전트에 있어 부하를 지탱하는 핵심이며, 에이전트의 선택이 아니라 하네스 속성이 되어야 한다고 주장한다. 우리의 기여는 다음과 같다. (1) 인지 문헌의 기억 오프로딩, 부수적 인코딩, 사건 기반 전향적 기억에 기반한 이중 층위 설계 이론으로, 각각을 아키텍처 요구사항에 매핑한 것. (2) 기억이 구성 가능한 어휘(경로, 심볼, 의미, 사건, 시간)에 걸친 일급 트리거 조건을 지니고, 하네스에 의해 결정적으로 평가되는 단서 고정형 기억 모델로, 조사한 학술·상용 시스템 어디에도 없는 구성. (3) 실제 코딩 작업에 대한 통제된 평가로, 사전 시드된 저장소가 있어도 자발적 기억 사용은 거의 0(114턴 중 0회 메모리 연산)이며, 결정적 주입은 모든 시드 실행에서 오경보 0으로 전달되었고, 세션 내 재읽기의 39%가 압축 경계 이전에 이미 지불한 내용을 다시 구매함을 보여준 것. (4) 반복 압축 감쇠 탐침: 대화에만 보관된 열 가지 사실은 첫 요약에서 사라지고 108회 압축 중 106회에서 계속 없으며, 박탈된 에이전트는 하네스 자체 세션 파일을 grep하여 이를 재구성하는 반면, 하네스 소유 저장소에서 주입된 동일 사실은 최종 요약에 아무것도 담기지 않음에도 138회의 compact-resume 전체를 무손실로 통과한다. 전달이지 저장이 아니다, 이것이 핵심이다. 에이전트를 위한 신뢰할 수 있는 기억 채널은 에이전트가 전혀 생각할 필요가 없는 채널이다.

arXiv:2607.19359v1cs.AI

LLM 에이전트를 위한 Profile-Graph Memory: 서사적 프로필을 통한 엔티티 간 암묵적 순회

Profile-Graph Memory for LLM Agents: Implicit Cross-Entity Traversal through Narrative Profiles

세션 간 상호작용하는 LLM 에이전트에게 장기 메모리는 필수적이지만, 현재 메모리 벤치마크는 주로 단일 홉(single-hop) 회상을 평가하여 다중 홉(multi-hop) 연관은 대부분 측정되지 않는다. 우리는 세 가지 기여를 한다. 첫째, MemHop을 제안한다. 이는 10개 소셜 네트워크 시나리오에 걸쳐 홉 깊이 1–5에서 1,000개의 질문으로 구성된 다중 홉 메모리 벤치마크이며, 홉별 증거 주석을 포함한다. 둘째, Profile-Graph Memory(ProGraph)를 제시한다. 이는 (i) 프로필 확장(profile expansion)—LLM이 작성한 프로필 서사에 자연스럽게 나타나는 엔티티 이름의 부분 문자열 매칭 순회로, 명시적 지식 그래프 구축의 최소 대안—과 (ii) 압축 잔차(compression residuals)—추가 API 비용 없이 각 프로필 업데이트와 함께 공동 추출되는 정확한 날짜, 수량, 명명된 항목—을 결합한 2층 메모리 아키텍처이다. 셋째, 전체 그리드 ablation은 벤치마크 간 메커니즘 특화를 보여준다: 프로필 확장은 다중 홉 추론을 주도하며(제거 시 MemHop에서 -22.6pp), 압축 잔차는 정밀도와 재현율을 주도한다(공동 추출하지 않을 때 LoCoMo에서 -8.6pp), 단일 아키텍처 내 교차 효과는 3pp 미만이다. ProGraph는 MemHop에서 평균 80.1%(FullContext 기준선과 동일)를, LoCoMo에서 78.4%(FullContext 대비 11.3pp 초과)를 기록하며, 두 벤치마크 모두에서 Mem0, A-Mem, HippoRAG, RAG를 능가한다. MemHop, ProGraph, 및 기준선 구현을 공개한다.

arXiv:2606.22030v2cs.AI

신념 기반 에이전트 메모리는 언제 도움이 되는가? 신뢰도 조건부 갱신과 출처 상한 기반 중독 방어

When Does Belief-Based Agent Memory Help? Reliability-Conditional Updating and Provenance-Capped Poisoning Defense

우리는 신념 기반 메모리가 실제로 대규모 언어 모델(LLM) 에이전트를 언제 개선하는지 조사한다. 우리의 수단은 Nous로, 각 엔티티-속성 쌍을 범주형 확률 분포로 표현하고 닫힌형(closed-form) 베이지안 추론으로 갱신하는 장기 메모리 아키텍처이지만, 정보 이론적 놀람(surprise)이 신념 수정을 이끌고 엔트로피 기반 망각이 적용된다. LoCoMo 벤치마크에서의 통제된 ablation은, 기존 대화형 메모리 벤치마크가 모순되거나 신뢰도가 다른 증거를 거의 포함하지 않기 때문에, 베이지안 신념 갱신만으로는 단순한 last-write-wins 대비 이점이 거의 없음을 보여준다. 이어서 우리는 인식론적(epistemic) 언어로 관측별 신뢰도를 추정하는 신뢰도 조건부 갱신을 도입하고, 통제된 모순 벤치마크에서 관측의 신뢰성이 다를 때 신념 갱신이 last-write-wins 및 원시 메모리 검색(raw-memory retrieval)을 크게 능가함을 보인다. 내용에서 파생된 신뢰도는 그 자체로 조작에 취약하기 때문에, 우리는 추가로 출처 상한(provenance-capped) 신념 갱신을 제안하며, 여기서는 신뢰가 텍스트적 확신(confidence)이 아니라 출처(provenance)에 의해 상한이 정해진다. 통제된 메모리 중독(memory-poisoning) 실험에서, 이 접근법은 대량(volumetric) 중독 공격에 저항하면서 출처 인식(provenance-aware) 메모리의 유틸리티 비용과 구현 요건을 드러낸다. 마지막으로, 동일한 출력에 대해 엄격한 토큰-F1과 LLM-as-judge 평가 사이의 27.5점 차이를 정량화하여, 장기 메모리 벤치마크에 대한 중요한 재현성 우려를 강조한다. 우리의 결과는 확률적 신념 기반 메모리가 기존의 대화형 회상만을 요구하는 환경보다, 상충하고 신뢰도가 서로 다른 증거에 대한 추론이 필요한 환경에서 가장 유익함을 시사한다.