PyTorchKR Papers

최신 논문

총 77편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.28781v1cs.AI

HyphaeDB: A Living Knowledge Topology for Agent-First Memory

Every existing vector database and agent memory framework treats memory as passive storage that agents query explicitly. No system propagates knowledge between agents through the memory layer itself. We introduce HyphaeDB, an agent-native memory infrastructure that reinterprets the Hierarchical Navigable Small World (HNSW) graph topology the data structure at the core of every modern vector database not as a search optimization, but as a communication fabric for multi-agent AI systems. In HyphaeDB, agents are nodes in the vector space with persistent positions, knowledge propagates via a gossip protocol through the graph's neighbor structure with energy-based attenuation, and emergent behaviors contradiction detection, pattern crystallization, and consensus formation arise from the combination of topology, propagation dynamics, and local interaction rules. We present the architecture built on three primitives (knowledge nodes, topology edges, and memory diffs), a multi-layer abstraction hierarchy with promotion via emergent consensus, and theoretical analysis grounding the system in small-world network theory, epidemic broadcast protocols, and swarm intelligence. We provide a reference implementation on PostgreSQL with pgvector and describe a concrete deployment in Swarm-Driven Development, a multi-agent software engineering methodology. HyphaeDB represents, to our knowledge, the first system to combine navigable small world topology with gossip-based knowledge propagation for multi-agent coordination.

arXiv:2606.28376v1cs.IR

When Does Overlap Help? OSU-Mem and a Cell-Conditional Analysis of Trajectory Memory for LLM Agents

Long-horizon large language model (LLM) agents accumulate interaction trajectories that quickly exceed any practical prompt budget, and existing memory methods either truncate aggressively and lose non-local evidence or retain boilerplate that degrades decision quality. We ask a mechanism question rather than claiming a better general-purpose memory system: when does organizing trajectory memory into overlapping semantic units (OSUs) -- groups of related steps in which one step may belong to several units -- help retrieval over flat or disjoint alternatives? We instantiate this in OSU-Mem, which retrieves from an overlapping OSU pool via budgeted coarse-to-fine expansion, and show its benefit is conditional: overlapping memory helps when the evidence steps a query needs share tool calls or entities, but hurts when those steps are fully heterogeneous and share neither. On a synthetic benchmark where evidence carries such shared structure by construction, OSU-Mem improves over the strongest baseline as the theory predicts; yet on a concatenated, constructed unaugmented $τ$-bench setting its aggregate advantage over flat retrieval vanishes. Splitting queries by whether their evidence shares tools and entities shows this near-tie to be an artifact of mixing query types rather than a property of either method, and ToolBench, a controlled probe built to carry shared structure by design, corroborates the same mechanism via an overlap-vs.-disjoint construction contrast (under a coverage-guided variant), isolating the construction principle rather than validating the full default system. Because the relevant sharing is cheaply estimable from metadata, the analysis yields a metadata-based heuristic for predicting when overlap is likely to improve retrieval. We deliberately isolate the retrieval layer, assessed by retrieval quality and an LLM-mediated evidence-selection stage.

arXiv:2606.27472v1cs.CL

Supersede: LLM 에이전트의 메모리 업데이트 격차 진단 및 학습

Supersede: Diagnosing and Training the Memory-Update Gap in LLM Agents

LLM 에이전트가 다중 세션 대화에서 갱신된 사실을 이전 값 대신 현재 값으로 올바르게 유지하는 능력, 즉 supersession 능력이 경계 메모리(bounded memory) 조건에서 심각하게 저하되며(gpt-5.4 기준 92%→77%), 더 큰 모델이나 더 많은 메모리로도 이 격차가 좁혀지지 않음을 실제 대화 데이터로 입증했다. 저자들은 이 측정을 학습 신호로 전환하는 강화학습 환경 Supersede를 공개하고, Qwen2.5-3B를 GRPO로 미세조정하여 held-out supersession 정확도를 9.0%에서 16.7%로 거의 두 배 향상시키는 데 성공했다.

arXiv:2606.26511v1cs.CL

검색 메모리의 시간적 유효성: 진화하는 지식 환경에서 AI 에이전트의 구식 사실 오류 제거

Temporal Validity in Retrieval Memory: Eliminating Stale-Fact Errors for AI Agents over Evolving Knowledge

RAG는 사실이 바뀌어도 임베딩 유사도만으로 구식 값과 현재 값을 구분하지 못해 대체된 사실을 15–40% 비율로 반환하는 구조적 한계가 있으며, 코사인 유사도로는 모순과 중복을 거의 구분할 수 없다(AUROC 0.59). MemStrata는 (subject, relation, object) 대체 규칙과 이중 시간 원장으로 구식 사실을 폐기해 진화하는 지식에서 0.95–1.00 정확도와 구식 사실 오류율 ~0%를 달성하고, LLM 재순위화 대비 검색 지연은 약 2.1초 수준이다.

arXiv:2604.15877v2cs.AI

경험 압축 스펙트럼: LLM 에이전트에서 메모리, 스킬, 규칙의 통합

Experience Compression Spectrum: Unifying Memory, Skills, and Rules in LLM Agents

장기·다중 세션 LLM 에이전트에서 축적된 경험 관리 병목을 다루기 위해, 상호작용 추적에서 재사용 가능한 지식을 추출하는 에이전트 메모리와 스킬 발견 연구를 에피소드 메모리(5–20×)부터 서술적 규칙(1,000×+)까지 압축률이 증가하는 단일 축인 Experience Compression Spectrum(경험 압축 스펙트럼)으로 통합하는 프레임워크를 제안한다. 20개 이상 시스템을 이 스펙트럼에 매핑한 결과 모두 고정된 압축 수준에서만 동작하고 적응적 교차 수준 압축(missing diagonal)을 지원하는 시스템은 없으며, 두 커뮤니티 간 교차 인용률은 1% 미만으로 나타났다.

arXiv:2606.25115v1cs.LG

Forget to Improve: On-Device LLM-Agent Continual Learning via Budget-Curated Memory

온디바이스 LLM 에이전트의 경험 메모리는 RAM·에너지·업링크 제약과 쓰기 가능한 공격 표면 아래에서, 가중치 갱신 없이 축적·검색으로 적응한다. CURATOR는 바이트당 순가치(가치−해로) 하나로 KEEP·SHARE·TRUST를 통합해 Jetson 로봇 테스트베드와 태스크 드리프트 벤치마크에서 메모리 2.7배·업링크 2.4배를 줄이고 주입 성공률을 0.75에서 0으로 낮추며, 오염·노후 메모리로 손상된 케이스 정확도를 회복한다.

arXiv:2606.24775v1cs.CL

Are We Ready For An Agent-Native Memory System?

대규모 언어 모델(LLM) 에이전트 메모리를 데이터 관리 관점에서 표현·저장, 추출, 검색·라우팅, 유지보수 네 모듈로 분해하는 분석 프레임워크를 제안하고, 11개 데이터셋과 5개 벤치마크 워크로드에서 12개 대표 메모리 시스템을 체계적으로 평가했다. 단일 아키텍처가 모든 시나리오에서 우세하지 않으며 메모리 구조가 워크로드 병목과 얼마나 맞는지가 효과를 좌우하고, 국소 유지보수가 전역 재구조화보다 비용 대비 효율적이라는 점을 세밀한 ablation으로 확인했다.

arXiv:2606.24151v1cs.CL

Metis: Bridging Text and Code Memory for Self-Evolving Agents

자기 진화(self-evolving) 에이전트의 경험을 텍스트 메모리와 코드 메모리로 나눠 비교한 통제 실험에서 두 표현은 구축 비용, 실행 효율, 전이 안정성 측면에서 상호 보완적이며 어느 하나만으로는 부족함을 확인했다. 이에 Metis는 텍스트 경험을 실행 계획, 환경 사실, 흔한 함정으로 구조화하고 반복되는 계획만 검증된 호출 가능 도구로 선택적으로 결정화하는 계층적 이중 표현 메모리를 제안하며, AppWorld 벤치마크에서 ReAct 대비 작업 정확도를 최대 20.6% 높이고 실행 비용을 최대 22.8% 줄였다.

arXiv:2605.30711v2cs.CL

SAGE: 에이전트 LLM의 효율적 메모리 진화를 위한 신규성 게이트

SAGE: A Novelty Gate for Efficient Memory Evolution in Agentic LLMs

에이전트 LLM의 메모리 쓰기 제어를 신규성 탐지(novelty detection)로 재구성한 SAGE는 메모리 임베딩(embedding)에 대한 von Mises-Fisher 밀도 추정과 적응형 임계값으로 신규 사실은 추가, 중복 사실은 무시하고 불확실한 경우만 LLM 병합 단계로 보내 쓰기 시점 추론 비용을 줄인다. LoCoMo에서 Mem0 대비 7개 오픈 가중치 백본 모두 평균 token-F1이 최고였고, GPT-4o-mini에서는 추가 단계 API 비용과 지연시간을 각각 3.4배·2.5배 줄였으며 A-Mem에 드롭인 적용 시 LLM 호출의 약 16-18%를 건너뛰면서 품질 변화는 미미했다.

arXiv:2606.22844v1cs.AI

RaMem: 장기 에이전틱 메모리를 위한 문맥적 재현

RaMem: Contextual Reinstatement for Long-term Agentic Memory

장기 메모리는 장기간의 상호작용과 변화하는 태스크 맥락에서 동작하는 대규모 언어 모델(LLM) 에이전트에게 점점 더 중요해지고 있다. 최근의 메모리 시스템은 과거 경험을 더 지속적이고, 간결하며, 검색 가능하게 만들었지만, 검색만으로는 메모리가 현재 쿼리에 대한 유효한 증거를 제공한다고 보장할 수 없다. 경험이 재사용 가능한 단편으로 압축될 때, 반복적으로 등장하는 개체나 사용자 상태를 포함하는 경우 서로 다른 상황의 메모리가 동등하게 관련성이 있어 보일 수 있다. 우리는 이러한 실패를 문맥 붕괴(context collapse)라고 부른다: 메모리가 현재 쿼리에 유효한 증거를 제공하는지 판단하는 데 필요한 주변 맥락을 잃게 되는 현상이다. 이 문제를 해결하기 위해, 우리는 검색된 메모리 단편을 맥락적으로 검증 가능한 증거로 변환하는 프레임워크인 에이전틱 메모리를 위한 문맥적 재현(RaMem, Contextual Reinstatement for Agentic Memory)을 제안한다. RaMem은 네 가지 조율된 단계를 통해 동작한다: (i) 증거 앵커링(evidence anchoring)은 각 메모리를 원래의 에피소딕 조건, 특히 이벤트 시간, 언급 시간, 세션 범위 및 참여자에 기반하여 고정시키고; (ii) 회상 조건 유도(recall condition induction)는 쿼리가 내포하는 증거 조건을 도출하며; (iii) 유효성 인식 검색(validity-aware retrieval)은 이러한 조건을 사용하여 맥락 호환 메모리를 우선시하는 동시에 내용 관련 후보를 대체 증거로 보유하며; (iv) 맥락 보존 합성(context-preserved synthesis)은 선택된 메모리의 구조화된 맥락을 생성기(generator)가 활용할 수 있도록 유지한다. 장기 메모리 벤치마크에 대한 실험 결과, RaMem은 여러 백본(backbone)에 걸쳐 평균 F1 점수를 10% 이상 향상시키며 강력한 메모리 베이스라인 대비 지속적으로 성능을 개선함을 보여준다.

arXiv:2606.20625v1cs.AI

AlphaMemo: 자기 진화 알파 마이닝 에이전트를 위한 구조화된 검색-과정 메모리

AlphaMemo: Structured Search-Process Memory for Self-Evolving Alpha Mining Agents

대규모 언어 모델(LLM) 에이전트는 금융 사전 지식, 기호 추론, 실행 가능한 팩터 생성, 피드백 기반 정제를 결합함으로써 알파 마이닝에 유망하다. 그러나 조합적 검색 공간, 노이즈가 있는 비정상성 피드백, 중복 발견, 과거 성공을 단순히 재사용할 때의 과적합 위험 등의 문제에 직면한다. 이를 해결하기 위해 우리는 구조화된 검색-과정 메모리(Structured Search-Process Memory)를 갖춘 자기 진화형 알파 마이닝 에이전트 AlphaMemo를 제안한다. AlphaMemo는 최종 팩터나 전체 궤적만 기억하는 대신, 특정 부모 팩터(parent-factor) 맥락에서 어떤 편집 모티프(edit motif)가 성공하거나 실패하는지에 대한 재사용 가능한 증거를 기록한다. 추상 구문 트리(AST) 차이에서 모티프를 추출하고, 검색 원장(search-ledger) 사전 분포 위에 신뢰도 게이팅(confidence-gated) 잔차 메모리를 적용하며, 비대칭 거부(veto) 제어를 통해 높은 신뢰도의 실패 패턴을 억제한다. CSI 500과 S&P 500에서의 실험은 샘플 외(out-of-sample) 성능과 고정 예산(fixed-budget) 발견 효율이 향상되었음을 보여주며, ablation을 통해 잔차 학습(residual learning), 신뢰도 게이팅, AST-diff 모티프, 거부 메모리(veto memory)의 역할이 검증되었다. 코드는 https://github.com/jarrettyu/AlphaMemo 에 있다.

arXiv:2606.18746v1cs.AI

일반화 에이전트는 무엇을 기억해야 하는가?

What Must Generalist Agents Remember?

여러 환경과 목표에서 거의 최적으로 행동하는 일반화 에이전트(generalist agent)가 메모리에 무엇을 저장해야 하는지 형식적으로 분석하며, 관찰 병목(observational bottleneck)에서 호환되지 않는 최적 행동이 필요한 도메인은 메모리가 이를 구분해야 한다는 분리 정리(separation theorem)를 보인다. 메모리가 관련 목표의 가치를 추정할 만큼 충분한 정보를 담으면 국소 전이 역학(local transition dynamics)을 대략적으로 재구성할 수 있어, 메모리는 도메인 모호성 제거, 전이 모델 재구성, 계획을 지원하는 기반으로 특성화된다.

arXiv:2606.17628v1cs.CL

OPD-Evolver: 온-정책 증류를 통한 포괄적 에이전트 진화기 육성

OPD-Evolver: Cultivating Holistic Agent Evolver via On-Policy Distillation

메모리는 자기 진화 에이전트의 표준 기반이 되었지만, 경험을 보존하는 것과 그 경험을 통해 진화하는 방법을 학습하는 것은 동일하지 않다. 기존 메모리 에이전트는 궤적을 저장하고, 반성을 검색하거나, 기술을 축적할 수 있지만, 유용한 경험을 선택하고 이를 행동에 옮기며, 재사용 가능한 지식을 작성하고, 성장하는 저장소를 유지하는 포괄적 역량이 종종 부족하다. 우리는 온-정책 자기 증류를 통해 그러한 에이전트 진화기를 육성하는 슬로-패스트 공진화 프레임워크인 OPD-Evolver를 제안한다. 패스트 루프에서 OPD-Evolver는 4단계 메모리 계층과 상호작용하여 경험을 읽고, 사용하고, 작성하고, 유지함으로써 신속한 테스트 시점 진화를 수행한다. 슬로 루프에서는 결과 교정 메모리 귀속과 특권적 후견이 이 네 가지 능력을 배포 가능한 정책으로 증류한다. 다중 도메인 벤치마크에서 OPD-Evolver는 ReasoningBank와 같은 메모리 시스템을 최대 11.5% 능가하고, Skill0와 같은 학습 기반 방법을 약 5.8% 능가한다. 추가 분석에 따르면 OPD-Evolver는 고가치 경험과 메모리 관리를 내재화하여, OPD-Evolver-9B가 Qwen3.5-397B-A17B 및 Step-3.5-Flash와 같은 거대 모델에 맞설 수 있게 하며, 메모리 증강 에이전트를 넘어 진정으로 자격을 갖춘 에이전트 진화기를 향함을 시사한다.

arXiv:2606.15903v2cs.CL

제어 평면 배치가 망각을 좌우한다: 13가지 시스템 구성에 걸친 에이전트 메모리 아키텍처 연구

Control-Plane Placement Shapes Forgetting: An Architectural Study of Agent Memory Across Thirteen System Configurations

에이전트 메모리 파이프라인에서 LLM이 어디에 위치하는지—저장된 사실을 검색하는 회상 평면(recall plane; 광범위하게 벤치마크됨)과 supersede, release, purge를 통해 이를 변이하는 제어 평면(control plane; 대체로 미검증) 사이—가 시스템이 복구하는 망각 실패 모드를 형성한다. 385건의 적대적 표면에서 13가지 시스템 구성을 비교한 결과, 부분적으로 상보적인 커버리지를 갖는 세 가지 배치 체계를 관찰했다: 결정론적 원시 연산은 어휘/시간 범주에는 충분하나 정규화(canonicalization)에는 실패한다(식별자 난독화에서 5%, 교차 언어에서 0%); 기록 시점(inscribe-time) LLM은 정규화를 복구한다(100%)하지만 의도 인식 삭제(intent-aware deletion)에는 도움이 되지 않는다(접두 문맥 충돌 및 복합 사실에서 0%); 변이 시점(mutation-time) 훅은 의도 인식 삭제를 복구한다(78-85%)하고 거의 모든 범주를 동시에 향상시킨다(전체 91.7-93.2%, 385건 실행당 $0.17, 건당 변이 지연 2.3초 vs. 결정론적 64-191ms/건, 회상 경로는 변경 없음). ForgetEval을 통해 이러한 트레이드오프를 드러낸다. ForgetEval은 결정론적 부분 문자열 매칭으로 채점하는 1000건 템플릿 기반 스위트와 385건 적대적 계층(수작업 132건 + LLM 초안·오라클 검증 253건)으로 구성되며, 정직한 N/A 채점을 갖춘 6-방법 Adapter Protocol과 짝을 이루어 130줄로 이질적 메모리 저장소가 참여할 수 있게 한다. 평가 사례 채택은 10명 어노테이터 간 일치도(IAA; Fleiss' kappa = 0.958)와 77건 외부 작성 부분집합(블라인드 기여자 4명)으로 뒷받침되며, 후자는 정규화 비대칭을 재현하고 공동 배치 향상(+27.8pt)을 증폭한다. 프로덕션 실패는 회상 실패보다 망각 실패가 지배적이나, 기존 벤치마크는 회상만 측정한다. ForgetEval과 모든 어댑터는 MIT 라이선스로 공개된다.

arXiv:2606.07909v2cs.AI

MemToolAgent: 환경 및 사용자 피드백을 기반으로 도구 사용 에이전트를 위한 메모리 활용

MemToolAgent: Leveraging Memory for Tool Using Agents Based on Environment and User Feedback

MemToolAgent는 환경 및 사용자 피드백을 기반으로 과거 경험을 구조화된 메모리로 저장하고 동적으로 검색하여 LLM 에이전트의 도구 사용 능력을 향상시키는 프레임워크다. 이 방법은 LLM 파인튜닝 없이도 WorkBench, NESTFUL, PEToolBench 벤치마크에서 각각 29%, 80%, 17%의 상대적 성능 향상을 달성했다.

arXiv:2606.11680v1cs.AI

정리 후 검색: 효율적인 에이전트를 위한 계층적 메모리 탐색

Organize then Retrieve: Hierarchical Memory Navigation for Efficient Agents

대규모 언어 모델(LLM) 에이전트의 장기 과제 수행 시 컨텍스트 과부하로 인한 추론 저하 문제를 해결하기 위해, 경험을 계층적 구조로 정리하고 강화학습으로 학습된 가벼운 에이전트가 최소한의 충분한 컨텍스트를 탐색하여 검색하는 HORMA를 제안한다. 해당 방법은 ALFWorld 및 LongMemEval 등의 벤치마크에서 제한된 컨텍스트 예산 하에서 성능을 향상시키며, 기존 대비 최대 22.17% 수준의 토큰만을 사용하여 효율성을 크게 개선했다.

arXiv:2606.06787v1cs.AI

AdMem: 과제 해결 에이전트를 위한 고급 메모리

AdMem: Advanced Memory for Task-solving Agents

대규모 언어 모델(LLM)은 도구를 사용하는 에이전트로서 유망한 가능성을 보이지만, 지식을 기억하고 조직하며 재사용해야 하는 장기(long-horizon) 과제에서는 여전히 한계가 있다. 기존 메모리 접근법은 이러한 상황을 해결하려 하지만, 주로 사실적 정보 저장에 초점을 맞춘다. 절차 기억(procedural memory)에 대한 최근 연구는 과제 재사용을 개선하지만, 종종 실패 사례나 온라인 확장성을 다루지 않고 과거 성공을 재생하는 수준에 그친다. 우리는 단기 및 장기 저장소를 결합한 이중 수준 설계에서 의미 기억(semantic memory), 일화 기억(episodic memory), 절차 기억을 통합하는 통합적이고 자동화된 메모리 프레임워크를 제안한다. 액터, 메모리, 비평가(critic) 에이전트를 갖춘 다중 에이전트 아키텍처는 자동 메모리 생성, 보상 주석, 적응적 검색을 가능하게 한다. 장기 기억은 보상 기반 평가, 병합, 가지치기를 통해 관리되어 확장성과 지속적 개선을 보장한다. 다양한 환경에서의 실험은 우리 접근법이 기존 베이스라인 대비 장기 다중 턴 과제에서 견고성과 성공률을 향상시킴을 보여준다. 이 연구는 LLM 기반 에이전트 발전을 위해 포괄적이고 적응적인 메모리의 중요성을 강조한다.