PyTorchKR Papers

최신 논문

총 77편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02897v2cs.AI

쓰기 시점의 해석: 다중 목표 에이전트 메모리를 위한 정책 제거 연구

Interpreting at Write Time: A Policy Ablation for Multi-Goal Agent Memory

A long-running assistant cannot keep everything it has seen, so it summarises. Summarising is not neutral: what is kept depends on what the record is for, and the choice is made once, before anyone knows which of the user's goals will ask. We ask what a memory should summarise for when it serves several standing goals at once. Three write policies answer differently: summarise with no goal in view, write one summary covering every goal, or write one summary per goal and read them together. We compare them with five models, two short event streams and one LLM judge, holding the read step fixed. Answers from different goal stores overlap less than answers from one store on two runs, so the goals do pull apart. Per-goal summaries read together scored highest. They beat the all-goal summary on relevance, completeness and accuracy, but the neutral one only on relevance and completeness, and at matched answer length only on relevance. The all-goal summary scored below the neutral one, which had a quarter of its budget. A single goal store served its own goal's queries better than the other goal stores, but not better than the neutral summary.

arXiv:2604.16548v5cs.CR

LLM 에이전트의 장기 기억 보안에 관한 서베이: 메모리 라이프사이클 전반에 걸친 공격, 방어 및 거버넌스

A Survey on Long-Term Memory Security in LLM Agents: Attacks, Defenses, and Governance Across the Memory Lifecycle

The emergence of writable, cross-session persistent memory in LLM agents introduces a qualitatively different threat landscape from conventional input-centric security concerns, characterized by three properties: persistence, statefulness, and propagation. To systematically characterize this landscape, we propose a Memory Lifecycle Framework that organizes attacks, defenses, and their cross-phase dependencies along two axes: six lifecycle phases (Write, Store, Retrieve, Execute, Share & Propagate, Forget & Rollback) and four security objectives (Integrity, Confidentiality, Availability, Governance). This analysis in turn exposes the need for explicit security requirements at the system level, motivating Verifiable Memory Governance (VMG), a framework of five architectural primitives for specifying and evaluating auditable, recoverable control over memory state within declared system and threat-model boundaries. Our analysis motivates integrating provenance, versioning, and policy-aware retention with retrieval and execution defenses to support auditable prevention, containment, and recovery across the lifecycle.

arXiv:2610.10778v1cs.LG

MemoWM: 월드 모델이 에이전트가 기억해야 할 대상을 어떻게 변화시키는가

MemoWM: How World Models Change What Agents Need to Remember

장기 에이전트(agent)는 경험이 축적됨에 따라 증가하는 스토리지 요구량 문제에 직면합니다. 월드 모델(world model)은 각 경험마다 저장해야 하는 정보량을 줄일 수 있는 재사용 가능한 규칙성을 포착합니다. 본 논문에서는 월드 모델에 조건화된 메모리 할당 문제를 공식화하고, 공유된 예측을 활용하여 보존되는 정보를 압축하고 생략된 콘텐츠를 재구성하는 프레임워크인 MemoWM을 제안합니다. MemoWM의 작업 인식(task-aware) 할당 규칙은 재구성 오류의 예상 영향과 스토리지 비용 간의 균형을 맞추어, 예측 사전 확률(predictive prior)을 넘어서는 다운스트림 가치를 지닌 정보를 보존합니다. 5개의 장기 에이전트 메모리 벤치마크(benchmark)에서 MemoWM은 평균 42.42%의 정답 정확도를 달성하여 가장 강력한 기준선(baseline)을 2.62% 포인트 앞섰으며, 스토리지 효율성이 가장 높은 기준선인 MIRIX 대비 평균 경험별 스토리지 사용량을 53.9% 줄였습니다. 추가 분석에 따르면 더 강력한 월드 모델일수록 유사한 작업 품질에서 경험당 스토리지 요구량을 감소시키는 것으로 나타났습니다. 모델 파라미터를 고려했을 때 공유 모델 용량과 반복적인 스토리지 비용 사이의 절충 관계가 드러나며, 더 많은 상호작용이 유지될수록 전체 스토리지를 최소화하는 용량 또한 증가합니다. 코드는 https://github.com/Feld-maxiu/MemoWM 에서 확인할 수 있습니다.

arXiv:2610.04838v2cs.AI

MemTrace: 장기 코딩 에이전트를 위한 상태 일관적 메모리

MemTrace: State-Consistent Memory for Long-Horizon Coding Agents

코딩 에이전트(agent)가 여러 파일과 단계에 걸친 장기 소프트웨어 발전 작업을 수행함에 따라, 길어진 실행 궤적은 두 가지 연계된 문제를 야기합니다. (1) 누적된 이력으로 인해 컨텍스트 예산에 부담이 가중되고, (2) 저장소의 변경 사항으로 인해 이전 실행 근거의 유효성이 상실될 수 있습니다. 기존 접근 방식은 더 큰 컨텍스트 윈도우(context window), 압축, 검색 또는 저장소 표현과 같은 기법을 통해 이러한 문제를 해결하지만, 컨텍스트 갱신 후 일관된 작업 상태를 재구성하지 못하거나 회상된 근거가 여전히 유효한지 검증하지 못하는 경우가 많습니다. 이에 따라 본 논문에서는 실행 이력을 보존하고 변화하는 작업(예: 반복적인 파일 간 수정) 및 저장소 상태와 이력의 재사용을 정렬하는 출처 인식 메모리 시스템인 MemTrace를 제안합니다. MemTrace는 이력을 주요 정보(예: 파일, 심볼, 테스트)에 고정된 불변의 Memory Trace로 저장하며, 이들의 실행 순서와 의존성을 Memory Trace Graph로 구조화합니다. 컨텍스트가 제한될 때 작업 메모리는 컴팩트한 Memory Anchor만 유지하며, 에이전트는 이를 통해 최신 실행 상태를 재구성하고 다음 행동과 관련된 근거를 찾을 수 있습니다. 과거 근거를 복원하기 전에 MemTrace는 현재 저장소 상태에 대해 유효성을 검사하고 다음 행동에 필요한 정보만을 검색합니다. 세 가지 상호보완적인 장기 코딩 벤치마크(benchmark) 전반에서, MemTrace는 동일한 백본 및 하네스 조건 하에 완전히 평가된 모든 베이스라인을 일관되게 능가하여 Codex CLI 환경에서 DeepSWE pass@1을 21.2포인트, SWE-EVO 해결률(Resolved Rate)을 4.4포인트, SWE-Milestone 점수를 17.8포인트 향상시켰습니다.

arXiv:2609.34565v2cs.AI

FlowState: 장기 작업 대규모 언어 모델(LLM) 에이전트를 위한 메모리로서의 실행 상태

FlowState: Execution State as Memory for Long-Horizon LLM Agents

장기 작업(long-horizon tasks)을 수행하려면 대규모 언어 모델(LLM) 에이전트가 이전 상호작용의 정보를 지속적으로 활용해야 합니다. 그러나 전체 히스토리를 유지하면 컨텍스트 비용이 증가하는 반면, 이를 압축하면 나중에 필요한 세부 정보를 잃을 위험이 있으며, 과거 정보의 관련성은 작업이 진행됨에 따라 분명해지는 경우가 많습니다. 이러한 문제를 해결하기 위해, 요청 전반에 걸쳐 유지 및 재방문할 수 있는 메모리로 실행 상태를 다루어 현재의 의사결정과 과거 정보의 재사용을 통합하는 FlowState를 제안합니다. FlowState는 의미론적 유형이 지정된 상태 노드, 이들의 관계, 원시 도구 관측치에 대한 참조를 보존하여 지속적인 유지와 온디맨드 접근을 분리합니다. 단일 실행 루프 내에서 증분 상태 업데이트(ISU)는 새로운 입력과 피드백을 기반으로 현재 상태를 유지하고, 점진적 상태 접근(PSA)은 추론 중에 필요에 따라 과거 상태와 뒷받침하는 근거를 점진적으로 드러냅니다. 이러한 메커니즘은 에이전트가 새로운 정보에 비추어 이전 결정을 재평가하고 후속 조치를 안내할 수 있도록 지원합니다. 동일한 DeepSeek-V4-Flash 모델을 사용하는 전체 컨텍스트 기준선과 비교했을 때, FlowState는 MemoryArena의 평균 성공률과 $τ^3$-Bench의 평균 통과율을 각각 4.55%p 및 13.95%p 향상시키는 동시에 전체 토큰 소비량을 43.2% 및 40.6% 줄였습니다. 이러한 결과는 장기 작업에서 FlowState의 성능 및 효율성 이점을 입증합니다.

arXiv:2607.23693v2cs.AI

전역적으로 계산하고 국소적으로 구체화하기: 희소 이벤트-KV의 메모리 계약

Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV

장기 호라이즌(long-horizon) 에이전트는 점점 더 KV 캐시를 메모리로 재사용하고 있으며, 서빙 시스템은 캐시된 항목의 일부만 유지하고 나머지는 제거(eviction)합니다. 따라서 축출 및 에피소드 메모리 방식은 거의 직접 검증되지 않은 전제, 즉 이벤트를 생성한 관측(observation)이 사라진 뒤에도 보존된 이벤트가 여전히 유용한 정보를 담고 있다는 전제에 의존합니다. 우리는 다른 조건이 동일한 에이전트 이력에서 서빙되는 내용 중 이전 관측 하나를 생략함으로써 이를 직접 검증합니다. 해당 관측에 민감한 항목들 중에서, 서빙된 텍스트 구간(span)에 어떤 값이 올바른지 명시되어 있지 않음에도 답은 압도적으로 생략된 값을 따릅니다. 우리는 이를 의미론적 구체화(semantic materialization)라고 부릅니다. 즉, 하류(downstream) 이벤트의 캐시된 행들이 입력이 사라진 계산에 대해 독립적으로 서빙 가능한 뷰(view) 역할을 하는 것입니다. 이는 의도적으로 작성될 수도 있습니다. 의도적으로 표현된 무정답(answer-free) 이벤트는 값을 전혀 언급하지 않고도 Qwen3-8B에서 기증자 정렬 복구(donor-aligned recovery)를 6%에서 51%로 향상시키는 반면, 장기 대화에서 자연스러운 언급을 수동적으로 수집하는 방식은 감지 가능한 이점을 보이지 못합니다. 이러한 행이 전달하는 정보는 구체적이고 제한적입니다. 간결한 상태(compact state)는 유지되지만 더 큰 페이로드는 무작위 확률 수준으로 감쇠하며, 특정 구조가 정보를 기록하는지 여부는 의미뿐만 아니라 표현 방식(phrasing)에 달려 있어 모델이 동등하게 이해하는 두 표현 간에도 큰 차이가 발생할 수 있습니다. 그 결과는 무엇을 기록할지, 어디에 도달할지, 소스가 사라진 후 무엇이 살아남는지를 규정하는 희소 이벤트-KV(sparse event-KV) 서빙을 위한 메모리 계약(memory contract)입니다. 캐시 축출을 수행하는 이들에게 따르는 당연한 귀결은, 소스 이벤트를 제거하고 정확도 손실이 관찰되지 않았다고 해서 그 소스가 불필요했음을 증명하는 것은 아니라는 점입니다.

arXiv:2605.11814v2cs.AI

MedMemoryBench: 개인화된 헬스케어 환경에서의 에이전트 메모리 벤치마킹

MedMemoryBench: Benchmarking Agent Memory in Personalized Healthcare

개인화된 헬스케어 에이전트(agent)의 대규모 배포에는 극도로 정밀하고 안전하며 장기적인 임상 추적이 가능한 메모리 메커니즘이 요구됩니다. 그러나 기존 벤치마크는 주로 일상적인 오픈 도메인 대화에 초점을 맞추고 있어, 실제 의료 응용 분야의 중대한 복잡성을 포착하지 못합니다. 수천만 명의 활성 사용자에게 서비스를 제공하는 업계 최고 수준의 건강 관리 에이전트의 엄격한 프로덕션 요구사항에 착안하여, 본 논문에서는 MedMemoryBench를 소개합니다. 저자들은 임상적 근거를 갖춘 합성 환자 아키타입(archetype)을 기반으로 고도로 사실적이며 장기적인 의료 궤적을 합성하는 인간-에이전트 협업 파이프라인을 개발했습니다. 이 과정을 통해 약 2,000개의 세션과 16,000회의 상호작용 턴(turn)으로 구성되고 전문가 검증을 거친 대규모 데이터셋(dataset)을 구축했습니다. 특히 MedMemoryBench는 프로덕션 환경에서의 동적 메모리 축적을 정밀하게 반영하는 '생성 중 평가(evaluate-while-constructing)' 스트리밍 평가 프로토콜을 선도적으로 도입하여 전통적인 정적 평가 방식에서 벗어났습니다. 또한, 지속적인 정보 유입이 검색 및 추론 강건성을 저하시키는 중대한 현상인 메모리 포화(memory saturation)를 공식화하고 체계적으로 조사합니다. 포괄적인 벤치마킹 결과, 특히 복잡한 의료 추론과 노이즈 복원력 측면에서 주류 아키텍처들의 심각한 병목 현상이 드러났습니다. MedMemoryBench는 이러한 근본적인 결함을 밝혀냄으로써 견고하고 프로덕션에 즉시 적용 가능한 의료 에이전트를 개발하기 위한 중요한 토대를 마련합니다.

arXiv:2610.02687v2cs.AI

컨텍스트와 메모리의 분리: 토큰 효율적인 테스트 시간 지속 학습을 위한 구조화된 메모리

Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning

대규모 언어 모델(LLM)은 에이전트가 도메인 특화 지식을 통합하고 경험을 통해 적응해야 하는 기업, 과학, 의료 분야의 애플리케이션에 점점 더 많이 배포되고 있습니다. 컨텍스트 엔지니어링은 추론(inference) 시점에 제공되는 지침, 전략, 근거를 통해 모델 동작을 개선함으로써 가중치(weight) 업데이트의 실용적인 대안을 제시합니다. 그러나 온라인에서 컨텍스트를 적응시키는 과정은 일반적으로 많은 비용이 드는 시행착오를 수반하며, 쿼리가 독립적으로 처리되는 경우가 많아 유용한 경험이 다음으로 이어지지 못합니다. 메모리 시스템은 상호작용 전반에 걸쳐 정보를 보존하여 이러한 한계를 해결하지만, 공유된 컨텍스트에 정보를 지속적으로 덧붙이는 방식은 컨텍스트가 확장됨에 따라 토큰(token) 비용 증가, 컨텍스트 윈도우(context window) 한계, 성능 저하 문제에 직면합니다. 본 논문에서는 컨텍스트 최적화(optimization)에 대한 통합된 정식화를 도입하고, 에이전트 메모리 시스템 업데이트가 모델의 컨텍스트에 대한 최적화 업데이트 절차로 해석될 수 있음을 보여줍니다. 이러한 관점은 메모리 설계와 그 효율성을 연구하기 위한 원칙적인 프레임워크를 제공하고자 합니다. 이어서 재사용 가능한 전략을 축적, 정제, 조직화하고 연결하는 경량 그래프 기반 메모리인 GraphMemory를 제안합니다. 각 쿼리에 대해 GraphMemory는 관련 서브그래프만을 검색하여, 모델에 전체 메모리를 노출하지 않고도 온라인 컨텍스트 적응을 가능하게 합니다. 제한된 검색 조건 하에서 검색되는 메모리의 양은 처리되는 예시 수가 증가하더라도 일정하게 유지됩니다. 실험 결과, GraphMemory는 베이스라인 대비 약 81~85% 적은 메모리 구축 토큰을 사용하면서도 경쟁력 있는 다운스트림 성능을 달성함을 보여줍니다.

arXiv:2606.05761v3cs.AI

SubtleMemory: 장기 실행 AI 에이전트의 세밀한 관계형 기억 식별을 위한 벤치마크

SubtleMemory: A Benchmark for Fine-Grained Relational Memory Discrimination in Long-Horizon AI Agents

OpenClaw와 같은 지속형 AI 어시스턴트는 장기적인 상호작용을 거치며 방대한 양의 연관 기억(memory)을 축적합니다. 이러한 기억이 늘어남에 따라 기억들은 서로를 강화하거나, 맥락에 따라 갈라지거나, 직접적으로 상충할 수 있으므로 올바른 지원을 제공하기 위해서는 개별적인 회상(recall)보다는 기억 간의 관계에 의존해야 합니다. 기존의 장기 기억 벤치마크는 에이전트가 다운스트림 태스크를 수행하는 동안 이러한 관계를 어떻게 보존하고 활용하는지 체계적으로 조사하지 못합니다. 이러한 격차를 해소하기 위해, 본 논문에서는 장기 실행 AI 에이전트의 세밀한(fine-grained) 관계형 기억 식별을 위한 벤치마크인 SubtleMemory를 소개합니다. SubtleMemory는 상호보완적이거나 미묘하거나 모순되는 관계를 구체화하는 변형들을 갖춘 관계 제어 잠재 의미 아티팩트를 구축하고, 이를 현실적인 사용자-에이전트 히스토리에 삽입하여 에이전트가 후속 쿼리 및 지시 사항 수행 시 분산된 관계 구조를 복원하도록 요구합니다. 이 벤치마크는 사용자 관련 및 비사용자 관련 쿼리를 아우르며, 1,090개의 관계 제어 기억 변형 세트에 기반한 10개의 긴 히스토리에 걸쳐 1,522개의 평가 인스턴스를 포함합니다. 6개의 독립형 기억 시스템, 자체 기억 모듈을 갖춘 2개의 Claw 스타일 에이전트, 플러그인 기억 모듈을 갖춘 3개의 Claw 스타일 에이전트를 평가한 결과, 현재 시스템들이 세밀한 관계형 기억 식별에 여전히 취약함을 발견했습니다. 나아가 기억 보존, 검색, 다운스트림 추론 단계 전반에 걸친 뚜렷한 역량 프로파일을 밝혀내는 진단 프로토콜을 제시합니다.

arXiv:2610.03020v1cs.AI

DyadMem: 에이전트와 사용자의 상호작용 방식을 평가하는 장기 기억 벤치마크

DyadMem: A Long-Term Memory Benchmark of How Agents Work with Users

장기 에이전트(agent)는 사용자에 대한 사실뿐만 아니라 공유된 히스토리가 발전함에 따라 특정 에이전트가 해당 사용자와 어떻게 상호작용해야 하는지도 기억해야 합니다. 기존 벤치마크는 주로 사용자의 사실 및 선호도나 여러 사용자 간에 재사용 가능한 경험만을 감독하여, 이러한 관계 특정적 에이전트 메모리를 암묵적인 상태로 남겨두었습니다. 또한, 대부분의 이전 연구는 긴 상호작용 기록에 대한 최종 답변 질의응답(QA)만으로 모델을 측정하므로 평가가 여전히 불완전하고 신뢰하기 어렵습니다. 이를 위해 본 논문에서는 새롭게 정의한 사용자 조건부 관계형 에이전트 메모리(URAM)와 함께 DyadMem을 소개합니다. DyadMem은 동일한 다중 세션 궤적을 따라 사용자 측 메모리와 URAM을 공동으로 주석 처리하여 6가지 메모리 범주를 구성합니다. 요약하자면, 본 벤치마크는 3,065개의 에피소드, 50,961개의 세션, 61,210개의 QA 인스턴스를 포함하며, 광범위한 세션 수준의 수집(Capture) 및 업데이트(Update) 골드 주석, 쿼리 수준의 리콜(Recall) 지원, 그리고 골드 메모리(Gold-Memory)와 전체 파이프라인(Full-Pipeline)이라는 두 가지 QA 설정을 제공합니다. 16개의 공개 가중치(weight) 모델과 4개의 독점 모델 전반에서 골드 메모리 QA는 일관되게 강력한 성능을 보였으나, 전체 파이프라인 QA는 급격히 하락했습니다. 이러한 격차는 본 연구의 세분화된 평가 설계를 명확히 뒷받침합니다. 또한, 여러 정량적 결과는 프론티어 대규모 언어 모델(LLM)에서도 낮은 수집 재현율(recall), 불완전한 검색(Recall), 안전하지 않은 삭제 문제가 발생함을 추가로 보여줍니다. 나아가 엄격한 실험을 수행하여 URAM의 효과를 검증했으며 20개 모델 모두에서 긍정적인 효과를 관찰했습니다. 요약하자면, DyadMem은 해당 분야의 발전을 위해 광범위한 주석 작업을 거친 이중 도메인, 전체 파이프라인 메모리 벤치마크입니다.

arXiv:2606.24595v3cs.CL

MemAudit: 숨겨진 사용자 상태 복구를 통한 장기 에이전트 메모리 감사

MemAudit: Auditing Long-Term Agent Memory via Hidden User-State Recovery

장기 메모리는 세션을 거치며 더 유능해지고, 상호작용을 통해 형성된 사용자에 대한 정확하고 진화하는 이해를 유지하는 LLM 에이전트를 약속한다. 그러나 실제로는 이러한 메모리가 이후 응답, 개인화 품질, 과제 성공과 같은 하류 행동을 통해 대부분 평가되며, 그 이해는 간접적으로만 검증되고 메모리 산출물 자체는 거의 감사되지 않는다. 우리는 장기 메모리를 대신 상호작용 후 감사 가능한 산출물로 평가해야 한다고 주장한다. 일반적인 지원 이후, 에이전트가 남긴 메모리로부터 어떤 구조화된 사용자 상태를 재구성할 수 있는가? 우리는 이 관점을 MEMPROBE에 구현한다. MEMPROBE는 메모리를 갖춘 에이전트가 각각 숨겨진 분류체계 기반 사용자 상태 뱅크를 지닌 시뮬레이션 사용자를 유출 제어된 과제 궤적에 걸쳐 지원한 뒤, 전체 저장소(full-store) 및 top-k 접근 모두에서 에이전트의 결과 메모리로부터 그 뱅크를 재구성하는 벤치마크이다. 효율적이고 확장 가능한 측정을 위해 합성 ground truth 위에 구축된 MEMPROBE는 사용자당 31개의 숨겨진 차원을 가진 50명의 시뮬레이션 사용자(복구 대상 1,550개)를 포괄하며 5개의 대표적 메모리 시스템을 시험한다. 최신 메모리 에이전트를 시험한 결과, 성공적인 지원과 복구 가능한 메모리는 서로 다른 역량으로 작동함을 확인한다. 과제 완료율은 메모리 없는 기준선에서도 거의 포화에 가깝지만, 범주 균형 복구는 중간 수준(약 0.6)을 유지하고 top-k 검색에서는 더 낮아진다. MEMPROBE는 메모리 복구를 직접 연구하는 최초의 벤치마크로, 시스템이 보유한 사용자 상태를 재구성하고 ground truth와 대조해 채점한다. 우리는 복구를 향후 메모리 에이전트가 최적화할 구체적 목표로 보고, MEMPROBE를 에이전트가 사용자를 기억하도록 학습되는 환경으로 나아가는 한 걸음으로 본다. 사용자를 더 오래 알수록 더 충실해지도록.

arXiv:2610.01787v1cs.AI

모든 경험이 가중치에 속하는 것은 아니다: 자기 개선형 GUI 에이전트를 위한 컴포넌트 라우팅

Not All Experience Belongs in the Weights: Component Routing for Self-Improving GUI Agents

자기 개선형 GUI 에이전트(agent)는 자신이 생성한 궤적을 보관한 후 미세조정(fine-tuning)을 거치거나 프롬프트(prompt)로 검색하여 에이전트에게 다시 전달하지만, 두 목적지를 비교하는 기존 연구들은 서로 일치하지 않는 결과를 보인다. 본 연구에서는 이러한 원인이 경험의 단위에 기인한다고 본다. 즉, 하나의 궤적은 서로 다른 특성을 가진 항목들을 한데 묶기 때문에, 해당 묶음에 대한 결론은 그 구성에 따라 달라진다. 이를 해결하기 위해, (i) 우리는 경험을 로케이터(locator), 절차(procedure), 상태 사실(state fact), 교훈(lesson)으로 분할하고 각 컴포넌트를 컨텍스트 또는 가중치로 보내는 컴포넌트 라우팅을 도입하며, 세 가지 백본 계열, 두 가지 환경, 세 가지 시드에 걸쳐 동일한 항목을 비교했다. 하나의 풀에는 두 목적지가 존재하는데, 로케이터와 교훈은 가중치에서 우세했고, 절차와 상태 사실은 컨텍스트에서 우세했다. (ii) 우리는 어떠한 학습(training)도 진행하기 전에 측정한 두 가지 속성인 재발생성(recurrence)과 상태 조건성(state-conditionality)을 바탕으로 규칙을 적합했다. 이 규칙은 24개 셀 중 24개에서 보류된(held-out) 백본 계열의 목적지를 정확히 찾아냈으며, 두 가지 개입을 통해 컴포넌트를 경계 방향으로 이동시켰고, 규칙 기반 라우팅은 모든 전체 궤적 기준선(baseline)을 능가했을 뿐만 아니라 각 백본의 더 우수한 단일 목적지보다 평균 +3.5점 높은 성능을 달성했다. (iii) 우리는 학습과 생성자-소비자 간 차이가 두 목적지의 가치를 어떻게 변화시키는지 규명했다. 동일한 컴포넌트가 가중치에 기록된 후에는 노트 판독이 감소하며 가장 자주 재발생하는 항목에서 이러한 감소가 가장 컸고, 컨텍스트 이득은 정보 격차에 따라 증가한 반면 가중치 이득은 정책 격차에 따라 감소했다. 코드와 데이터는 공개될 예정이다.

arXiv:2610.01195v1cs.AI

연합 에이전트 최적화

Federated Agent Optimization

대규모 언어 모델(LLM) 에이전트(agent)는 점차 비공개 환경에서 작동하며 작업 수행, 도구 사용, 피드백, 로컬 지식으로부터 가치 있는 경험을 축적하고 있습니다. 그러나 이러한 경험은 여러 조직에 분산되어 있으며 프라이버시 및 독점적 제약으로 인해 직접 공유될 수 없습니다. 에이전트의 역량이 모델(model) 파라미터를 넘어 메모리, 도구, 보상(reward), 기술 및 정형화된 지식으로 확장됨에 따라 기존의 연합학습(federated learning)은 이러한 환경에 불충분합니다. 본 논문에서는 원시 데이터, 완전한 궤적, 비공개 지식을 로컬에 유지하면서 통제된 정보 교환을 통해 분산된 에이전트들이 협력하여 개선할 수 있는 방법을 연구하는 연합 에이전트 최적화(Federated Agent Optimization, FAO)를 정식화합니다. 본 연구는 FAO를 에이전트 유용성, 프라이버시 유출, 통신 비용의 균형을 맞추는 다중 목적 최적화 문제로 정의하고, 정책, 메모리, 도구 사용, 보상, 정형화된 지식 및 기술 전반에 걸쳐 최적화 공간을 체계화합니다. 나아가 비공개 경험을 추상화, 보호, 집합 및 적응시켜 전이 가능한 역량으로 변환하는 방법을 구체화함으로써, 에이전트들이 직접적인 경험 공유 없이도 서로에게서 이점을 얻을 수 있는 통합된 관점을 제공합니다. 마지막으로 FAO의 주요 과제를 식별하고 신뢰할 수 있는 연합 에이전트 시스템을 향한 미래 연구의 유망한 방향들을 제시합니다.

arXiv:2610.00366v1cs.AI

에이전트는 무엇을 기억해야 하는가? 유한 메모리 평가에서 보존과 검색의 분리

What Should an Agent Remember? Disentangling Retention from Retrieval in Bounded-Memory Evaluation

영속적인(persistent) 에이전트는 정보가 유입될 때 무엇을 보존할지와 쿼리가 주어졌을 때 무엇을 표면화할지를 모두 결정해야 하지만, 기존의 메모리 평가는 보존과 선택 방식이 모두 서로 다른 방법들을 비교함으로써 이러한 결정들을 혼동시킬 수 있다. 본 연구에서는 보존 규칙과 선택 규칙을 교차 구성한 스트리밍 재현율(streaming-recall) 벤치마크를 구축하고, 동일한 300개의 시드 에피소드에서 모든 조건을 평가한다. 접근 가능한 범위를 고정했을 때, 쿼리 인식(query-aware) 선택은 필요한 사실에 대한 재현율을 15.5%p(95% CI: 12.8~18.2) 향상시키는 반면, 과거 이력 접근성까지 함께 변화시키는 혼합 비교에서는 68.7%p의 이점을 보고하며 이 중 53.2%p는 이력 접근성에 기인한다. 제한된 보존 조건에서 쿼리 인식, 밀집(dense), 오라클(oracle) 선택은 보존 상한선(retention ceiling)에 도달하며, 제한된 최신성(bounded recency) 조건에서 관찰된 319건의 실패는 모두 순위 지정(ranking) 오류가 아닌 축출(eviction)로 인해 발생한다. 목표 대상이 과거로 충분히 멀어짐에 따라 재현율은 0%로 떨어진다. SQuAD에서 평가를 반복해도 보존 상한선은 유지되면서 밀집 검색(dense retrieval)이 자연어 텍스트에서 어휘 검색(lexical retrieval)보다 우수한 성능을 보일 수 있음을 확인했다. 이러한 결과는 유한 메모리 평가 시 이력 접근성을 고정하고 보존과 선택을 분리하여 보고해야 함을 보여준다.

arXiv:2609.27067v1cs.LG

ChipMEM: EDA 에이전트를 위한 검증 기반 메모리

ChipMEM: Verification-Grounded Memory for EDA Agents

대규모 언어 모델(LLM) 기반 에이전트는 합성 및 검증 피드백 하에서 레지스터 전송 수준(RTL) 설계를 생성·수정하기 위해 전자 설계 자동화(EDA) 도구를 사용한다. 최근 방법들은 실행 추적에서 재사용 가능한 스킬을 지식 증류(distillation)하거나 EDA 도구에서 파생된 보상으로 학습하여 이 피드백으로부터 학습한다. 두 방법 모두 일반적으로 해당 경험을 생성한 태스크에서 평가된다. 동일 태스크에 대한 벤치마크 피드백에 반복적으로 접근하면 전이 가능한 재사용 지식을 만드는 것보다 태스크 특화 수정을 보상할 수 있다. 우리는 EDA 에이전트를 위한 검증 기반 메모리 층인 ChipMEM을 제안한다. ChipMEM은 태스크 간 절차적 메모리와 궤적 내 통계적 안내를 결합한다. 절차적 구성요소는 모델 자기 평가에 의존하지 않고, 합성·시뮬레이션 또는 형식(formal) 검사를 통과한 뒤에만 스킬을 증류하여 저장한다. 베이지안 구성요소는 도구 호출 결과에 대한 계층적 Beta 추정을 유지하고, 유사한 오류 조건에서 성공한 복구 전략을 순위화한다. 공통 어댑터는 각 도메인의 도구와 수용 기준을 보존하면서 동일한 메모리 인터페이스를 RTL 최적화 및 테스트벤치 생성 에이전트에 적용한다. 우리는 학습 태스크에서 성능을 측정하고, 학습된 스킬이 보지 못한 태스크로 전이되는지 평가한다. RTLRewriter-Bench에서 일치하는 모델·도구 설정 하에 ChipMEM은 메모리 없을 때 35/54 대비 채점된 54개 설계 중 39개에서 동등성 통과 출력을 낸다. 49개 설계 단축 스위트에서는 평균 면적(area) 개선이 5.66% 대비 8.69%이다. 보류(hold-out) CVDP 태스크에서 고정(frozen) 절차적 라이브러리를 사용한 ChipMEM은 설정당 단일 평가에서 메모리 없을 때 18/20 대비 20/20의 수용 결과를 달성한다.

arXiv:2609.27334v1cs.AI

적시 메모리: LLM 에이전트를 위한 과제 적응형 메모리 큐레이션 학습

Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents

에이전트형 메모리 시스템은 과거 경험을 재사용하여 이후 성능을 개선하지만, 기존 설계의 대부분은 쓰기 시점에 메모리를 큐레이션한다. 한 과제가 완료되면 그 실행 궤적은 반성, 워크플로, 스킬, 또는 추론 전략과 같은 고정된 산출물로 증류되어, 이후 유사도에 따라 검색된다. 이는 미래 질의가 알려지기 전에 무엇을 기억할 가치가 있는지 시스템이 결정하게 강제하며, 정보를 되돌릴 수 없이 버리고, 다양한 가능한 하위 과제를 모두 수용해야 하는 질의 독립적 요약을 만든다. 이러한 쓰기 시점 큐레이터를 학습하는 것 또한 어렵다. 저장 결정의 가치는 관련 질의가 도착했을 때, 잠재적으로 많은 과제 이후에야 드러날 수 있어 장기 지평 신용 할당(credit assignment) 문제를 야기하기 때문이다. 우리는 대신 원시 궤적을 보존하고, 현재 과제가 알려진 읽기 시점까지 큐레이션을 연기한다. 검색된 trace와 새 과제가 주어지면, 메모리 큐레이터가 즉각적 필요에 맞춘 간결하고 과제 적응형 페이로드를 합성한다. 이 페이로드는 동일 과제에서 소비되므로, 큐레이터는 지연된 유틸리티 신호 없이 즉각적인 과제 성공으로부터 직접 학습할 수 있으며, 관련 과제를 인위적으로 묶을 필요도 없다. ALFWorld, WebShop, $\tau^2$-bench에서 우리의 Just-in-Time Memory(JitMem)는 메모리 없는 에이전트뿐 아니라 휴리스틱 및 학습된 쓰기 시점 메모리 방법보다 일관되게 우수하며, 각각 가장 강한 기준선 대비 절대 성공률 16.2, 16.3, 3.9%p를 개선한다. 특히, 학습되지 않은 큐레이터만으로도 이미 이러한 기준선과 견줄 만하거나 이를 넘어서며, 과제 적응형 읽기 시점 큐레이션 자체가 이득의 주요 원천임을 보여준다. 큐레이터를 추가로 학습하면 개선이 더 누적된다.

arXiv:2609.27332v1cs.AI

발산하는 과제 증거와 안정적 기하를 활용한 효율적 장기 에이전트 압축

Stable Geometry with Divergent Task Evidence for Efficient Long-Horizon Agent Compression

장기 에이전트는 상호작용 기록이 누적되면서 컨텍스트와 추론 비용이 커진다. 기하학적 중복만으로는 안전한 압축의 기준이 되기에 불충분함을 확인했다. 에이전트 기록은 강한 저차원 구조를 보이지만, 유사한 전역 기하가 매우 다른 양의 과제 증거(task evidence)를 보존할 수 있다. 동일한 보존 블록 수에서 증거 인식(evidence-aware) 선택은 다음 행동 Top 3 보존률을 0.31에서 0.69로 높이는 반면, centroid 유사도는 0.98로 유지된다. 통제된 대체 실험은 전역 기하 측정치가 거의 변하지 않은 채 행동 관련 정보가 상당히 바뀔 수 있음을 추가로 보여준다. 기하와 증거 사이의 이러한 간극에 착안하여, 과제 및 실행 증거를 먼저 보호한 뒤 기하 잔차로 커버리지를 완성하는 학습 불필요(training-free) 압축기 Geometry Guided Evidence Preserving Memory(GEM)를 제안한다. GEM은 과제당 평균 결합 토큰 사용량을 2.69M에서 2.11M으로 줄여 21.4% 감소시키면서, 유사한 수준의 과제 보상을 유지한다. 결과는 효율적인 에이전트 기록 압축이 기하 커버리지만이 아니라 보존된 과제 증거를 최적화해야 함을 보여준다.

arXiv:2609.27279v1cs.AI

EnSIMem: 장기 에이전트 메모리를 위한 개체 구조화 색인

EnSIMem: Entity-Structured Indexing for Long-Term Agent Memory

오랜 기간 동안 사용자와 상호작용하는 에이전트는 지속적으로 증가하는 상호작용 기록에서 사실, 선호도, 사건 및 변화를 상기(recall)할 수 있어야 합니다. 기존 메모리 시스템은 상호작용을 일반적인 요약본으로 압축하거나 익명의 텍스트 청크를 검색하는 경우가 많아, 에이전트가 올바른 개체(entity), 속성(property) 및 뒷받침하는 근거를 식별하기 어렵게 만듭니다. 본 논문에서는 에이전트를 위한 개체 구조화 장기 메모리 아키텍처인 EnSIMem을 제안합니다. 오프라인 구축 단계에서 이 시스템은 상호작용을 주제 일관성을 갖는 에피소드로 구성하고, [개체][개체 유형][속성:값] 형태의 대화 기반 색인 항목을 생성합니다. 각 항목은 원래의 대화 턴(turn), 시간 정보 및 사용 가능한 멀티모달 필드를 보존합니다. 온라인 상호작용 단계에서는 에이전트의 요청이 메모리 색인과 속성이 정렬된 근거 요구사항으로 분해됩니다. 이후 개체-속성 조회 및 적응형 검색을 통해 포인트, 시간적, 구성적, 집계 추론에 필요한 근거를 수집합니다. 에이전트는 정보 손실이 있는 메모리 요약본 대신 보존된 원본 근거로부터 응답을 생성합니다. 장기 에이전트 메모리 벤치마크에서 EnSIMem은 간결한 컨텍스트와 우수한 온라인 효율성을 유지하면서도 높은 답변 정확도를 달성합니다. 이러한 결과는 개체 구조화 색인과 에피소드 수준의 출처 추적이 에이전트의 장기 메모리를 위한 신뢰할 수 있는 기반을 제공함을 보여줍니다. 모델의 코드는 https://github.com/RamonMeng/EnSIMem 에서 확인할 수 있습니다.

arXiv:2609.25130v1cs.CL

영향은 무효화가 아니다: diff가 아닌 주장(claim)에 대해 물어라

Impact Is Not Invalidation: Ask About the Claim, Not the Diff

코딩 에이전트(agent)의 메모리 시스템은 저장소가 변경될 때 저장된 주장(claim) 중 어떤 것이 거짓이 되었는지 판단해야 한다. 콘텐츠 앵커링(content anchoring)은 주장의 출처가 된 아티팩트가 변경될 때마다 해당 주장을 무효화하는데, 이는 끊임없이 발동한다. 의미적 동등성 분류(semantic-equivalence classification)는 diff가 동작을 보존하는지를 묻는데, 이는 저장된 어떤 주장에 대한 질문이 아니라 diff에 대한 질문이다. 우리는 두 번째 신호가 모델 성능과 무관한 이유로 실패함을 보인다. 커밋이 동작을 보존하는지 묻는 경우, 가격 차이가 40배에 달하는 다섯 개 모델은 실제 커밋의 59~72%에서 무효화를 발동하며, 기저 비율(base rate) 0.25 대비 0.291~0.329의 정밀도(precision)에 그친다. 반면 특정 주장 하나가 여전히 성립하는지를 물으면, 동일한 diff에서 동일한 모델들이 0.705~0.974의 정밀도에 도달한다. 동작 보존 판정기에 주장 텍스트를 제공하여 질문만 바꾸지 않은 통제 실험에서는 정밀도가 0.010과 0.016만큼 변했지만, 질문을 바꾸면 0.49와 0.65만큼 변한다. 또한 커버리지에서 도출한 의존성 데이터를 사용하는, 실제 배포된 회귀 테스트 선택기인 pytest-testmon과도 비교한다. 이 도구는 재현율(recall) 0.868, 정밀도 0.415를 달성하는데, 이는 변경이 도달할 수 있는 범위에 대해 거의 완전한 지식을 갖고 있어도 그 변경이 무엇을 거짓으로 만드는지는 식별하지 못함을 보여준다. 정답(ground truth)은 어노테이션이 아니라 실행이다. 주장은 커밋 t에서 통과하는 테스트 함수이며, 동일한 assertion 텍스트가 t+1에서 실패하면 뒤집힌(flipped) 것으로 간주한다. 이를 구축하기 위해서는 우리가 선행 연구에서 찾지 못한 관찰이 필요했다. CI로 게이트된 메인라인에서는 기존 테스트를 실패시키는 커밋이 병합될 수 없으므로, 단순한 구성 방식은 설계상 양성(positive) 클래스가 비어 있게 된다. 우리는 23개 Python 라이브러리에서 추출한 10,369개의 주장과 184개의 실행으로 검증된 뒤집힘(flip)을 보고하며, 저장소 단위로 분리한 홀드아웃 분할, 지식 컷오프 이후 분할, 셔플된 diff 귀무 실험(null), 패러프레이즈 통제 실험, 그리고 17개 저장소에 대한 leave-one-repository-out 분석을 함께 제시한다.

arXiv:2609.25054v1cs.CL

MoM: 메모리의 메모리

MoM: Memory of Memory

장기 과제를 수행하는 LLM 에이전트(agent)에게 메모리의 핵심 질문은 과거에 무엇이 기록되었는가가 아니라 \emph{현재 무엇이 유효한가}이다. 대부분의 설계는 이 질문에 간접적으로만 답한다. 모든 상호작용을 저장해 두고, 질의 시점에 기록을 검색하고 조정하여 현재 상태를 재구성하기 때문에, 오래된 값이 다시 유입되고 동일한 충돌이 반복해서 재논의된다. 쓰기 시점에 현재 값을 확정하면 이 문제를 피할 수 있지만, 기존의 쓰기 시점(CRUD) 메모리는 값을 덮어쓰기 때문에 잘못된 갱신을 되돌릴 수 없고 이전 상태도 사라진다. 우리는 이 빠져 있던 조합, 즉 \emph{도착 시점에 확정하되 밀려난 값은 보존한다}는 방식을 취하여 이를 \textsc{Memory of Memory}(MoM)로 형식화한다. MoM에서 메모리는 내용뿐 아니라 각 항목 자체의 출처(provenance), 상태, 이력까지 추적한다. 우리는 MoM을 \textsc{Provenant Memory}(P-Mem)로 구현하는데, 이는 타입이 지정된 출처 그래프(provenance graph)로서, \emph{활성 프런티어(active frontier)}가 해소된 각 키마다 하나의 현재 값을 제공하고 밀려난 값은 출처 정보로 보존한다. 타입이 지정된 연산은 새로운 관측이 기존 값을 지지(support), 대체(supersede), 이의 제기(contest), 기각(reject), 철회(revoke), 해소(resolve) 중 무엇에 해당하는지를 결정한다. P-Mem의 결정적인 이점은 정확도가 아니라 유효성(validity)이다. 턴 단위 읽기는 가장 강력한 검색 기반 메모리와 정확도가 동등하면서 읽기 토큰은 약 $\sim$4$\times$ 적으며, 이는 검색 단위(granularity) 효과이다. 또한 그래프 기반 턴 가지치기(pruning)는 지식 갱신에서 오래된 답변 비율을 낮춘다(19.4\%$\rightarrow$10.9\%). 수정 체인(revision chain)에서는 질의 시점 읽기 방식이 25\%로 무너지는 반면 P-Mem은 100\%를 유지하며, 밀려난 값을 덮어쓰지 않고 보존하기 때문에 CRUD 메모리가 복구하지 못하는 확정된 오류도 복구한다(100\% 대 0\%).