PyTorchKR Papers

최신 논문

총 7편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.20553v1cs.AI

CMI-Mem: CMI 증강 강화학습을 통한 일반화 가능한 장기 메모리 관리

CMI-Mem: Toward Generalizable Long-Term Memory Management via CMI-Augmented Reinforcement Learning

메모리 관리자 모델은 에이전트 시스템에서 핵심적이다. 기존 방법은 주로 LLM이 판단한 합성 질의응답(QA) 쌍에 의존하여, 메모리 가치 평가가 샘플링된 쿼리와 하위(downstream) 리더에 종속되게 만든다. 이 한계를 해결하기 위해, 우리는 하위 QA 정확도와 내재적 조건부 상호정보량(Conditional Mutual Information, CMI)을 결합한 하이브리드 보상을 갖춘 강화학습(RL) 기반 경량 메모리 관리자 모델인 CMI-Mem을 제안한다. CMI는 샘플링된 QA 쿼리에 조건을 걸지 않고, 현재 메모리 상태 대비 새로운 대화 입력이 기여하는 정보를 평가하므로, QA 그라운딩(grounding)을 대체하기보다 이를 보완한다. 코드는 https://github.com/Wyb0627/CMIMem 에서, CMI-Mem-4B 모델 체크포인트는 https://www.modelscope.cn/models/wyb0627/CMIMem-4B 에서 이용할 수 있다.

arXiv:2607.09686v1cs.LG

MawForge: 로컬 전문가 혼합 추론을 위한 메모리 제한 기반 전문가 구체화

MawForge: Memory-Bounded Expert Materialization for Local Mixture-of-Experts Inference

희소 전문가 혼합(MoE) 언어 모델은 전체 매개변수 수와 토큰당 활성 연산을 분리하지만, 로컬 추론 시스템은 전체 모델, 키-값 캐시, 런타임 버퍼, 운영체제 여유 공간 모두를 고속 메모리에 적재해야 하는 경우가 여전히 많다. MawForge는 다른 시스템 가설을 검증한다: 전체 모델을 디스크에 저장하고, 공통 텐서를 상주시키며, 라우팅된 전문가 텐서를 수요에 따라 제한된 실행 캐시에 구체화함으로써, 제한된 통합 메모리 머신에서 로컬 MoE 서빙을 실용적으로 만들 수 있다는 것이다. 핵심 발견은 MawForge가 로컬 MoE 추론을 위한 제한된 실행 메커니즘 및 측정 기반으로서는 효과적이지만, 캐시 최대화 정책으로서는 그렇지 않다는 것이다. 성능은 전문가 재사용과 상주 메모리 사용량, KV 캐시 크기, 양자화, 라우트 지역성, macOS 메모리 압력 간의 균형에 달려 있다.

arXiv:2607.05708v1cs.AI

Akashic: MemAttention을 활용한 저오버헤드 LLM 추론 서비스

Akashic: A Low-Overhead LLM Inference Service with MemAttention

LLM 기반 에이전트의 멀티턴 상호작용에서 누적되는 긴 컨텍스트 문제를 해결하기 위해, 컨텍스트를 고정 크기 청크로 구조화하고 청크 간 의미 관계를 모델링하는 MemAttention을 핵심으로 한 저오버헤드 메모리 시스템 Akashic을 제안한다. 하드웨어-소프트웨어 공동 설계 메모리 배치를 통해 검색 단편화와 I/O 오버헤드를 줄였으며, 4가지 벤치마크 실험에서 기존 메모리 베이스라인 대비 태스크 정확도 최대 10.2포인트, 처리량 최대 1.21배, 지속 가능한 요청 처리율 최대 1.88배 향상을 달성했다.

arXiv:2607.02574v1cs.DC

텐서 버퍼에서 분산 메모리 계층 구조까지: 대규모 언어 모델 서빙을 위한 KV 캐시 관리 서베이

From Tensor Buffer to Distributed Memory Hierarchy: A Survey of KV Cache Management for LLM Serving

키-값(KV) 캐시는 대규모 언어 모델(LLM) 서빙에서 요청별 임시 텐서가 아닌 최우선 메모리 객체로 자리잡았다. 본 서베이는 30개 이상의 KV 관리 시스템 및 프레임워크를 지역성(locality), 수명(lifetime), 소유권(ownership), 기반 자원(substrate)의 네 가지 축으로 분류한다. 이 축들은 로컬 페이징(local-paged), 비집계 파이프라인(disaggregated-pipeline), 공유 스토어(shared-store), 메모리 풀(memory-pool), 하이브리드 계층(hybrid-tier)의 다섯 가지 아키텍처 원형을 드러낸다. 워크로드와 하드웨어가 고정된 상황에서는 소유권이 분산 시스템 간 나머지 설계 분산의 상당 부분을 차지한다. 본 서베이는 또한 현행 평가를 검토하여 KV 특화 측정 지표 중 누락된 일곱 가지를 식별하고, 이를 내결함성(fault tolerance), 격리(isolation), 계층적 제거(tiered eviction), 추측 디코딩(speculative decoding), 전문가 혼합(MoE) 서빙, 공유 캐시 의미론(shared-cache semantics)의 미해결 문제들과 연결한다.

arXiv:2606.28434v1cs.SE

SWE-MeM: Learning Adaptive Memory Management for Long-Horizon Coding Agents

Long-horizon software engineering agents often need to manage lengthy and noisy interaction histories under limited context budgets. Existing memory management methods typically rely on static compression workflows or impose rigid constraints on compression timing and granularity. Moreover, these approaches fail to jointly optimize memory management and issue resolution capabilities to improve performance while reducing token usage. We present SWE-MeM, a training framework for proactive and on-demand memory management in software engineering agents. SWE-MeM provides a flexible memory tool that lets agents decide when, what, and how to compress based on trajectory state, task progress, and remaining context budget. We train agents with synthesized proactive memory-management trajectories and Memory-aware GRPO, which jointly optimizes memory management and issue resolution through memory-aware trajectory splitting and step-level credit assignment. On SWE-Bench Verified, SWE-MeM achieves 43.4% and 60.2% resolve rate with 4B and 30B models, respectively, outperforming existing memory management baselines in both performance and efficiency.

arXiv:2606.15903v2cs.CL

제어 평면 배치가 망각을 좌우한다: 13가지 시스템 구성에 걸친 에이전트 메모리 아키텍처 연구

Control-Plane Placement Shapes Forgetting: An Architectural Study of Agent Memory Across Thirteen System Configurations

에이전트 메모리 파이프라인에서 LLM이 어디에 위치하는지—저장된 사실을 검색하는 회상 평면(recall plane; 광범위하게 벤치마크됨)과 supersede, release, purge를 통해 이를 변이하는 제어 평면(control plane; 대체로 미검증) 사이—가 시스템이 복구하는 망각 실패 모드를 형성한다. 385건의 적대적 표면에서 13가지 시스템 구성을 비교한 결과, 부분적으로 상보적인 커버리지를 갖는 세 가지 배치 체계를 관찰했다: 결정론적 원시 연산은 어휘/시간 범주에는 충분하나 정규화(canonicalization)에는 실패한다(식별자 난독화에서 5%, 교차 언어에서 0%); 기록 시점(inscribe-time) LLM은 정규화를 복구한다(100%)하지만 의도 인식 삭제(intent-aware deletion)에는 도움이 되지 않는다(접두 문맥 충돌 및 복합 사실에서 0%); 변이 시점(mutation-time) 훅은 의도 인식 삭제를 복구한다(78-85%)하고 거의 모든 범주를 동시에 향상시킨다(전체 91.7-93.2%, 385건 실행당 $0.17, 건당 변이 지연 2.3초 vs. 결정론적 64-191ms/건, 회상 경로는 변경 없음). ForgetEval을 통해 이러한 트레이드오프를 드러낸다. ForgetEval은 결정론적 부분 문자열 매칭으로 채점하는 1000건 템플릿 기반 스위트와 385건 적대적 계층(수작업 132건 + LLM 초안·오라클 검증 253건)으로 구성되며, 정직한 N/A 채점을 갖춘 6-방법 Adapter Protocol과 짝을 이루어 130줄로 이질적 메모리 저장소가 참여할 수 있게 한다. 평가 사례 채택은 10명 어노테이터 간 일치도(IAA; Fleiss' kappa = 0.958)와 77건 외부 작성 부분집합(블라인드 기여자 4명)으로 뒷받침되며, 후자는 정규화 비대칭을 재현하고 공동 배치 향상(+27.8pt)을 증폭한다. 프로덕션 실패는 회상 실패보다 망각 실패가 지배적이나, 기존 벤치마크는 회상만 측정한다. ForgetEval과 모든 어댑터는 MIT 라이선스로 공개된다.

arXiv:2606.12945v1cs.AI

무엇을 기억할지 학습하기: 에이전트 기억을 위한 인지 심리학 기반 다중 요소 가치 모델

Learning What to Remember: A Cognitively Grounded Multi-Factor Value Model for Agentic Memory

LLM 에이전트의 장기 기억 관리 문제를 해결하기 위해 인지 심리학 기반의 7가지 요소를 결합한 다중 요소 가치 함수를 통해 무엇을 인코딩하고 잊을지 결정합니다. LongMemEval 벤치마크에서 제안된 방법은 균일 가중치나 최신성 기반 방법보다 유의미하게 높은 골드 증거 보존율을 달성했습니다.