PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.01523v2cs.LG

Multi-Head Recurrent Memory Agents

Recurrent memory agents extend LLMs to arbitrarily long contexts by iteratively consolidating input into a fixed-size memory window. Despite their scalability, these agents exhibit a well-documented reliability problem: end-to-end performance degrades systematically as context length grows. We diagnose this failure by decomposing performance into two factors---memory capture and memory retention---and quantitatively confirm that retention is the dominant bottleneck. Retention collapses because existing designs maintain memory as a monolithic text block, forcing every update to risk overwriting previously retained content. Motivated by this diagnosis, we propose Multi-Head Recurrent Memory (MHM), a general, training-free framework that partitions memory into independent heads governed by a stage-wise select-then-update strategy. At each step, exactly one head is selected for update while the remaining heads are structurally shielded from overwriting, shifting the burden of retention from model behavior to architectural design. As a lightweight instantiation, we introduce Least-Recently-Updated MHM (MHM-LRU), which guarantees uniform head utilization with zero additional token overhead. Extensive experiments on long-context benchmarks show that MHM-LRU substantially improves both retention and end-to-end accuracy across the 100K--1M token range, where baselines degrade sharply. On RULER-HQA at 896K tokens, MHM-LRU improves the memory retention rate from less than 30% to 73.96%. These gains generalize across model families, scales, and task types, positioning architectural optimization as a practical and cost-efficient path toward reliable long-context recurrent memory.

arXiv:2609.22854v1cs.RO

SmoLSTM: 지속되는 순환 메모리를 갖춘 소형 비전-언어-행동 모델

SmoLSTM: A Compact Vision-Language-Action Model with Recurrent Memory that Persists

비전-언어-행동(Vision-Language-Action, VLA) 모델은 현재의 관측만을 바탕으로 행동을 예측하는 경우가 많아, 에피소드 이력이 없으면 객체 가림(occlusion)이나 시각적으로 동일한 객체가 포함된 작업에서 모호함이 발생할 수 있습니다. 관측 윈도우를 넓히는 일반적인 대응책은 시계(horizon)를 하이퍼파라미터로 만들며 이에 따라 스텝당 비용이 증가하게 합니다. 본 연구에서는 대신 순환 상태(recurrent state)에 에피소드를 포착합니다. SmoLSTM은 동결된 256M 매개변수의 SmolVLM 백본을 행렬-메모리 LSTM 제어 층과 결합하며, 이 제어 층에서는 전체 에피소드 동안 전혀 리셋되지 않는 단일 인과적 스트림(causal stream) 내에 관측 토큰과 행동 쿼리가 통합됩니다. 따라서 순환 상태의 저장은 에피소드 길이에 대해 O(1) 복잡도를 가집니다. 흐름 정합(flow-matching) 행동 헤드는 각 제어 스텝에서 10개의 말단 장치(end-effector) 포즈 변화량과 그리퍼 명령 청크를 예측합니다. 140개 작업에 걸친 7,461개의 시연 데이터로 공동 학습되고 미확인 초기 상태에서 평가된 본 연구의 단일 정책은 0.04B의 학습 가능한 매개변수만으로 LIBERO-Mem에서 85.1%의 서브골 도달률과 77.5%의 전체 작업 성공률을 기록하며 최고의 성능을 달성하여, 벤치마크 자체의 객체 중심 기준선과 최근의 메모리 기반 접근법을 모두 능가했습니다. 매 제어 스텝마다 순환 상태를 리셋하면 전체 작업 성공률이 7.0%로 감소하여, 학습된 정책이 의사결정 간에 전달되는 문맥에 의존함을 보여줍니다. 동일한 모델이 표준 LIBERO에서도 평균 79.6%의 성공률을 달성합니다.

arXiv:2607.11614v1cs.CL

연상 순환 메모리를 통한 LLM 컨텍스트 확장

Extending LLM Context via Associative Recurrent Memory

대규모 언어 모델(LLM)의 컨텍스트 길이를 확장하는 것은 많은 실세계 애플리케이션에서 매우 중요하지만, 표준 트랜스포머는 이차적 연산량과 선형적 메모리 스케일링이라는 제약에서 벗어나지 못하고 있다. 본 연구에서는 LLM의 장문 컨텍스트 처리, 고정 메모리 스케일링, 높은 효율성을 실용적으로 실현하기 위한 방법으로 ARMT(Associative Recurrent Memory Transformer)를 탐구한다. 본 논문의 주요 기여는 세 가지다. 첫째, 현실적인 워크로드 평가를 위해 협소 도메인 미세조정 시나리오에 초점을 맞춘 두 가지 도메인 특화 장문 컨텍스트 데이터셋을 구축하였다. 둘째, 지속적 사전학습, 합성 장문 컨텍스트 데이터 생성, 커리큘럼 학습, 연상 메모리의 선택적 모델 레이어 통합을 결합한 ARMT 기반 컨텍스트 확장을 위한 포괄적인 학습 레시피를 제안한다. 셋째, ARMT로 강화된 모델이 (i) 컨텍스트 한계 내 기준선 대비 성능 저하 없이 원래 컨텍스트 한계를 훨씬 초과하는 입력을 처리하고, (ii) 분포 외 컨텍스트 길이에 더 효과적으로 일반화하며, (iii) 원래 컨텍스트 윈도우 내에서 기준선 성능을 유지하면서 FLOPs를 30% 절감함을 보여주는 광범위한 실험 연구를 제시한다.