영구 메모리(persistent memory)는 장기 에이전트(agent)가 지식을 유지하도록 돕지만, 단 한 번의 업데이트 오류로도 향후 검색 및 추론이 반복적으로 왜곡될 수 있습니다. 기존 시스템의 대부분은 메모리 업데이트를 이진(binary) Write/Hold 결정으로 축소하여, 새로운 정보를 추가해야 하는지, 무시해야 하는지, 오래된 믿음을 수정하는 데 사용해야 하는지, 신뢰할 수 없어 거부해야 하는지, 혹은 검증을 위해 보류해야 하는지를 구분하지 못합니다. 이러한 선택지들은 동일한 이진 라벨을 공유할 수 있지만 근본적으로 다른 메모리 상태를 생성합니다. 본 논문에서는 각 진술을 다섯 가지 실행 가능한 동작(action) 중 하나로 매핑하는 메모리 상태 업데이트 프레임워크인 TARL을 소개합니다. TARL은 영향을 받는 메모리를 식별하고, 시간적 범위를 해결하며, 출처의 신뢰성을 비교하고, 수락(accepted), 보류(pending), 거부(rejected) 원장(ledger)을 업데이트합니다. 또한 대안적 업데이트 작업에 의해 생성된 메모리 상태를 비교하여 모델이 올바른 결과로 이어지는 작업을 선택하도록 장려하는 방식으로 추가 학습됩니다. 아울러 세분화된 동작 라벨과 다음 상태 목표를 포함하는 벤치마크인 TARL-Mem을 소개합니다. 인도메인(in-domain), 교차 출처(cross-source), 시간적, 반사실적(counterfactual), 순차적 평가 전반에 걸쳐 TARL은 동작 예측 및 상태 복구를 개선하고, 메모리 오염을 줄이며, 상충하는 증거를 보존하고, 누적된 손상을 억제합니다.
점점 더 많은 에이전틱 시스템이 메모리 파일, 행동 선호, 지식 베이스를 통해 세션 간 지속적인 상태를 유지하고 있다. 이는 에이전트를 더 유용하고 자기 개선적으로 만들지만, 악의적인 지시를 지속 파일에 내장하여 이후 행동에 영향을 미칠 수 있는 프롬프트 인젝션을 위한 새로운 공격 표면을 만들기도 한다. 본 연구에서는 샌드박스화된 합성 워크스페이스를 사용하여 메모리 기반 에이전틱 시스템에서의 프롬프트 인젝션 공격을 연구한다. Anthropic Claude Code와 OpenAI Codex 두 에이전틱 시스템을 Claude Haiku 4.5, Claude Opus 4.7, GPT-5.2, GPT-5.5 네 모델에 걸쳐 평가한다. 결과는 신뢰할 수 없는 외부 콘텐츠로 에이전트가 자신의 메모리 파일을 덮어쓰게 하기는 어렵지만, 해당 파일에 이미 심어 둔 페이로드는 현재 및 이후 세션을 성공적으로 공격할 수 있음을 보여준다. 공격 성공률과 페이로드 지속성은 시스템, 모델, 적대적 목표, 다중 세션 공격 시퀀스에 따라 크게 달라진다. 이러한 발견은 지속적 메모리가 프롬프트 인젝션의 위협 모델을 바꾼다는 점과, 유용한 에이전트 적응을 제거하지 않으면서 메모리 업데이트를 보호하는 방어를 촉구함을 보여준다.
멀티턴 도구 사용을 통해 코드를 생성하는 에이전틱 대규모 언어 모델(LLM) 시스템은 근본적인 컨텍스트 문제에 직면한다. 각 세션은 처음부터 시작되어, 이전 세션을 생산적으로 만들었던 설정 선택, 도메인 제약, 데이터 스키마, 도구 사용 패턴이 폐기된다. 전체 대화 이력을 무분별하게 유지하는 방식은 토큰 비효율적이며 역효과를 낳는다. 관련 없는 컨텍스트는 생성 품질을 저하시키기 때문이다. 우리는 공유 선택적 영속 메모리(shared selective persistent memory)를 소개한다. 이는 재사용 가능한 컨텍스트의 네 가지 범주(태스크 명세, 데이터 스키마, 도구 설정, 출력 제약)를 식별하고 유지하면서 세션별 추론 흔적은 폐기하는 아키텍처다. 핵심적으로, 이 메모리는 공유된다. 선택적 메모리를 캡슐화한 워크스페이스는 역할 기반 접근 제어를 통해 사용자 간에 전달될 수 있어, 중복 명세 없이 협업적 재사용이 가능하다. 우리는 이를 LLM 에이전트가 이종 소스(CSV, SQL, REST API, MCP 서버)로부터 git 버전 관리 아티팩트(대시보드, 보고서, 데이터 기반 문서)를 생성·편집·유지하는 배포된 협업 워크스페이스 플랫폼에 구현했다. 보완적인 제로-토큰 데이터 갱신 메커니즘은 생성된 프로그램을 런타임 데이터로부터 분리하여, LLM 재호출 없이 아티팩트 재사용을 가능하게 한다. 세 가지 엔터프라이즈 시나리오에서, 공유 선택적 영속 메모리는 96%의 태스크 완료율을 달성했다(메모리 없이 79%, 전체 이력 사용 시 71%에 비해). 제로-토큰 갱신은 반복 업데이트에서 LLM 재호출을 제거하여(태스크 시간 14배 단축), 요약 기반 생성은 원시 데이터 주입 대비 호출당 토큰 비용을 97배 절감한다. 네 개의 공개 데이터셋에 대한 재현 실험이 일반화 가능성을 확인하며, 제로-토큰 갱신은 12/12 시험에서 성공했다. 특히, 단순한 전체 이력 유지는 에이전트를 오래된 흔적으로 편향시켜 완료율을 오히려 저하시키는 반면, 선택적 메모리는 양 극단을 모두 능가한다.