MemPoison: LLM 에이전트의 지속적 메모리 위협과 구조적 사각지대 규명
MemPoison: Uncovering Persistent Memory Threats and Structural Blind Spots in LLM Agents
지속적 외부 메모리는 에이전트 연속성을 향상시키지만 지속적인 보안 취약점을 도입한다. 적대적 콘텐츠가 표준 상호작용 채널을 통해 주입되어 턴에 걸쳐 유지되고, 나중에 하류 동작을 왜곡할 수 있다. 이 과제를 해결하기 위해, 우리는 4가지 공격 유형, 3가지 주입 채널, 3가지 대표적 메모리 기질에 걸친 1227개의 수동 검증 사례를 포함하고, 7개의 오픈 가중치 및 3개의 클로즈드 가중치 모델 계열에서 평가된 포괄적인 벤치마크 및 분석 프레임워크인 MemPoison을 제안한다. 우리는 3단계 분류체계를 도입한다: (L1) 직접 단일 레코드 손상, (L2) 구성적 다중 레코드 손상, (L3) 컨텍스트 트리거 잠재 손상. 우리의 평가는 뚜렷한 방어 경계를 드러낸다. 일관성 검사와 같은 기준선 쓰기 시점 방어는 직접적인 L1 공격을 상당히 억제하지만, L2 및 L3 공격을 신뢰성 있게 억제하는 데는 실패한다. 기계론적 영향 분해(MID)를 통해, 우리는 쓰기 시점 방어의 구조적 사각지대를 입증하는데, 이는 표면상 무해해 보이는 레코드를 허용하여 나중에 결합 검색 구성이나 트리거 조건 활성화를 통해 유해해진다. 우리의 발견은 정적 필터링에서 적응적이고 컨텍스트에 민감한 메모리 방어 전략으로의 전환을 주장한다.