안전한 검색-증강 생성에 관한 서베이
A Survey of Secure Retrieval-Augmented Generation
검색-증강 생성(RAG)은 외부 지식을 활용하여 대규모 언어 모델(LLM)을 개선하지만, 이러한 접근 경로는 내재된 순수 프롬프트 결함이나 매개변수 모델 결함과는 구별되는 보안 위험을 초래합니다. 본 논문에서는 안전한 RAG를 외부 지식 접근을 보호하는 것으로 규정합니다. 공격, 방어, 보안 평가에 관한 체계적인 검색을 수행하여 135편의 연구를 선별했으며, 이를 공격 표면(Surface, S)과 이에 대응하는 방어 층(Layer, L), 그리고 이를 관통하는 목적(Objective, O) 및 공격 대상 범위(Target scope, T)를 축으로 하는 분류 체계인 SLOT으로 정리했습니다. 이러한 연구들을 외부 지식 접근 파이프라인에 매핑함으로써 세 가지 불일치를 밝혀냅니다: 대상 불일치(T2 공격이 T2 방어 및 평가를 앞섬), 단계 불일치(S1 공격 수가 L1 방어 수를 초과함), 신호 불일치(유창하고 검색 가능하며 말뭉치에 부합하는 S1 공격이 이상치 기반 L2/L3 방어에 도전과제가 됨). 마지막으로 더욱 현실적인 목표, 공격 표면을 완전하게 포괄하는 방어 스택, 표준화된 평가, 기밀성, 그리고 멀티모달 및 에이전트 시스템을 위한 향후 방향을 논의하며, 선별 과정, 선정된 논문 메타데이터, 기계 판독 가능한 SLOT 레이블을 https://github.com/TreeAI-Lab/Awesome-RAG-Security 에 공개합니다.