검색-증강 생성(RAG)은 외부 지식을 활용하여 대규모 언어 모델(LLM)을 개선하지만, 이러한 접근 경로는 내재된 순수 프롬프트 결함이나 매개변수 모델 결함과는 구별되는 보안 위험을 초래합니다. 본 논문에서는 안전한 RAG를 외부 지식 접근을 보호하는 것으로 규정합니다. 공격, 방어, 보안 평가에 관한 체계적인 검색을 수행하여 135편의 연구를 선별했으며, 이를 공격 표면(Surface, S)과 이에 대응하는 방어 층(Layer, L), 그리고 이를 관통하는 목적(Objective, O) 및 공격 대상 범위(Target scope, T)를 축으로 하는 분류 체계인 SLOT으로 정리했습니다. 이러한 연구들을 외부 지식 접근 파이프라인에 매핑함으로써 세 가지 불일치를 밝혀냅니다: 대상 불일치(T2 공격이 T2 방어 및 평가를 앞섬), 단계 불일치(S1 공격 수가 L1 방어 수를 초과함), 신호 불일치(유창하고 검색 가능하며 말뭉치에 부합하는 S1 공격이 이상치 기반 L2/L3 방어에 도전과제가 됨). 마지막으로 더욱 현실적인 목표, 공격 표면을 완전하게 포괄하는 방어 스택, 표준화된 평가, 기밀성, 그리고 멀티모달 및 에이전트 시스템을 위한 향후 방향을 논의하며, 선별 과정, 선정된 논문 메타데이터, 기계 판독 가능한 SLOT 레이블을 https://github.com/TreeAI-Lab/Awesome-RAG-Security 에 공개합니다.
우리는 조율된 검색 포이즈닝 하에서의 근거 기반 QA를 위한 벤치마크와 실패 모드 인식 평가 프레임워크를 공개한다. 이 프레임워크는 리더 출력을 네 가지 상호 배타적 범주(정답(gold), 하이재킹(hijack), 기권(abstention), 드리프트(drift))로 분류하며, 인스턴스 수준의 쌍별 클린-포이즌 전이 행렬과 검색 분산으로부터 리더 측 충돌 해소를 격리하는 강제 노출(Forced Exposure) 프로토콜을 포함한다. 우리는 다형적 시빌 포이즈닝(polymorphic sybil poisoning)을 도입하는데, 이는 S개의 어휘적으로 다양한 패시지가 공격자가 선택한 목표를 공동으로 지원하면서 단형적(monomorphic) 기준선을 완전히 탐지하는 어휘적 근접 중복 필터를 회피하는 조율된 공격 클래스이다(E5 코사인으로 잔여 14.2%를 포착하면 합법적인 동일 주제 쌍에서 거짓 양성률이 9배 증가한다). 강제 노출 하에서의 단형적-다형적 절제 실험(ablation)은 다양성 차원을 격리하고 +18.8pp의 하이재킹 증폭을 드러낸다(95% 쌍별 부트스트랩 신뢰구간 [+15.4, +22.4], B=5,000): 단형적 복사본은 하이재킹으로 4.0%만 기록되는 반면, 다형적 표면 다양성은 22.8%를 회복하며 -- ASR 가시 공격 채널의 5.7배 증폭에 해당한다. ASR만으로는 모든 비목표 출력을 동일하게 취급하지만, 공격 하에서 기권과 드리프트는 출력 질량의 47-66%를 차지함에도 ASR+ACC로는 모니터링되지 않으며, 거의 동일한 ASR(0.2pp 이내)을 가진 두 리더가 기권에서 16.5pp, 드리프트에서 17.2pp 차이를 보인다 -- ASR에는 보이지 않는 실패 프로파일이다. 우리는 고정된 벤치마크(3,145개 질문, 2,982개 유지된 시빌 그룹; 상위 10개 검색 슬롯을 지배하도록 선택된 S=6, §\ref{sec:setup}), 공식 사분류 평가기, 쌍별 전이 유틸리티, 그리고 다섯 개의 리더(7B-120B), 두 개의 검색기, 두 개의 교차 검증(cross-validation) 데이터셋(TriviaQA, 2Wiki)에 걸친 강제 노출 하네스를 CC BY-SA 4.0(데이터) 및 MIT(소프트웨어) 라이선스 하에 공개한다; 공개 정보는 §\ref{sec:release}에 있다.