How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
LLM 기반 검색 에이전트가 조작된 웹 콘텐츠를 사용자 추천으로 승인·전달할 수 있는 위험을 측정하기 위해 SearchGEO 평가 프레임워크를 제안하고, 웹 증거 조작 파이프라인과 5가지 공격 유형, 다중 출력 지표로 13개 LLM 백엔드를 각 308건 평가했다. 공격 성공률(ASR)은 Claude-Sonnet-4.6 0.0%부터 Gemini-3-Flash 31.4%까지 백엔드마다 크게 달랐고, 가장 강한 공격 모드와 배포 환경의 영향도 모델군에 따라 달라 적대적 검색 콘텐츠 하에서의 추천 신뢰성을 백엔드 안전성 평가의 1차 차원으로 다뤄야 한다.