LLM을 위한 Honeyquest: AI 공격자에 대한 사이버 기만의 재고
Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers
Honeyquest를 LLM에 맞게 개조한 자동화 평가 프레임워크로 21개 LLM 공격자 코호트를 47명 인간 기준선과 동일한 174개 정찰(reconnaissance) 쿼리에서 비교한 결과, LLM은 인간보다 기만적 함정에 더 자주 걸리고 방어적 어텐션 분산 효과는 통계적으로 나타나지 않았으며 추론에서 함정을 인식해도 73.4%는 기만 요소를 그대로 이용하는 인식-행동 격차(recognition-action gap)를 보였다. 이는 인간 중심 사이버 기만 가설이 AI 공격자에게 신뢰성 있게 전이되지 않음을 보여주며 AI 네이티브 능동 방어 프레임워크에 대한 새로운 연구가 필요함을 시사한다.