적응형 LLM 허니팟과 LLM 공격자의 대결: 일관된 서사가 기만 효과를 높이는가?
Adaptive LLM-Driven Honeypots vs. LLM-Driven Attackers: Does Narrative Coherence Improve Deception?
한국어 초록
대규모 언어 모델(LLM)을 쓰면 허니팟이 필요할 때 응답과 기만용 산출물을 만들 수 있다. 그러나 기존 연구는 생성 내용을 응답별로 평가해, 일관된 사건을 함께 묘사하는 산출물이 서로 무관한 자료보다 공격자를 더 오래 머물게 하는지 밝히지 않았다. 자율 LLM 공격 에이전트가 현실적인 위협으로 떠오르면서 이 질문이 중요해졌다. 방어자가 관측한 공격자 명령을 각각 MITRE ATT&CK 기법에 대응시키고 MITRE Engage를 바탕으로 선별한 목록에서 적절한 시나리오를 고르는 대응 전략인 서사형 기만을 제안한다. 침입이 진행되는 동안 에뮬레이션한 Ubuntu 호스트에 서로를 참조하는 파일, 프로세스, 서비스, 로그를 배치한다. LLM 방어자와 자율 LLM 공격자는 실제 SSH 세션을 통해 상호작용한다. 공격자의 종료 정책은 기만을 의심해 중단한 경우와 흥미를 잃어 중단한 경우를 구별한다. 세션 1,150개에서 정교함을 높인 네 조건(Static, Same-TTP, Multi-TTP, Chain)을 비교했다. 공개 가중치 공격자 모델 네 개, 방어자 모델 네 개, 공격자 숙련도 세 수준을 사용했다. 단계마다 공격자의 상호작용이 유의하게 늘었다. 대응당 산출물 예산이 같을 때, 일관된 시나리오는 숙련된 공격자의 세션 길이 중앙값을 명령 40개에서 165개로 늘리고, 중단율을 86%에서 52%로 낮췄다. 이 효과는 공격자 숙련도가 높을수록 커졌고 모델 조합 16개 전반에서 유지됐으며, 추론 비용은 비슷했다. 거의 모든 세션은 기만 탐지보다 흥미 상실로 끝났다. 이는 에뮬레이터를 실제처럼 만드는 데 더해 공격자가 의미 있는 단서를 계속 발견하도록 해야 함을 시사한다.
원문 초록
Large Language Models (LLMs) enable honeypots to generate responses and deceptive artefacts on demand, yet existing approaches evaluate generated content one reply at a time and leave open whether artefacts that jointly describe a coherent event retain an attacker better than unrelated ones. This question becomes pressing as autonomous LLM-driven offensive agents emerge as realistic adversaries. This paper proposes narrative deception, a reactive strategy in which the defender maps each observed attacker command to a MITRE ATT&CK technique, selects a compatible scenario from a curated catalogue based on MITRE Engage, and deploys mutually referential artefacts (files, processes, services, and logs) on an emulated Ubuntu host while the intrusion is under way. An LLM-powered defender and an autonomous LLM attacker interact through a real SSH session, and the attacker's termination policy distinguishes abandonment due to suspected deception from abandonment due to loss of interest. A campaign of 1,150 sessions compares four conditions of increasing sophistication (Static, Same-TTP, Multi-TTP, and Chain) across four open-weight attacker models, four defender models, and three attacker skill levels. Engagement increases significantly at every step. With the same artefact budget per reaction, coherent scenarios raise the median session length of advanced attackers from 40 to 165 commands and reduce their abandonment from 86% to 52%. The effect grows with attacker skill, holds across all sixteen model pairs, and comes at comparable inference cost. Nearly all sessions ended through loss of interest rather than detection, which suggests that deception should sustain meaningful findings, not only emulator fidelity.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22589v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.