arXiv:2608.15893v1 cs.AI

LLM 기반 소셜 미디어 봇 탐지 시스템의 공격과 방어

Breaking and Defending LLM-Powered Social Media Bot Detection Systems

Nof Orenstein, Yoni Birman

제출 2026-08-16

한국어 초록

소셜 미디어 봇의 확산은 허위 정보, 여론 조작, 온라인 플랫폼에 대한 신뢰 침식 등 지속적인 위협을 초래한다. 이에 대응하기 위해 머신러닝 시스템이 봇 활동을 탐지하고 제한하도록 개발되었지만, 공격자는 적대적 학습 및 행동 모방과 같은 기법을 통해 지속적으로 적응하며, 봇과 탐지 도구 사이의 끊임없는 군비 경쟁을 부추긴다. 대규모 언어 모델(LLM)의 최근 발전은 계정과 그 콘텐츠에 대한 더 깊은 의미적·문맥적 분석을 가능하게 하여 봇 탐지를 크게 개선했다. 그러나 이러한 전환은 새로운 공격 표면을 도입하기도 하며, 적대자가 LLM 기반 분류기의 추론 및 생성 메커니즘을 직접 겨냥한 익스플로잇을 제작할 수 있게 한다. Anthropic의 Claude Code Security와 같은 산업용 도구도 보안에 중요한 결정에 LLM을 활용하므로, 이들의 공격 표면에 대한 면밀한 연구가 더욱 필요해진다. 본 연구에서는 LLM 기반 위협 특화 사이버보안 응용의 공격적·방어적 측면을 모두 조사한다. 소셜 미디어 봇 탐지 과제를 중심으로 하지만, 방법론과 통찰은 피싱 탐지, 이메일 분류, 사기 분석 등 LLM 기반 사이버보안 시스템의 넓은 범주로 일반화된다. LLM 기반 분류기의 의미적·문맥적 약점을 체계적으로 악용하는 두 가지 새로운 적대적 공격 전략을 제안하며, 탐지 정확도를 최대 48%까지 저하시킨다. 이러한 위협에 대응하기 위해 적응형 적대적 조건에서도 탐지 신뢰성을 유지하도록 설계된 견고한 다중 LLM 방어 아키텍처를 제안한다. 우리의 해법인 LSABRE(LLM-powered Social Adversarial Bot Recognition Ensemble)는 다중 LLM 프레임워크로, 다양한 공격에 걸쳐 견고성을 크게 향상시키며, 강한 적응형 적대적 압력 하에서도 86%의 탐지 정확도를 유지한다.

원문 초록

The rise of social media bots poses a persistent threat, enabling misinformation, opinion manipulation, and the erosion of trust in online platforms. To combat this, machine learning systems have been developed to detect and limit bot activity, but attackers continuously adapt through techniques such as adversarial learning and behavior imitation, fueling an ongoing arms race between bots and detection tools. Recent advances in large language models (LLMs) have significantly improved bot detection by enabling deeper semantic and contextual analysis of accounts and their content. However, this shift also introduces new attack surfaces, allowing adversaries to craft exploits that directly target the reasoning and generation mechanisms of LLM-based classifiers. Industry tools such as Anthropic's Claude Code Security similarly leverage LLMs for security-critical decisions, further motivating a careful study of their attack surfaces. In this work, we investigate both the offensive and defensive aspects of LLM-powered, threat-specific cybersecurity applications. While centered on the challenge of social media bot detection, our methodology and insights generalize to a broad class of LLM-powered cybersecurity systems, including phishing detection, email classification, and fraud analysis. We introduce two novel adversarial attack strategies that systematically exploit the semantic and contextual weaknesses of LLM-based classifiers, degrading their detection accuracy by up to 48%. To counter these threats, we propose a robust multi-LLM defense architecture designed to preserve detection reliability under adaptive adversarial conditions. Our solution, LSABRE (LLM-powered Social Adversarial Bot Recognition Ensemble), is a multi-LLM framework that substantially improves robustness across a range of attacks, maintaining 86% detection accuracy even under strong, adaptive adversarial pressure.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.15893v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.