AI 생성 소셜 봇 콘텐츠의 적대적 생성 및 탐지
Adversarial Creation and Detection of AI-Generated Social Bot Content
대규모 언어 모델(LLM)과 소셜 봇의 수렴으로 인해 악의적인 행위자가 사람과 유사한 콘텐츠를 대규모로 생성하여 정보 생태계를 조작할 수 있게 되었습니다. AI 생성 콘텐츠를 탐지하는 기존 모델들은 주로 정답 데이터(ground-truth data)의 부족으로 인해 실제 환경에서 자주 실패합니다. 우리는 악의적인 행위자에 의한 실제 소셜 미디어 사용자 사칭을 모델링하는 적대적 방법론을 통해 이 문제를 해결합니다. 이 방법론을 사용하여, 우리는 사람과 AI 생성 메시지의 쌍으로 구성된 다국어 및 크로스 플랫폼 데이터셋을 구축했습니다. 이러한 적대적 데이터에 대한 학습을 통해 AI 생성 텍스트를 정확하게 탐지할 수 있습니다. 우리의 접근 방식은 실제 환경의 분포 외 데이터(out-of-distribution data)에서 콘텐츠 기반 봇 탐지를 수행하는 기존 모델들보다 성능이 현저히 우수합니다.