PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.14491v1cs.SI

인위적 분열: 7개 소셜 미디어 영향 작전의 적대적 콘텐츠 분해

Manufactured Divisiveness: Decomposing the Hostile Content of Seven Social Media Influence Operations

국가 후원 영향 작전은 종종 '혐오'와 '독성(toxicity)'의 높은 발생률 출처로 측정된다. 우리는 이러한 비율이 측정 오류에 기반한다고 주장한다. 그 뒤에 있는 탐지기들은 아웃그룹(out-group)을 겨냥한 적대성 또는 분열성을 포함하는 더 넓은 정의를 포착하도록 검증되어 있어, 당파적 또는 지정학적 비난(invective)으로 더 잘 설명되는 콘텐츠에 혐오를 과대 귀속한다. Twitter Information Operations 아카이브의 7개 정부 귀속 캠페인(8,275개 계정)에서 수집한 2,508만 개 트윗을 대상으로, 우리는 혐오를 다른 형태의 분열성과 분리한다. 먼저 Cohen's $κ=0.82$로 인간 라벨과 일치하는 2-프롬프트 LLM 기반 탐지기를 검증하여 더 넓은 적대성을 식별하고, 이후 전문가와 $κ=0.52$로 일치하는 감사 가능한(auditable) 규칙을 개발하여 이 콘텐츠(5,457개 게시물)를 3개 하위 범주로 추가 분류한다. 약 50.1%는 사람에 대한 정체성 기반 공격이며, 30.4%는 당파적 공격, 19.5%는 국가와 그 외교 정책에 대한 비난이다. 따라서 이 전부를 혐오로 보고하면 혐오를 대략 두 배로 과대평가한다. 18.7%만이 정체성 기반이면서 비인간화 또는 선동적이다. 7개 캠페인 중 6개는 단일 '혐오' 비율이 평탄화하는 세 가지 체제로 분류된다. 즉 정체성 혐오(RU-op과 IRA, 모두 러시아 귀속), 지정학적 비난(이란 작전 모두), 당파적 분열성(베네수엘라 작전 모두)이다. 우리는 이 공통 산물을 $manufactured divisiveness$(인위적 분열)라고 부른다. 이러한 구성 개념들을 구분하는 경계선 자체는 여전히 정립되지 않았다. 가장 어려운 사례에서 세 명의 독립적 인간 전문가는 중등도 수준에서만 일치하며(쌍별 $κ=0.37$--$0.50$), 19개 LLM 모델 중 최고 성능도 전문가 다수결에 대해 $κ=0.601$에 그친다. 우리의 발견은 영향 캠페인 및 더 넓은 온라인 담론 맥락에서 혐오 연구의 재정의에 도움이 될 수 있다.