arXiv:2607.00143v1 cs.CL

Hate Speech Detection in Turkish and Arabic Languages: A Comprehensive Study

Somaiyeh Dehghan, Gökçe Uludoğan, Mehmet Umut Şen, Elif Erol, Arzucan Özgür, Berrin Yanikoglu

제출 2026-06-30

원문 초록

Online hate speech has been linked to a global rise in violence against minorities, including incidents such as mass shootings, lynchings, and ethnic cleansing. Societies grappling with this issue, particularly when hate speech targets specific groups based on religion, race, ethnicity, culture, nationality, or migration status, face the challenge of balancing freedom of expression with the need for effective content moderation on widely used online platforms. In response to this challenge, we introduce a comprehensive hate speech dataset covering five distinct topics in Turkish: refugees, the Israel-Palestine conflict, anti-Greek sentiment in Turkey, ethnic or religious communities (Alevis, Armenians, Arabs, Jews, and Kurds), and LGBTI+, alongside one topic in Arabic (refugees). In addition, we develop state-of-the-art BERT-based models to address multiple dimensions of hate speech analysis, including hate category classification, hate intensity prediction, target identification, and hate speech span detection, enabling a comprehensive understanding of hateful content in online discourse.

요약

터키어와 아랍어 온라인 혐오 발언 탐지를 위해 난민, 이스라엘-팔레스타인 분쟁, 반그리스 감정, 소수민족·종교 공동체, LGBTI+ 등 다섯 가지 주제를 포괄하는 대규모 데이터셋을 구축하였다. BERT 기반의 Dual Contrastive 모델을 활용해 혐오 발언 분류, 강도 예측, 대상 식별, 스팬 탐지 등 다차원적 분석을 수행하고 ChatGPT를 이용한 해시태그 분절 및 합성 데이터 생성으로 클래스 불균형 문제를 완화하였다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2607.00143v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.11597v1cs.CL공통 태그 Sentiment Analysis, Text Classification, Hate Speech Detection, low-resource languages

벤치마크를 넘어서: 방글라어 혐오 발언 탐지의 숨겨진 위기 폭로

Beyond Benchmarks: Exposing the Hidden Crisis in Bangla Hate Speech Detection

다양한 소셜 미디어 플랫폼(SMP)에서 혐오 발언(HS)의 확산은 온라인 안전성과 윤리적 모더레이션에 심각한 우려를 제기한다. 혐오 발언의 자동 탐지는 특히 방글라어와 같은 저자원 언어에서 문화적 맥락, 암묵적 표현, 비공식적 언어 패턴으로 인해 여전히 어려운 과제로 남아 있다. 본 연구는 벤치마크 학습 모델이 암묵적이고 문맥 의존적인 혐오 발언을 탐지하지 못하는 원인과 방식을 진단함으로써 방글라어 혐오 발언 탐지 시스템의 위기를 폭로하고자 한다. 여섯 가지 아키텍처(FastText + CNN, FastText + LSTM, FastText + BiLSTM, BanglaBERT, BanglaBERT + CNN, BanglaBERT + BiLSTM)를 벤치마크 데이터셋(약 75,000개 게시물)과 다중 출처 병합 데이터셋(약 120,000개 게시물)으로 학습시킨 후, Facebook, Twitter, YouTube에서 수집하여 혐오 발언과 비혐오 발언으로 레이블링된 주석 데이터셋(약 200개 게시물)으로 외부 검증을 수행하였으며, 혐오 발언은 명시적과 암묵적으로 추가 분류하였다. BanglaBERT는 벤치마크 데이터셋에서 F1 점수 91.4%를 달성하였으나 외부 세트에서는 75.3%로, 풍자와 이모지가 포함된 암묵적 혐오 발언에서는 63.4%로 하락하였다. FastText + CNN의 정확도는 유사한 조건에서 78.0%에서 51.2%로 떨어졌다. 이모지 인식 전처리는 암묵적 혐오 발언 탐지를 최대 12%까지 개선한 반면, 이모지 제거는 성능의 현저한 저하를 초래하였다(F1: 0.75에서 0.63). 정치적으로 민감하거나 풍자적인 댓글에서 빈번한 오분류가 발생하여 과잉 규제의 위험성이 드러났다. 본 연구는 암묵적이고 문화적으로 내재된 이모지 포함 표현으로 인한 일반화 위기를 폭로할 뿐만 아니라, 표현의 자유를 보장하면서 윤리적 모더레이션을 실현하는 적응형·이모지 인식·문화적 기반 프레임워크 개발의 필요성을 강조한다. 본 연구의 결과는 연구자, 소셜 미디어 플랫폼 운영자, 정책 입안자에게 저자원 언어를 위한 보다 맥락 민감한 혐오 발언 탐지 시스템 설계를 위한 통찰을 제공한다.

arXiv:2607.04945v2cs.CL공통 태그 Sentiment Analysis, Text Classification, Hate Speech Detection

You Frame It: 개념적 표현이 반유대주의에 대한 LLM 탐지 및 추론을 어떻게 형성하는가

You Frame It: How Conceptual Representations Shape LLM Detection and Reasoning about Antisemitism

대규모 언어 모델(LLM)은 추론 시점에 외부 개념 자원의 통합을 가능하게 하여, 반유대주의와 같이 이념적·역사적으로 복잡한 현상을 탐지하는 새로운 기회를 창출한다. 본 연구는 서로 다른 형태의 개념적 그라운딩이 4개의 최신 LLM에 걸쳐 반유대주의 탐지 및 설명 동작에 어떤 영향을 미치는지 조사한다. 전문가 주석 데이터셋 두 개를 활용하여 반유대주의에 대한 정의적 표현, 세분화된 분류체계적 표현, 예시 보강 표현, 대규모 맥락 표현을 비교한다. 세분화된 분류체계적 표현은 재현율을 크게 향상시키는 동시에 정밀도를 낮춘다는 사실을 발견하였다. 놀랍게도 훨씬 더 큰 개념 자원을 제공하더라도 추가적인 정량적 이점은 나타나지 않는다. 홀로코스트 이후 반유대주의는 모든 모델과 구성에 걸쳐 가장 지속적인 도전 과제로 남는다. 설명에 대한 분석은 개념적 참조의 과잉 생성, 어휘적 단서에 대한 의존, 과신, 그리고 미묘하거나 정당화 형태의 반유대주의에 대한 처리 어려움 등 체계적인 한계를 추가로 드러낸다. 본 연구의 결과는 반유대주의 탐지 및 추론을 위한 개념적으로 그라운딩된 LLM의 잠재력과 남아 있는 한계를 모두 부각시킨다.

arXiv:2607.21980v1cs.CL공통 태그 Sentiment Analysis, Text Classification, content moderation

마스토돈 커뮤니티의 독성 행동 분석과 그 영향

Analyzing Toxic Behavior and Its Impact on the Mastodon Community

독립적으로 중재되는 소셜 서버들의 탈중앙화 연합인 마스토돈(Mastodon)은 독성 콘텐츠의 탐지와 완화에 고유한 과제를 제기한다. 통일된 중재 기준이 없다. 생태계는 매우 다양하고 불균등하다. 본 논문은 머신러닝(machine learning) 방법을 활용해 사용자 게시물을 분석함으로써 마스토돈에서 독성(toxicity)의 발생과 확산을 탐구한다. 결과는 독성 추세와 커뮤니티 건강 및 탈중앙화 거버넌스에 대한 함의를 명확히 제시한다.

arXiv:2607.11279v1cs.CL공통 태그 Sentiment Analysis, Text Classification, Hate Speech Detection

FAD-SA-GRU: 특징 증강 셀프 어텐션 GRU 네트워크를 통한 알제리 방언 혐오 발언 탐지 향상

FAD-SA-GRU: Enhancing Hate Speech Detection in Algerian Dialect Through Feature-Augmented Self-Attention GRU Networks

소셜 미디어 플랫폼의 광범위한 확산은 사용자들이 정보와 의견을 즉각적으로 교환할 수 있게 함으로써 온라인 커뮤니케이션을 변화시켰다. 그러나 이러한 플랫폼들은 동시에 욕설 및 혐오 콘텐츠의 확산을 용이하게 하여 심각한 사회적, 심리적, 윤리적 과제를 야기하고 있다. 혐오 발언은 민족, 종교, 성별, 국적, 정치적 성향 등의 속성을 이유로 개인이나 집단에 대한 차별, 괴롭힘, 폭력을 선동할 수 있다. 이에 따라 자동 혐오 발언 탐지는 자연어 처리(NLP)의 주요 연구 주제이자 콘텐츠 모더레이션 시스템의 핵심 구성 요소가 되었다. 본 논문은 소셜 미디어에서 알제리 아랍어 방언(다리자)의 자동 혐오 발언 탐지를 연구한다. 이 과제는 아랍어, 프랑스어, 아라비지(라틴 알파벳으로 표기된 아랍어)가 공존하는 방언의 언어적 다양성으로 인해 여전히 난제로 남아 있다. 우리는 네 가지 범주의 텍스트 분류(classification) 접근법을 비교한다: (1) TF-IDF 특징(feature)을 활용한 전통적인 머신러닝 모델, (2) 순환 신경망 기반의 심층 학습(deep learning) 모델, (3) DziriBERT 및 다국어 BERT(bert)를 포함한 트랜스포머(transformer) 기반 언어 모델, (4) DZ FastText, DZ AraVec, DziriBERT의 의미론적 표현을 다중 임베딩(embedding) 융합을 통해 결합하고 셀프 어텐션(attention) 강화 GRU 인코더를 뒤에 적용한 새로운 하이브리드 아키텍처 FAD-SA-GRU. 이진 혐오 발언 분류를 위해 주석이 달린 알제리 다리자 소셜 미디어 댓글 데이터셋(dataset)을 대상으로 한 실험에서 FAD-SA-GRU는 정확도 93.2%, 정밀도(precision) 93.4%, 재현율(recall) 91.0%, F1-점수 92.1%, ROC-AUC 97.0%를 달성하며 모든 베이스라인을 능가했다. 결과는 저자원 방언 아랍어에서 강건한 혐오 발언 탐지를 위해 보완적인 임베딩 표현과 어텐션 기반 시퀀스 모델링을 결합하는 것의 효과를 입증한다.

arXiv:2607.04890v1cs.CL공통 태그 Sentiment Analysis, Text Classification, Hate Speech Detection

반유대주의 사건 분류를 위한 대규모 언어 모델 평가

Evaluating Large Language Models for Antisemitic Incident Classification

사회 내 혐오 및 폭력 문제에 대응하기 위해서는 공개 보고로부터 혐오 사건을 적시에 탐지해야 하지만, 혐오 사건의 자동 식별은 아직 충분히 연구되지 않은 분야이다. 본 연구에서는 혐오 사건 탐지(hateful event detection) 태스크를 새롭게 제안하고, AI 시스템, 특히 대규모 언어 모델(LLM)이 반유대주의 사건 보고를 세분화된 레이블로 발견·분류하는 능력을 탐구한다. 우리는 뉴스 기사, 시민 사회 보고서, 공식 기록에서 수집한 반유대주의 사건 설명이 담긴 다수의 전문가 주석 데이터셋을 대상으로 OpenAI의 GPT-4o와 Meta의 Llama-3.2-3B-Instruct를 평가한다. 실험 결과, LLM, 특히 GPT-4o는 이 태스크에 잠재력을 보이지만 상당한 개선이 필요함을 확인하였다. 프롬프트에 명확한 용어 정의와 문맥 내 학습(ICL) 예시를 제공하면 성능이 향상되는데, 정의는 수사적 사건(예: 전통적인 반유대주의 논조)에, 예시는 행동 지향적 사건(예: 물리적 폭행)의 레이블 분류에 더 효과적이었다. 대학 신문을 대상으로 한 사례 연구에서는 LLM이 관련 실세계 사건을 발굴하여 조기 모니터링 및 개입을 지원할 수 있음을 보였다. 종합적으로, 본 연구의 결과는 복잡한 피해를 인식하는 AI의 능력에서 기회와 중요한 한계를 동시에 부각하며, 혐오를 효율적이고 효과적으로 정의·대응하기 위한 모델 설계, 강건한 평가 체계 구축, 정책 프레임워크 개발을 위해 AI 개발자, 정책 입안자, 시민 사회 간 협력이 필요함을 강조한다.

arXiv:2606.28725v2cs.CL공통 태그 Text Classification, content moderation

DriftGuard: 진화하는 유해성 모더레이션을 위한 안전성 인식 다중 모니터 탐지 및 선택적 적응

DriftGuard: Safety-Aware Multi-Monitor Detection and Selective Adaptation for Evolving Toxicity Moderation

자동화된 유해성 검열 시스템은 은어, 변화하는 표적, 단속에 대한 전략적 적응을 통해 유해 행위가 진화하는 동적인 온라인 환경에서 작동한다. 기존의 드리프트 탐지 방법은 흔히 전역적 분포 변화에 초점을 맞추지만, 이러한 신호는 국소적인 유해성 부분공간이나 위험도가 높은 모델 오류 영역에서 나타나는 안전 관련 변화를 놓칠 수 있다. 본 논문은 다중 모니터 드리프트 탐지와 선택적 모델 업데이트를 결합한 안전 인식 적응형 검열 프레임워크인 DriftGuard를 소개한다. 이 프레임워크는 전역 텍스트 드리프트, 정체성 관련 유해성 드리프트, 모델 불확실성, 유해 위험 드리프트, 위음성 위험 드리프트를 추적한다. 안전 관련 변화가 탐지되면, 위음성 가능성이 높은 사례, 정체성 관련 고위험 사례, 위양성 위험 사례, 불확실한 경계 사례를 우선하는 하드 믹스 적응 세트를 사용하여 모델을 업데이트한다. Civil Comments의 시간적 변화와 Jigsaw-to-DynaHate의 데이터셋 간 변화에 대한 실험 결과, 안전 인식 모니터는 전역 드리프트만으로는 놓치는 위험을 탐지한다. 하드 믹스 적응은 무업데이트 및 무작위 균형 베이스라인에 비해 유해 재현율과 정확도를 향상시킨다. 유해 재현율은 Civil Comments에서 0.8453에서 0.8777로, DynaHate에서 0.7107에서 0.8523으로 상승한다. 부트스트랩 분석은 DynaHate에서 안전성 향상이 안정적임을 추가로 보여 주며, 유해 재현율은 0.1418 증가하고 위음성 유병률은 0.0781 감소한다. 종합하면 DriftGuard는 안전 인식 드리프트 탐지를 표적화된 경량 모델 업데이트와 연결하여 더 강건한 적응형 유해성 검열을 가능하게 한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.