arXiv:2609.00808v1 cs.HC

Ctrl-F-Resist: 온라인 극우 세력을 모니터링하는 시민사회단체의 실무, 과제 및 기술적 요구

Ctrl-F-Resist. Practices, Challenges, and Technical Needs of Civil Society Organizations Monitoring the Far-Right Online

Elisabeth Steffen, Helena Mihaljević

제출 2026-09-01

한국어 초록

극우 세력이 이데올로기를 전파하고 지지자를 결집하기 위해 온라인 플랫폼을 점점 더 악용함에 따라, 시민사회단체(CSO)는 온라인상의 반민주적 역학을 모니터링하는 데 있어 중요하지만 과소평가된 역할을 수행하고 있습니다. 팩트체커나 콘텐츠 모더레이터와 달리 CSO는 자원이 제한되고 불안정한 환경 속에서 장기적이고 맥락화된 분석을 수행하는 경우가 많습니다. 이러한 중대한 사회적 역할에도 불구하고 CSO는 법적 불확실성, 제한된 플랫폼 접근성, 만성적인 자금 부족 등 기술 솔루션을 도입하거나 공동 개발하는 데 있어 상당한 장벽에 직면해 있습니다. 기존 연구와 도구 개발 노력은 제도적으로 더 확고히 자리 잡은 이해관계자들에 집중하느라 이들 행위자를 대체로 간과해 왔습니다. 본 논문은 온라인 모니터링에 참여하는 독일 기반 12개 CSO의 실무자 15명을 대상으로 한 정성적 연구를 통해 이러한 간극을 다루며, 이들을 디지털 공간 거버넌스에서 핵심적이지만 간과되어 온 이해관계자로 자리매김합니다. 우리는 기술적 지원에 대한 이들의 현재 실무, 과제 및 기대를 탐구합니다. 연구 결과에 따르면 맞춤형 도구의 부재로 인해 모니터링은 여전히 대부분 수작업으로 이루어지고 있으며, 향상된 검색 기능이 가장 시급한 기술적 요구로 부각되었습니다. 참여자들은 미디어 처리 및 콘텐츠 발견과 같은 AI 지원 기능에 개방적인 태도를 보이면서도, 신뢰, 법적 활용성, 전문적 신뢰성에 대한 우려를 이유로 자동화된 분류(classification)에는 여전히 회의적인 입장을 유지하고 있습니다. 이러한 연구 결과를 바탕으로, 우리는 개념적 모니터링 워크플로우를 제시하고 다양한 모니터링 목표를 유연하게 지원하도록 설계된 오픈소스 텔레그램(Telegram) 모니터링 프로토타입 구현을 설명합니다. 또한 구체적인 디자인, 정책 및 연구 제언을 제시하고, 모니터링 CSO가 노동 집약적이고 저용량 구조에 갇혀 있는 경향을 설명하는 실증적 기반 개념으로서 '수작업 함정(manual labor trap)'을 소개합니다.

원문 초록

As far-right actors increasingly exploit online platforms to disseminate ideology and mobilize supporters, civil society organizations (CSOs) play a vital yet underrecognized role in monitoring antidemocratic dynamics online. Unlike fact-checkers or content moderators, CSOs engage in long-term, contextualized analysis, often in resource-constrained settings and under precarious conditions. Despite their critical societal role, CSOs face significant barriers to adopting or co-developing technical solutions, including legal uncertainty, limited platform access, and chronic underfunding. Existing research and tool development efforts have largely overlooked these actors in favor of more institutionally embedded stakeholders. This paper addresses this gap through a qualitative study with 15 practitioners from 12 Germany-based CSOs engaged in online monitoring, positioning them as key yet overlooked stakeholders in the governance of digital spaces. We explore their current practices, challenges, and expectations regarding technological support. Our findings show that monitoring remains largely manual due to the lack of tailored tools, with enhanced search capabilities emerging as the most pressing technical need. While participants express openness to AI-supported features such as media processing and content discovery, many remain skeptical of automated classification, citing concerns around trust, legal usability, and professional credibility. Grounded in these findings, we introduce a conceptual monitoring workflow and describe its implementation in an open-source Telegram monitoring prototype designed to flexibly support diverse monitoring goals. We outline concrete design, policy, and research recommendatios, and introduce the manual labor trap as an empirically grounded concept that explains why monitoring CSOs tend to remain locked into labor-intensive, low-capacity arrangements.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.00808v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.