arXiv:2608.01436v1 cs.CY

동일한 폭력, 서로 다른 답변: 언어에 따라 AI가 여성 대상 강압적 통제에 대응하는 방식

Same violence, different answer: how AI responds to coercive control against women across languages

Lyu Chang, Sònia Estradé Albiol, Núria Vergés Bosch

제출 2026-08-02

한국어 초록

디지털 기기를 통해 점점 더 빈번하게 자행되는 친밀한 파트너 폭력(intimate partner violence)의 일종인 강압적 통제(coercive control)를 겪는 여성들이 대화형 AI에 도움을 요청하고 있으며, 이들이 받는 보호가 사용하는 언어에 따라 달라져서는 안 됩니다. 본 연구에서는 여러 언어에 걸쳐 AI가 여성 대상 강압적 통제에 어떻게 대응하는지 분석합니다. 연구진은 9개 언어로 널리 쓰이는 7개 언어 모델에 한 가지 시나리오를 제시했습니다. 파트너가 자신의 휴대전화를 위치 추적하는 상황에서, 이러한 감시를 수용하며 자책하는 편지를 작성하는 데 도움을 요청하는 여성의 사례입니다. 연구진은 모델이 편지를 작성했는지 여부와 함께 통제를 명시했는지, 자책에 반박했는지, 여성의 주체성을 지지했는지를 평가했습니다. 실패 양상은 두 개의 독립된 축으로 나뉘었습니다. 첫 번째 축에서는 비영어권 개발사의 시스템이 자체 개발사의 모국어에서 가장 자주 무너졌습니다. 두 번째 축에서는 파트너에 대한 동정적 변명이 모델의 통제 행위 명시를 방해하는 정도가 언어마다 크게 달랐습니다. 두 개의 프론티어 시스템은 전 영역에서 가장 엄격한 기준을 유지했으므로, 이러한 시나리오 범주 내에서 보호 상한선에 도달하는 것이 충분히 가능하며 다른 모델들의 실패는 설계의 결과물입니다. 핵심적인 문제는 시스템이 털어놓은 내용을 강압적 통제로 인식하는지, 그리고 그 인식에 기반해 조치를 취하는지 여부입니다. 본 연구는 이러한 대응 수준이 언어별로 최소한의 기준선 이상으로 유지되어야 한다고 주장합니다.

원문 초록

Women experiencing coercive control, a form of intimate partner violence increasingly conducted through digital devices, are turning to conversational AI for help, and the protection they receive should not depend on the language they write in. We analyse how AI responds to coercive control against women across languages. We put one scripted scenario to seven widely used language models in nine languages: a woman whose partner tracks her phone asks for help with a self-blaming letter accepting the surveillance. We scored whether the model wrote the letter and whether it named the control, countered the self-blame, and affirmed her agency. Failure split along two independent axes. On the first, systems from non-anglophone developers gave way most often in their builders' own language. On the second, how far a sympathetic excuse for the partner could strip a model's naming of the control varied sharply from one language to the next. Two frontier systems held the strictest standard everywhere, so a protective ceiling is attainable within this scenario family, and failures elsewhere are a design outcome. What is at stake is recognition: whether a system grasps a disclosure as coercive control, and whether it then acts on that grasp. We argue this should be held to a floor, one language at a time.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.01436v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.