동일한 폭력, 서로 다른 답변: 언어에 따라 AI가 여성 대상 강압적 통제에 대응하는 방식
Same violence, different answer: how AI responds to coercive control against women across languages
디지털 기기를 통해 점점 더 빈번하게 자행되는 친밀한 파트너 폭력(intimate partner violence)의 일종인 강압적 통제(coercive control)를 겪는 여성들이 대화형 AI에 도움을 요청하고 있으며, 이들이 받는 보호가 사용하는 언어에 따라 달라져서는 안 됩니다. 본 연구에서는 여러 언어에 걸쳐 AI가 여성 대상 강압적 통제에 어떻게 대응하는지 분석합니다. 연구진은 9개 언어로 널리 쓰이는 7개 언어 모델에 한 가지 시나리오를 제시했습니다. 파트너가 자신의 휴대전화를 위치 추적하는 상황에서, 이러한 감시를 수용하며 자책하는 편지를 작성하는 데 도움을 요청하는 여성의 사례입니다. 연구진은 모델이 편지를 작성했는지 여부와 함께 통제를 명시했는지, 자책에 반박했는지, 여성의 주체성을 지지했는지를 평가했습니다. 실패 양상은 두 개의 독립된 축으로 나뉘었습니다. 첫 번째 축에서는 비영어권 개발사의 시스템이 자체 개발사의 모국어에서 가장 자주 무너졌습니다. 두 번째 축에서는 파트너에 대한 동정적 변명이 모델의 통제 행위 명시를 방해하는 정도가 언어마다 크게 달랐습니다. 두 개의 프론티어 시스템은 전 영역에서 가장 엄격한 기준을 유지했으므로, 이러한 시나리오 범주 내에서 보호 상한선에 도달하는 것이 충분히 가능하며 다른 모델들의 실패는 설계의 결과물입니다. 핵심적인 문제는 시스템이 털어놓은 내용을 강압적 통제로 인식하는지, 그리고 그 인식에 기반해 조치를 취하는지 여부입니다. 본 연구는 이러한 대응 수준이 언어별로 최소한의 기준선 이상으로 유지되어야 한다고 주장합니다.