정확성을 넘어서: 법적으로 올바르지만 사회적으로 논쟁적인 기계의 법률 조언을 인간이 평가하는 방식
Beyond Accuracy: How Humans Evaluate Legally Correct but Socially Controversial Legal Advice from Machines
AI 시스템이 법률 조언을 제공하는 데 점점 더 많이 활용됨에 따라, 일반인이 알고리즘의 안내를 수용하는지—특히 그 조언이 법적으로는 옳지만 사회적으로 논쟁적인 경우—에 대한 의문이 제기되고 있다. 본 연구는 중국 본토 성인 3,348명을 대상으로 한 사전 등록 설문 실험을 보고한다. 이 실험에서는 동일한 법률 조언이 AI 시스템 또는 인간 변호사에게 귀속될 때, 그리고 추론 과정이 함께 제공될 때와 그렇지 않을 때 사람들이 조언을 어떻게 평가하는지를 살펴보았다. 알고리즘 혐오(algorithm aversion)에 대한 기존 예측과 달리, AI 시스템에 귀속된 조언은 지각된 합리성에 순 효과가 없었다. 그러나 매개 분석(mediation analyses)은 이 영가설 결과의 이면에 상반된 심리적 경로가 존재함을 밝혀냈다. AI에 귀속된 조언은 더 객관적으로 인식되어 지각된 합리성을 높이는 반면, 덜 포괄적이고 특수한 상황에 덜 주의를 기울이는 것으로 인식되어 지각된 합리성을 낮추었다. 반면, 법률적 추론을 제공하는 것은 출처와 무관하게 지각된 합리성을 실질적으로 높였으며, 이는 주로 객관성 인식을 향상시킴으로써 나타났다. 정성적 응답 결과 역시 법률 조언 평가에서 객관성과 맥락적 민감성 사이의 이러한 긴장을 뒷받침한다. 이러한 결과들은 AI 법률 조언자에 대한 대중의 반응이 자동화에 대한 경직된 태도에 의해 형성되는 것이 아니라, 경쟁하는 규범적 기대들 간의 균형 조정에 의해 형성됨을 시사한다. 본 연구의 결과는 알고리즘 혐오 이론 및 규범적으로 민감한 영역에서의 AI 추천 시스템 설계에 함의를 제공한다.