어린이는 신뢰할 수 있는 AI 챗봇을 어떻게 설계하고 추론하는가
How Children Design and Reason about Trustworthy AI Chatbots
어린이가 AI 챗봇과 상호작용하는 일이 점점 늘어나면서, 신뢰 보정(trust calibration)은 AI 리터러시의 필수 요소가 되고 있습니다. 기존 연구에서는 타인이 구축한 시스템을 평가하는 사용자 관점에서 어린이의 AI 신뢰도를 주로 조사했을 뿐, 어린이가 직접 챗봇을 설계하는 설계자로서 조사한 연구는 드물었습니다. 본 연구에서는 신뢰와 관련된 조절 가능한 특성(예: 자신감, 투명성, 격식성, 자기주장성), 규칙, 페르소나를 갖춘 챗봇 제작 환경(environment)을 개발했습니다. 이어 8~18세 학습자 115명을 대상으로 혼합 방법론 연구를 진행하였으며, 이들은 총 119개의 챗봇을 제작했습니다. 본 연구는 어린이가 챗봇을 어떻게 구성하고 신뢰성에 대해 어떻게 추론하는지, 그리고 챗봇의 행동이 설계와 얼마나 일치하는지를 분석했습니다. 저학년 학생(10~13세)은 고학년 학생(14~18세)보다 유의미하게 더 높은 자신감을 설정했으며, 일부 어린이는 고의로 오답을 제공하는 챗봇을 의도적으로 제작하고도 챗봇이 만들어진 목적대로 작동한다는 이유로 여전히 신뢰할 수 있다고 주장했습니다. 저학년 학생들은 신뢰를 목적 완수와 동일시한 반면, 고학년 학생들은 신뢰를 투명하고 잘 보정된 설계와 연관 지었습니다. 또한 학생들은 학업용 챗봇을 취미용 챗봇보다 더 투명하고 격식 있게 보정했습니다. 본 연구는 어린이가 챗봇을 신뢰할 수 있게 만든다고 생각하는 요소를 설명하는 7가지 설계 차원을 도출하고, AI 리터러시 도구를 위한 시사점을 논의합니다.