인공지능을 위한 갈등 맥락에서의 마음 이론 인과 모델
A Causal Model of Theory of Mind in Conflict for Artificial Intelligence
마음 이론(Theory of Mind, ToM)은 타인에게 정신 상태를 귀속하고 이를 예측과 추론에 활용하는 능력으로, 효과적인 인간-기계 통합에 필수적인 것으로 널리 간주됩니다. 기존 AI-ToM 모델은 정신화(mentalizing)를 '어떻게' 수행할지를 다루지만, '언제' 수행할지라는 질문은 대부분 다루지 않습니다. 핵심 질문은 다음과 같습니다: 갈등 상황에서 어떤 상황적·에이전트 수준의 조건에서 ToM 개입이 인과적으로 정당화되는가? 본 논문은 방향성 비순환 그래프(DAG)로 형식화한 구조적 인과 모델을 제시하며, ToM을 항상 켜져 있는 능력이 아니라 상황적·에이전트 수준의 조건에 의해 활성화되는 메커니즘으로 취급합니다. 이 모델은 상황적·에이전트 수준의 조건을 포착하는 4개의 외생 변수, 5개의 내생 매개 변수, 그리고 세 가지 뚜렷한 인과 경로—처리 가능성(tractability) 경로, 추론 깊이(reasoning-depth) 경로, 가능화 원인(enabling-cause) 경로—를 통해 개입 상태를 생성하는 기계론적 ToM 노드를 명시합니다. 주요 결과 변수는 인식론적 정확도(epistemic accuracy)로, 이는 사회적 추론을 행동 정책(behavioral policy)과 분리하고 갈등을 넘어 다양한 사회 현상으로 일반화됩니다. 이 프레임워크는 AI 시스템에 정신화를 위한 원칙적이고 자원 합리적(resource-rational) 의사결정 절차를 제공하며, 효율성, 신뢰, 그리고 견고한 인공 사회 지능(artificial social intelligence) 개발에 대한 함의를 갖습니다. 시뮬레이션 검증, 실증적 인간-기계 팀 협업 연구, 그리고 갈등 최적화 정신화에서 비롯되는 윤리적 고려사항이 논의됩니다.