PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.16944v2cs.AI

인공지능을 위한 갈등 맥락에서의 마음 이론 인과 모델

A Causal Model of Theory of Mind in Conflict for Artificial Intelligence

마음 이론(Theory of Mind, ToM)은 타인에게 정신 상태를 귀속하고 이를 예측과 추론에 활용하는 능력으로, 효과적인 인간-기계 통합에 필수적인 것으로 널리 간주됩니다. 기존 AI-ToM 모델은 정신화(mentalizing)를 '어떻게' 수행할지를 다루지만, '언제' 수행할지라는 질문은 대부분 다루지 않습니다. 핵심 질문은 다음과 같습니다: 갈등 상황에서 어떤 상황적·에이전트 수준의 조건에서 ToM 개입이 인과적으로 정당화되는가? 본 논문은 방향성 비순환 그래프(DAG)로 형식화한 구조적 인과 모델을 제시하며, ToM을 항상 켜져 있는 능력이 아니라 상황적·에이전트 수준의 조건에 의해 활성화되는 메커니즘으로 취급합니다. 이 모델은 상황적·에이전트 수준의 조건을 포착하는 4개의 외생 변수, 5개의 내생 매개 변수, 그리고 세 가지 뚜렷한 인과 경로—처리 가능성(tractability) 경로, 추론 깊이(reasoning-depth) 경로, 가능화 원인(enabling-cause) 경로—를 통해 개입 상태를 생성하는 기계론적 ToM 노드를 명시합니다. 주요 결과 변수는 인식론적 정확도(epistemic accuracy)로, 이는 사회적 추론을 행동 정책(behavioral policy)과 분리하고 갈등을 넘어 다양한 사회 현상으로 일반화됩니다. 이 프레임워크는 AI 시스템에 정신화를 위한 원칙적이고 자원 합리적(resource-rational) 의사결정 절차를 제공하며, 효율성, 신뢰, 그리고 견고한 인공 사회 지능(artificial social intelligence) 개발에 대한 함의를 갖습니다. 시뮬레이션 검증, 실증적 인간-기계 팀 협업 연구, 그리고 갈등 최적화 정신화에서 비롯되는 윤리적 고려사항이 논의됩니다.

arXiv:2607.00523v1cs.HC

AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems

의료·국방 등 고위험 영역에서 불투명한 자율 AI 시스템을 다루는 인간의 역할을 단순한 "사용자"나 "배포자"가 아닌 동물 핸들러(handler)에 비유하는 새로운 인간-기계 협업 프레임워크를 제안하며, 이 "Humans-as-Handlers" 접근법이 신뢰(trust) 구축과 책임 소재의 명확화에 어떻게 기여하는지를 논한다. 궁극적으로는 AI 시스템을 단순한 도구가 아닌 복잡한 목표를 함께 수행하는 협업자로 바라보는 방향으로 인간-기계 팀 구성의 궤도가 나아가야 함을 주장한다.