대규모 언어 모델(LLM)이 대화형 시스템의 엔진이 되면서, 대화 상대의 의도와 상태를 추론하는 능력(즉, 마음 이론(theory-of-mind, ToM)을 형성하고 활용하는 능력)은 잠재적으로 적대적인 상대와의 안전한 상호작용에 점점 더 중요해지고 있다. 우리는 새로운 프라이버시 주제의 ToM 과제인 ToM for Steering Beliefs(ToM-SB)를 제안한다. 이 과제에서 방어자는 이중 에이전트(Double Agent)로서 공유된 세계관 안에서 부분적 사전 지식을 가진 공격자의 믿음을 유도해야 한다. ToM-SB에서 성공하려면 방어자는 공격자와 상호작용하며 공격자에 대한 ToM을 형성해야 하며, 목표는 공격자가 민감한 정보 추출에 성공했다고 믿도록 속이는 것이다. Gemini3-Pro, GPT-5.4와 같은 강력한 프론티어 모델도 ToM-SB에서 어려움을 겪으며, 공격자의 믿음에 대해 추론하도록 유도하는 ToM 프롬프팅(ToM prompting)을 사용하더라도 공격자가 부분적 사전 지식을 가진 어려운 시나리오에서 공격자를 속이지 못하는 경우가 많다. 이 격차를 줄이기 위해, 우리는 강화학습으로 ToM-SB에서 AI 이중 에이전트로 행동하도록 모델을 학습시키며, 속이기 성공 보상과 ToM 보상을 모두 검증한다. 주목할 점은, ToM과 공격자 속이기 사이에 양방향적으로 창발적(emergent) 관계가 있다는 것이다. 속이기 성공만 보상하면 ToM이 향상되고, ToM만 보상하면 속이기가 향상된다. 서로 다른 강도의 네 가지 공격자, 여섯 가지 방어자 방법, 그리고 분포 내 및 분포 외(OOD) 평가 모두에서 ToM과 공격자 속이기의 향상이 잘 상관관계를 보이며, 믿음 모델링이 ToM-SB에서의 성공의 핵심 동인임을 보여준다. ToM과 속이기 보상을 결합한 AI 이중 에이전트가 가장 강한 속이기 및 ToM 성능을 달성하며, 어려운 시나리오에서 ToM 프롬프팅을 적용한 Gemini3-Pro와 GPT-5.4를 능가한다. 또한 ToM-SB와 AI 이중 에이전트를 더 강한 공격자로 확장할 수 있음을 보여, OOD 설정으로의 일반화와 우리 과제의 확장 가능성을 입증한다.
마음 이론(Theory of Mind, ToM)은 타인에게 정신 상태를 귀속하고 이를 예측과 추론에 활용하는 능력으로, 효과적인 인간-기계 통합에 필수적인 것으로 널리 간주됩니다. 기존 AI-ToM 모델은 정신화(mentalizing)를 '어떻게' 수행할지를 다루지만, '언제' 수행할지라는 질문은 대부분 다루지 않습니다. 핵심 질문은 다음과 같습니다: 갈등 상황에서 어떤 상황적·에이전트 수준의 조건에서 ToM 개입이 인과적으로 정당화되는가? 본 논문은 방향성 비순환 그래프(DAG)로 형식화한 구조적 인과 모델을 제시하며, ToM을 항상 켜져 있는 능력이 아니라 상황적·에이전트 수준의 조건에 의해 활성화되는 메커니즘으로 취급합니다. 이 모델은 상황적·에이전트 수준의 조건을 포착하는 4개의 외생 변수, 5개의 내생 매개 변수, 그리고 세 가지 뚜렷한 인과 경로—처리 가능성(tractability) 경로, 추론 깊이(reasoning-depth) 경로, 가능화 원인(enabling-cause) 경로—를 통해 개입 상태를 생성하는 기계론적 ToM 노드를 명시합니다. 주요 결과 변수는 인식론적 정확도(epistemic accuracy)로, 이는 사회적 추론을 행동 정책(behavioral policy)과 분리하고 갈등을 넘어 다양한 사회 현상으로 일반화됩니다. 이 프레임워크는 AI 시스템에 정신화를 위한 원칙적이고 자원 합리적(resource-rational) 의사결정 절차를 제공하며, 효율성, 신뢰, 그리고 견고한 인공 사회 지능(artificial social intelligence) 개발에 대한 함의를 갖습니다. 시뮬레이션 검증, 실증적 인간-기계 팀 협업 연구, 그리고 갈등 최적화 정신화에서 비롯되는 윤리적 고려사항이 논의됩니다.
시각적 관점 수용(visual perspective taking)—타인의 시점에서 세계가 어떻게 보이는지 추론하는 것—은 사회 인지의 기초가 된다. 우리는 비전-언어 모델에서 2단계 시각적 관점 수용(Level-2 visual perspective taking, L2 VPT)을 진단하기 위한 벤치마크인 FlipSet을 제안한다. 이 과제는 다른 에이전트의 관점에서 2D 문자열의 180도 회전을 시뮬레이션하는 것으로, 3D 장면의 복잡성에서 공간 변환을 분리한다. 103개 VLM을 평가한 결과 체계적인 자기중심 바이어스가 드러난다: 대다수는 우연 수준 이하의 성능을 보이며, 오류의 약 3/4는 카메라 시점을 그대로 재현한다. 통제 실험은 조합적 결함을 보여준다—모델들은 고립된 상태에서는 높은 마음 이론(theory-of-mind) 정확도와 우연 수준 이상의 정신 회전(mental rotation) 성능을 달성하지만, 통합이 필요할 때는 치명적으로 실패한다. 이 분리(dissociation)는 현재 VLM들이 사회적 인식을 공간 연산에 결합하는 데 필요한 메커니즘이 부족함을 나타내며, 모델 기반 공간 추론의 근본적 한계를 시사한다. FlipSet은 다중모달 시스템에서 관점 수용 능력을 진단하기 위한 인지적으로 근거 있는 테스트베드를 제공한다.
대규모 언어 모델(LLM)의 마음 이론(Theory of Mind, ToM)에 대한 텍스트 기반 평가는 흔히 샐리-앤 과제와 유사한 인지 검사를 수반하는데, 이러한 검사는 사전학습 중 유사한 과제에 대한 노출로 인해 편법이 가능하며, 자연스러운 환경으로 일반화되는 방식으로 모델의 기능적 ToM 능력을 명확히 검증하지 못한다. 이러한 문제를 해결하기 위해, 우리는 강건하고 일반화 가능한 ToM 능력을 벤치마크하기 위해 설계된 2인 대화 게임인 인식론적 비대칭 셸링 과제(EAST, Epistemic Asymmetry Schelling Task)를 소개한다. LLM-LLM 쌍이 다양한 인식론적 투명성 조건 하에서 독립적으로 의미론적 셸링 포인트에 수렴하도록 요구함으로써, 모델이 조율을 달성하기 위해 ToM을 강건하게 적용할 수 있는지를 평가한다. 우리의 결과는 기능적 사회적 추론에서 상당한 능력 격차를 드러내며, 프론티어 모델만이 과제의 다양한 인식론적 요구를 성공적으로 처리하는 것으로 나타났다. 추론 흔적 분석을 통해, 조율 실패가 주로 사적 지식과 공유 지식을 혼동하는 것과 같은 인식론적 추적 오류에 의해 야기됨을 밝혔다. 전통적인 정적 벤치마크에서 높은 성능을 보임에도 불구하고, 본 연구는 강건한 사회적 추론과 인식론적 추적이 여전히 핵심적인 병목으로 남아 있음을 보여주며, 향후 LLM 평가 및 개발을 위한 구체적인 목표를 제시한다.
NCP-ExploreToM 프레임워크를 통해 대화적 설득이 아닌 행동 계획으로 다른 에이전트의 신념 상태를 유도하는 비대화적 계획 마음 이론(NCP-ToM) 능력을 최초로 평가한 연구로, GPT-5, Gemini 2.5 Pro, Claude 4 시리즈 등 6개 최신 모델을 600개 과제에서 평가한 결과 GPT-5만이 인간 참가자를 능가하였으며 모든 모델이 거짓 신념보다 참 신념 유도 과제에서 더 높은 성능을 보였다. 이는 자율 에이전트의 사회적 추론 역량이 창발적으로 나타나고 있음을 보여주는 동시에, 안전성과 정렬 평가에서 에이전트 기반 벤치마크의 필요성을 강조한다.
최근 연구에 따르면, 대규모 언어 모델(LLM)은 거짓 믿음 과제(FBT)로 측정했을 때 텍스트에 묘사된 에이전트의 믿음 상태에 민감하게 반응하지만, 구인 타당도(construct validity)에 대한 우려가 지속되고 있다. 본 연구는 **발달적 관점**을 채택하여, Olmo2와 Pythia 언어 모델 제품군의 여러 학습 단계에 걸쳐 정신 상태 추론 행동의 패턴과 이 행동의 **전제 조건**을 추적한다. 우리는 우연 수준 이상의 FBT 성능이 모델 크기와 충분한 학습량 모두에 의존하고, 사전 학습의 비교적 후반부에 출현하며, 정신화(mentalizing)를 가장 잘 진단하는 조건(False Belief, Implicit)에서 사후 학습 개입(SFT, DPO)에 의해 가장 크게 향상됨을 발견한다. 그러나 FBT 성능은 취약하다: 기존 연구와 일관되게, 비사실적 동사(예: thinks)의 사용은 True Belief 조건에서조차 거짓 믿음 귀인을 증가시킨다. 이러한 결과를 맥락화하기 위해, 우리는 **상황 모델링**, 즉 묘사된 장면의 기본적인 사실적 속성을 보고하는 능력의 출현을 추적한다. 상황 모델링 정확도는 일반적으로 FBT 정확도에 선행하며 이를 능가하지만, 상황적 표상 또한 특정 측면에서 놀랍도록 비일관적임이 드러난다: 사물의 실제 위치를 항상 알고 있는 적대자(Antagonist) 에이전트의 지식 상태에 대해 질문받을 때, Olmo2 13b는 대상(Target) 에이전트의 지식 상태와 비사실적 동사의 존재 모두에 지속적으로 영향을 받는다. 이러한 결과들을 종합하면, 충분히 학습된 대형 모델들이 발달적으로 적절한 순서로 부분적으로 일관된 상황 모델을 구축하지만 놀라운 취약성을 보임을 시사하며—이는 LLM 능력 평가를 위한 발달적 접근법과 스트레스 테스트 접근법의 가치를 부각시킨다.
대규모 언어 모델(LLM)이 인간의 사고방식을 추론할 뿐만 아니라, 팀원들의 공동 이해 불일치와 같이 팀 대화에 존재하는 모든 맹점을 드러낼 수 있다면 어떨까? 본 논문에서는 LLM을 팀 대화의 인간 스타일 주석자로 활용하여 팀의 공유 정신 모델(SMM)을 추적하는 동시에, 개인들의 정신 상태 간 불일치를 자동으로 탐지하는 검출기로도 활용하는 새로운 2단계 프레임워크를 제시한다. 첫 번째 단계에서 LLM은 Cooperative Remote Search Task(CReST) 코퍼스의 과업 지향 대화 내에서 SMM 요소를 식별하여 주석을 생성한다. 이후 보조 LLM이 이 LLM 기반 주석과 인간 주석을 정답 레이블과 비교하여 불일치를 탐지하고 특성화한다. 우리는 이 사용 사례를 위한 SMM 일관성 평가 프레임워크를 정의하고 이를 6개의 CReST 대화에 적용하여 최종적으로 (1) 인간 및 LLM 주석 데이터셋, (2) SMM 일관성에 대한 재현 가능한 평가 프레임워크, (3) LLM 기반 불일치 탐지의 실증적 평가를 산출한다. 실험 결과, LLM은 단순한 자연어 주석 과업에서 표면적인 일관성을 보이지만, 공간적 추론이나 운율적 단서의 중의성 해소가 요구되는 시나리오에서는 체계적인 오류를 범하는 것으로 나타났다.
기존의 이원적(dyadic) 사회 추론 게임이 LLM의 마음 이론(Theory of Mind) 능력을 충분히 평가하지 못한다는 문제를 해결하기 위해, 투표로 추방될 때 승리하는 역전된 유틸리티를 가진 조커(Jester) 세력을 늑대인간 게임에 추가한 삼각 유인 구조 벤치마크를 제안한다. GPT-4.1, DeepSeek-V3.1, Llama-3.3-70B 대상 60판 실험에서 조커가 60~70%의 게임을 승리한 반면 늑대인간은 20%를 넘지 못했으며, DeepSeek만이 의도적으로 의심스럽게 보이지 않으면서 의심을 끄는 미묘한 전략을 학습해 자기학습 루프에서 가장 큰 이득을 얻었다.
진정한 사회적 지능을 갖춘 실감나는 디지털 휴먼을 만들려면 인지 추론과 멀티모달 생성을 일관된 프레임워크 안에서 통합해야 한다. 현재 접근법들은 이를 별개의 과제로 다룬다: 대규모 언어 모델(LLM)은 대화에서 뛰어나지만 구현된 표현이 부족하고, 확산 기반 토킹 헤드 모델은 시각적 충실도를 달성하지만 사회적 인지를 무시한다. 이 격차를 해소하기 위해, 우리는 지각, 사회적 추론, 표현을 연속적인 상호작용 사이클로 통합하는 폐쇄 루프 이중 에이전트 프레임워크를 제안한다. 지각 모듈은 비디오에서 파트너의 멀티모달 행동을 분석하고, 사회적 추론 모듈은 마음 이론(Theory of Mind)을 통해 숨겨진 정신 상태를 추론하며 앙상블 메커니즘을 통해 응답을 선택한다. 표현 모듈은 화자의 발화 및 표정과 청자의 반응적 행동을 공동으로 합성하는 감정 제어 가능한 비디오를 생성하며, 이전 연구에서는 포착하지 못했던 양방향 역학을 담아낸다. 우리는 또한 정보 비대칭 하에서의 평가를 지원하기 위해 심리학적으로 근거한 페르소나와 사적 사회적 목표를 갖춘 계층적 Persona-Scenario 데이터셋을 구축한다. 이 데이터셋에 대한 실험은 대화 품질과 비디오 생성 지표 모두에서 경쟁력 있거나 우수한 성능을 보여준다. 특히, 우리의 방법은 주요 대화 품질 차원에서 완전한 정보를 갖는 Script 모드마저 능가하며, 이는 불확실성 하에서의 명시적 정신 상태 추론이 무제한적인 정보 접근보다 더 사려 깊은 대화를 이끌어낼 수 있음을 시사한다. 프로젝트 페이지: https://resonantminds.github.io/
타인의 믿음을 추론하려면 표면적 신호를 읽는 것 이상이 필요하다. 누가 무엇을 어떤 순서로, 얼마나 신뢰할 수 있게 전달했는지를 추적해야 한다. 마음 이론 유틸리티(Theory of Mind Utility, ToM-U)는 이 인식론적 상태 추론 문제를 알고리즘적 또는 신경 구현에 대한 가정 없이 계산 수준의 분석 틀에서 형식화하며, 정신화(mentalizing)가 무엇을 계산하고 왜 그러한지를 명시한다. ToM-U는 지역 인식론적 세계 모델(Local Epistemic World Models, LEWMs)을 구성함으로써 이를 달성한다. LEWMs는 에이전트, 상태 노드, 이들 간의 인식론적 관계를 표현하는 방향성 타입 그래프이며, 충분한 확신이 달성될 때까지 관찰된 행동에 대해 이산적인 후보 LEWMs를 평가한다. 다섯 가지 형식적 정의가 LEWM 구조, 순서가 있는 정보 접근 이력을 포함한 에이전트 노드 속성, 재귀적 정신화를 위한 유계 증식 메커니즘, 세 가지 추론 절차, 그리고 실패한 정신화 시도가 남긴 구조적 흔적을 포착하는 잔류 함수를 명시한다. ToM-U는 믿음 상태를 도출하기보다 전제하는 베이지안 마음 이론 및 인접한 형식적 설명들과 구별되며, 인식론적 상태 추론을 위한 형식적 장치가 없는 시뮬레이션 이론 및 이론-이론(theory-theory)과도 구별된다. 이 아키텍처는 보조 가정이 아닌 모델의 구조적 속성으로부터 도출되는 정신화 실패에 대한 방향적이고 반증 가능한 예측을 생성하며, ToM-U를 목표 추론 및 기타 하위 사회 인지 과정의 상위에 위치하는 도메인 불가지론적 메커니즘으로 자리매김한다.
불완전한 관찰에서 에이전트의 신념을 추론하는 Theory of Mind(ToM) 문제를 해결하기 위해, 순환적 관점 구성을 통해 중첩된 신념을 명시적으로 모델링하는 RecToM 프레임워크를 소개한다. 이 방법은 다양한 LLM 백본을 사용한 벤치마크에서 기존 접근 방식을 능가하는 최첨단 성능을 달성했다.
협력적 다중 에이전트 추론에서 명시적 신념 그래프(belief graph)가 LLM 성능을 향상시키는지 조사한다. 협력 카드 게임 Hanabi에서 네 가지 LLM 계열에 걸친 3,000회 이상의 통제 실험을 통해 네 가지 결과를 도출한다. 첫째, 통합 아키텍처가 신념 그래프의 가치 여부를 결정한다. 프롬프트 컨텍스트로 사용될 때 그래프는 강한 모델에게는 장식에 불과하며, 약한 모델에게만 2차 Theory of Mind(ToM)에서 이점을 준다(80% vs 10%, p<0.0001, OR=36.0). 그래프가 순위가 매겨진 숏리스트를 통해 행동 선택을 게이트할 때는 강한 모델에서도 구조적으로 필수적이 된다(2차 ToM에서 100% vs 20%, p<0.001). 둘째, "Planner Defiance"라는 모델 계열별 실패 양상을 확인한다. 이는 LLM이 부분적 능력 수준에서 올바른 플래너 권고를 무시하는 현상이다(90% 무시, N=20에서 재현). Gemini 모델은 거의 무시하지 않는 반면 Llama 70B는 90%를 보이며, 모델들은 사실적 컨텍스트(순응)와 권고적 추천(무시)을 구분한다. 셋째, 전체 게임 증거는 에이전트 간 관습이 기준선 대비 +128%(p=0.003)로 모든 단일 에이전트 개입을 능가함을 확인하며, 개별 신념 그래프 구성 요소는 이득을 내기 위해 결합되어야 한다. 넷째, 예비 스케일링 분석(N=10/cell, 탐색적)은 그래프 깊이에 수익 체감이 있음을 시사한다. 얕은 그래프가 최고의 비용-편익 비율을 제공하는 반면, 더 깊은 ToM 그래프는 플레이어 수가 많을수록 해로워 보인다(5인에서 -1.5 pts, p=0.029).