마음 이론 유틸리티: 정신화 메커니즘의 형식적 명세
The Theory of Mind Utility: Formal Specification of a Mentalizing Mechanism
한국어 초록
타인의 믿음을 추론하려면 표면적 신호를 읽는 것 이상이 필요하다. 누가 무엇을 어떤 순서로, 얼마나 신뢰할 수 있게 전달했는지를 추적해야 한다. 마음 이론 유틸리티(Theory of Mind Utility, ToM-U)는 이 인식론적 상태 추론 문제를 알고리즘적 또는 신경 구현에 대한 가정 없이 계산 수준의 분석 틀에서 형식화하며, 정신화(mentalizing)가 무엇을 계산하고 왜 그러한지를 명시한다. ToM-U는 지역 인식론적 세계 모델(Local Epistemic World Models, LEWMs)을 구성함으로써 이를 달성한다. LEWMs는 에이전트, 상태 노드, 이들 간의 인식론적 관계를 표현하는 방향성 타입 그래프이며, 충분한 확신이 달성될 때까지 관찰된 행동에 대해 이산적인 후보 LEWMs를 평가한다. 다섯 가지 형식적 정의가 LEWM 구조, 순서가 있는 정보 접근 이력을 포함한 에이전트 노드 속성, 재귀적 정신화를 위한 유계 증식 메커니즘, 세 가지 추론 절차, 그리고 실패한 정신화 시도가 남긴 구조적 흔적을 포착하는 잔류 함수를 명시한다. ToM-U는 믿음 상태를 도출하기보다 전제하는 베이지안 마음 이론 및 인접한 형식적 설명들과 구별되며, 인식론적 상태 추론을 위한 형식적 장치가 없는 시뮬레이션 이론 및 이론-이론(theory-theory)과도 구별된다. 이 아키텍처는 보조 가정이 아닌 모델의 구조적 속성으로부터 도출되는 정신화 실패에 대한 방향적이고 반증 가능한 예측을 생성하며, ToM-U를 목표 추론 및 기타 하위 사회 인지 과정의 상위에 위치하는 도메인 불가지론적 메커니즘으로 자리매김한다.
원문 초록
Inferring others' beliefs requires more than reading surface signals; it requires tracking who told them what, in what order, and how credibly. The Theory of Mind Utility (ToM-U) formalizes this epistemic state inference problem at the computational level of analysis, specifying what mentalizing computes and why without commitment to algorithmic or neural implementation. ToM-U achieves this by constructing Local Epistemic World Models (LEWMs) -- directed typed graphs that represent agents, state nodes, and the epistemic relationships among them -- and evaluating discrete candidate LEWMs against observed behavior until one achieves sufficient confidence. Five formal definitions specify the LEWM structure, agent node properties including ordered information access history, a bounded proliferation mechanism for recursive mentalizing, three inference procedures, and a residue function that captures the structured trace left by failed mentalizing attempts. ToM-U differs from Bayesian Theory of Mind and adjacent formal accounts, which presuppose rather than derive belief states, and from simulation theory and theory-theory, which lack a formal apparatus for epistemic state inference. The architecture generates directional, falsifiable predictions about mentalizing failure that follow from structural properties of the model rather than auxiliary assumptions, and positions ToM-U as a domain-agnostic mechanism upstream of goal inference and other downstream social cognitive processes.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12721v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
인과적 세계 모델은 모듈형 LLM 에이전트에 언제 도움이 되는가
When Do Causal World Models Help Modular LLM Agents
시계열 월드 모델에서 정확도와 메커니즘 일관성의 괴리에 대하여
On the Divergence of Accuracy and Mechanism Consistency in Time Series World Models
시계열 월드 모델(TSWM)은 제어 대상 시스템의 관측된 과거 이력과 계획된 행동 및 외생적 입력을 바탕으로 시스템의 상태를 예측한다. 기존 접근법들은 행동을 공변량으로 취급하는 예측 모델을 구축하며, 실행된 계획 하에서의 예측 오차를 기준으로 학습되고 평가된다. 그러나 월드 모델은 실행되지 않은 계획들을 비교해야 함에도 불구하고, 변경된 계획에 대한 모델의 반응은 아직 검증되지 않은 상태로 남아 있다. 본 연구에서는 어떠한 설계 선택이 중요하며, 정확한 예측 모델이 실제 시스템처럼 변경된 계획에 반응하는지 묻는다. 우리는 정형화(formalization)와 벤치마크를 통해 두 질문을 모두 다룬다. 정형화 과정에서는 상태, 행동, 외생적 입력을 분리하고, 연속형·모드형·이벤트형 행동을 구분하며, 혈관수축제가 혈압을 상승시키는 것과 같이 방향성이 알려진 선언된 행동-상태 관계를 기반으로 구축된 지표인 메커니즘 일관성(mechanism consistency)을 도입한다. 이는 행동을 변화시켰을 때 예측 결과가 선언된 방향으로 움직이는지를 점검한다. 벤치마크는 공학 인프라 및 임상 치료 분야의 실제 행동을 포함하는 8개의 공개 데이터셋을 통합하고, 7개의 백본과 5개의 시드에 걸쳐 예측 공간, 계획 융합(plan fusion), 계획 인코딩을 다양하게 변화시킨다. 첫째, 동결된 잠재 예측 공간은 관측 공간 대비 평균 절대 오차(MAE)를 평균 9.9% 낮추고, 게이트 출력 융합은 입력 연결 대비 MAE를 평균 12.7% 낮추며, 두 방식 모두 8개 데이터셋 전체에서 성능을 개선한다. 반면 시간적 계획 인코딩에 따른 평균 MAE 변화는 최대 2.2%에 불과하다. 둘째, 예측 오차와 메커니즘 일관성은 서로 괴리를 보인다. 오차가 가장 낮은 구성조차 선언된 메커니즘이 있는 5개 데이터셋 중 4개에서 일관성이 무작위 수준(chance) 이하에 머물렀으며, 어떠한 설계 선택으로도 이를 피할 수 없었다. 마지막으로, 변화된 행동에 대한 반응 중 잘못된 부호(wrong-signed)를 갖는 부분에 페널티를 부여하는 손실 함수인 방향성 지도(directional supervision)는 MAE의 변화 없이 페널티가 적용된 메커니즘의 일관성을 크게 향상시킨다. 종합하면, 본 연구는 정확도를 위한 동결된 잠재 공간 및 출력단 융합, 그리고 메커니즘 일관성을 위한 학습 목표라는 TSWM을 위한 레시피를 제공한다.
관찰에서 통찰로: 기계론적 세계 모델과 자율 발견의 추구
From Observation to Insight: Mechanistic World Models and the Quest for Autonomous Discovery
최근 파운데이션 모델(foundation model)의 발전은 과학을 위한 AI(AI for Science)를 변화시켰으며, 단백질 접힘에서 기상 예측에 이르는 다양한 영역에서 놀라울 정도로 정확한 예측 성능을 가능하게 했다. 그러나 예측만으로는 과학적 발견을 구성하지 못한다. 과학적 이해는 관찰을 생성하는 재사용 가능한 설명적 메커니즘을 밝혀내는 것에 달려 있지만, 현대 기계학습은 근본적으로 설명적 구조가 아니라 예측적 매핑을 중심으로 조직되어 있다. 본 논문에서는 과학적 발견이 근본적으로 지식 조직화(knowledge organisation)의 문제라고 주장한다. 이를 위해 재사용 가능한 메커니즘을 표현, 계산, 학습의 중심에 두는 새로운 설계 패러다임인 기계론적 세계 모델(Mechanistic World Models)을 제안한다. 과학 철학의 통찰을 바탕으로, 발견에 필요한 계산적 역량을 도출하고, 설명적 지식이 나타나도록 유도하는 설계 원칙과 귀납적 압력(inductive pressures)을 식별하며, 메커니즘 중심 세계 모델의 구조를 형식화한다. 마지막으로, 기계론적 해석 가능성(mechanistic interpretability), 인과 표현 학습(causal representation learning), 방정식 발견(equation discovery), 모듈형 아키텍처(modular architectures)를 포함한 다양한 연구 방향이 이 패러다임의 상호 보완적 구성 요소를 포착하지만 통합된 프레임워크는 결여하고 있음을 보인다. 기계론적 세계 모델을 예측적 예보를 넘어 자율적 과학 발견(autonomous scientific discovery)을 향해 AI를 이끄는 개념적 토대와 계산적 청사진으로 제안한다.
TRACE: 감사 가능한 에이전트 확약을 위한 운용형 추론 스키마
TRACE: An Operational Reasoning Schema for Auditable Agentic Commitments
이 논문은 TRACE(Typed Reasoning And Commitment Evidence)를 정의한다: 추론 추적을 기록하기 위한 타입이 지정되고 버전 관리되는 스키마, 이에 따라 기록을 작성하는 참조 절차, 그리고 하나의 운용 규율—기록 없이는 영속적인 상태 변경이 없어야 한다—을 제시한다. 논문은 세 층위에서 추론이 언어 모델 안에 있지 않다고 주장한다: 자기회귀 메커니즘은 본질적으로 연관(association)을 계산하고, 사고의 연쇄(Chain-of-Thought)와 강화학습은 그 한계를 물려받으며, 소크라테스 절차에서 Pearl의 사다리에 이르기까지 추론 이론의 형식적 구성요소는 기계로서 존재하지 않는다. 스키마는 필드와 검증으로 이 공백에 응답한다: TraceRecord와 그 인과적 특화, 8단계 참조 작성기, 게이트 우선 측정 체계, TRACE-Bench 프로토콜, 그리고 memory admission, plan gating, temporal regret, verdict reuse와 같은 소비자들—이들의 더욱 감사 가능한 결정이 기록의 척도가 된다. 기록-소비자 계약은 기록이 보증하는 것과 소비자가 그에 상응하여 준수해야 할 것을 명시하여, 스키마를 수동적 문서가 아닌 운용형 인터페이스로 만든다. 본문에는 두 가지 사례가 제시된다: 음악 레슨 논증을 문장에서 타입이 지정된 판정까지 추적하며 연관, 개입(intervention), 처방(prescription)을 구분하는 사례; 그리고 홍수 수색·구조 시나리오에서 예측 세계 모델이 자신의 지원 점수와 분포 외(out-of-distribution) 점수와 모순되는 확신 있는 계획 성공을 보고하므로, 기록이 확약을 유보하고, 유계 관측을 요청하며, 추가 전용(append-only)으로 수정하고, 다른 분기를 승인하는 사례. 이 시나리오는 설명적이며 경험적이 아니다; 폐루프 평가는 향후 연구에 남겨두었으므로, 기여는 성능 주장이 아니라 스키마와 그 계약에 있다. 부록에는 전체 스키마, 작성기 알고리즘과 비용 모델, 임상 및 정책 사례, 벤치마크 프로토콜, 수렴 지표, 사용 시나리오가 담겨 있다.
축소 차원 모델: 월드 모델의 어머니
Reduced-Order Models: The Mother of World Models
월드 모델(world model) — 행동 조건화된 예측 및 계획을 지원하는 환경의 압축된 잠재 표현 — 은 통상 현대 자기지도 학습(self-supervised learning)의 산물로 소개된다. 본 논문은 월드 모델의 기능적 구조가 수십 년 전 모델 차원 축소(MOR, model-order-reduction) 및 제어 분야에서 서로 다른 명칭과 목적 하에, 즉 물리 시스템의 실시간 운용을 위해 독립적으로 개발·배포·형식적으로 분석되었다고 주장한다. 우리는 세 연구 커뮤니티에 걸쳐 이 구조를 추적한다. 고유 직교 분해(POD, proper orthogonal decomposition)를 기반으로 구축된 난류의 저차원 모델은 혼돈 환경의 데이터로부터 학습된 잠재 동역학을 제공했으며, 초기 컴퓨터 비전(CV)의 고유얼굴(eigenface) 방법은 원시적인 런타임 유효성 검사를 포함한 인코더-디코더 절반을 제공했고, 시설 열 제어를 위한 측정 기반 POD 프레임워크는 완전한 루프를 조합했다 — POD 계수를 잠재 상태로, 액추에이터 설정값에 대한 파라메트릭 의존성을 행동 조건화로, 모달 재구성(modal reconstruction)을 디코딩으로, 그리고 결정적으로 사전 해석적 오차 경계를 폐루프에서 모델 예측을 신뢰할 수 있는 시점을 보증하는 검증 층으로 활용했다. 이어서 우리는 각 전통이 상대방에게 없는 것을 갖추고 있음을 검토한다: MOR은 검증 가능성, 물리적 그라운딩(physical grounding), 극도의 데이터 효율성을 제공하고, 학습된 월드 모델은 비선형 표현, 전이 가능성, 그리고 예측 수평선을 제공한다. 우리는 전력·열·공정 제어 등 실패가 허용되지 않는 시스템에 월드 모델을 배포하는 데 있어 핵심 장애물이 예측 충실도가 아닌 검증 가능성임을 주장하며, 두 계보를 통합하는 물리 기반의 검증 가능한 월드 모델을 위한 연구 의제를 제시한다.
구현된 행동 조건부 월드 모델을 위한 인과적 편향 제거 잠재 행동 모델
Causally Debiased Latent Action Model for Embodied Action Conditioned World Models
행동 조건부 월드 모델(ACWM)은 구현된 행동을 조건으로 미래 관측을 시뮬레이션하는 것을 목표로 하며, 로봇 계획, 정책 평가, 데이터 증강(data augmentation)을 위한 유망한 기반을 제공한다. 그러나 제어 가능한 ACWM을 학습하려면 대규모 행동 레이블 데이터가 필요하며, 이를 실세계에서 수집하는 데는 여전히 높은 비용이 든다. 잠재 행동 모델(LAM)은 레이블이 없는 비디오에서 잠재 행동을 추론함으로써 이 병목을 완화하지만, 기존 LAM은 일반적으로 재구성만을 목적으로 학습되기 때문에 행동 관련 동역학과 배경, 미접촉 객체 등 행동과 무관한 시각적 요소가 뒤엉키는 문제가 있다. 본 연구에서는 이러한 행동 무관 바이어스(bias)를 제어 가능한 ACWM의 핵심 장애 요인으로 규명하고, 잠재 행동 바이어스, 행동 추종, 강건성을 측정하기 위한 평가 지표를 도입한다. 우리는 LAM 기반 ACWM을 위한 인과적 편향 제거 프레임워크인 CD-LAM을 제안한다. CD-LAM은 세 가지 효율적인 미세조정(fine-tuning) 목적 함수를 도입한다: 구현체 중심 재구성, 행동 중심 대조 학습, 잠재 공간 보정. 이 세 가지가 함께 구현체에 집중되고 행동을 인식하며 붕괴되지 않는 보정된 잠재 행동 표현을 유도한다. 2B 및 14B ACWM 백본에 대한 실험에서 CD-LAM은 잠재 행동 제어 가능성, 다운스트림 로봇 행동 추종, 시각적 충실도, 적응 효율성을 크게 향상시키며, 단 6,000회의 미세조정 스텝만으로 기준선(baseline) 대비 로봇 행동 적응 업데이트 횟수를 12배 이상 줄이는 것을 확인하였다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.