월드 모델에 대한 고찰: 월드 모델링을 위한 생성적 잠재 예측 아키텍처
Critique of World Model
월드 모델은 생물학적 에이전트가 경험하고 행동하는 실제 환경의 알고리즘적 시뮬레이터로서, 인공(일반) 지능을 갖춘 가상 에이전트를 개발하려는 필요성이 증가함에 따라 최근 부상하는 주제가 되었습니다. 월드 모델이 실제로 무엇인지, 어떻게 구축하고, 사용하고, 평가하는지에 대해 많은 논의가 있었습니다. 이 에세이에서는 유명한 SF 명작 '듄(Dune)'의 상상력에서 출발하여 심리학 문헌의 '가설적 사고(hypothetical thinking)' 개념에서 영감을 얻고, 월드 모델의 주요 목표는 '목적 있는 추론 및 행동을 위해 실제 세계의 모든 실행 가능한 가능성을 시뮬레이션하는 것'임을 주장합니다. 우리는 월드 모델링(world modeling)의 주요 설계 차원인 데이터, 표현, 아키텍처, 학습 목표, 활용을 살펴보고, 기존 접근 방식을 조사하며 그 상충 관계(tradeoffs)를 분석합니다. 이러한 검토를 바탕으로, 우리는 상태 기반(stateful), 계층적(hierarchical), 다중 레벨(multi-level), 연속/이산 혼합 표현(mixed continuous/discrete representations)과 생성적이며 자기 지도 학습(self-supervised learning) 프레임워크에 기반한 범용 월드 모델을 위한 새로운 생성적 잠재 예측(GLP) 아키텍처를 제안합니다. 아울러 이러한 모델을 통해 가능해지는 물리적, 에이전트적, 중첩된(PAN) AGI 시스템의 전망을 제시합니다.