반사실적 월드 모델: "만약"을 추론하는 JEPA
Counterfactual World Models: JEPAs That Reason About "What If"
한국어 초록
월드 모델은 완전히 관측할 수 없는 세계에서 작동한다. 배를 미는 해류와 같은 숨겨진 교란이 행동의 결과를 바꿀 때, 같은 교란 아래에서 다른 행동을 했다면 무슨 일이 일어났을까라는 반사실적 질문이 뒤따른다. 그 답은 나쁜 결정과 나쁜 운을 구분해 준다. 우리는 사실적 전이로 학습된 월드 모델이 데이터나 용량에 관계없이 스스로는 이 질문에 답할 수 없음을 증명한다. 많은 물리 시스템에서는 관측된 결과와 동역학의 단순한 성질, 즉 natura non facit saltus(자연은 도약하지 않는다)만으로 충분하다. 행동과 교란이 별개의 힘으로 작용할 때 그 상호작용은 시간에 대해 2차이므로, 반사실적 결과는 1차 근사로 관측된 결과에 대체 행동과 사실적 행동 하에서의 월드 모델 예측 간의 차이를 더한 것이다. 이는 반사실적 데이터, 추가 매개변수, 재학습 없이 반사실적 월드 모델을 제공한다. 지속 시간이 $h$인 전이에 대해, 교란 분산에 상대적인 반사실적 오차에 $O(h^2)$ 경계를 증명하고, 짝지어지지 않은 사실적 데이터로부터 일치하는 미니맥스 하한을 확립하며, 불연속, 좌표 접힘, 명령을 스케일링하는 교란에서의 실패를 특성화한다. 우리는 고정된 DINOv2 및 마스크드 오토인코더(MAE) 인코더 기반 JEPA 월드 모델로 픽셀에서 이러한 예측을 검증한다. 렌더링된 네 개의 시뮬레이터에서 우리의 접근법은 동일한 월드 모델로 반사실적 $R^2$를 $38$--$46\%$에서 $86$--$96\%$로 향상시키며, 다섯 번째인 수중 이동체에서는 열여섯 배 더 많은 사실적 데이터로 $90$--$94\%$에 도달한다. 네 개의 추가 고정 인코더인 DINOv3, SigLIP~2, CLIP, EVA-02는 같은 시뮬레이터에서 $81$--$95\%$를 기록한다. 사후 계획에서는 목표에 도달했을 행동을 사건의 $35$--$69\%$에서 찾아내는데, 이는 시뮬레이터는 알지만 결과는 모르는 오라클 플래너의 $14$--$23\%$와 대비된다.
원문 초록
World models operate in a world they cannot fully observe. When a hidden disturbance, such as a current pushing a boat, changes the outcome of an action, a counterfactual question follows: what would have happened under a different action, subject to the same disturbance? Its answer separates bad decisions from bad luck. We prove that world models trained on factual transitions cannot answer it on their own, whatever their data or capacity. For many physical systems, the observed outcome and a simple property of the dynamics suffice: natura non facit saltus, nature makes no leaps. When actions and disturbances act as separate forces, their interaction is second-order in time, so the counterfactual outcome is, to first order, the observed outcome plus the difference between the world model's predictions under the alternative and factual actions. This yields a counterfactual world model with no counterfactual data, extra parameters, or retraining. For transitions of duration $h$, we prove an $O(h^2)$ bound on the counterfactual error relative to the disturbance variance, establish a matching minimax lower bound from unpaired factual data, and characterize failures at discontinuities, coordinate folds, and disturbances that scale the command. We validate these predictions from pixels with JEPA world models on frozen DINOv2 and masked autoencoder (MAE) encoders. On four rendered simulators, our approach improves counterfactual $R^2$ from $38$--$46\%$ to $86$--$96\%$ with the same world models; on a fifth, an underwater vehicle, it reaches $90$--$94\%$ with sixteen times more factual data. Four further frozen encoders, DINOv3, SigLIP~2, CLIP and EVA-02, give $81$--$95\%$ on the same simulators. In hindsight planning, it finds the action that would have reached the goal in $35$--$69\%$ of events, against $14$--$23\%$ for an oracle planner that knows the simulator but not the outcome.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24778v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.