FlipTest: 동영상 월드 모델은 세계의 상태를 학습하지 못한다
The Flip Test: Video World Models Fail to Learn the World State
한국어 초록
동영상 월드 모델은 현재 장면에서 미래를 예측할 수 있을 것으로 기대된다. 현재 모델은 이 기대를 충족하는가? 본 연구는 반사실적 비교로 이 질문을 조사한다. 상자가 탁자 모서리에서 몇 밀리미터 안쪽에 있거나 바깥쪽에 있는 경우처럼, 현재가 조금만 달라져도 미래가 뒤바뀔 수 있다. 세계의 상태를 추적하는 모델이라면 그에 따라 예측도 바꿔야 한다. 본 연구는 모의 과제 열 개와 실제 과제 열다섯 개에서 얻은 초기 프레임 1,680장을 대상으로, 점차 엄격해지는 3단계 평가 FlipTest를 구축했다. 첫 단계의 시각적 최소 쌍은 실제 미래가 다르지만 거의 같은 프레임 두 장으로, 경계를 넘으면 예측도 바뀌는지 시험한다. 대응 대조군은 실제 미래가 달라지는 경우에만 예측이 바뀌는지 시험한다. 가장 엄격한 단계에서는 조건을 촘촘하게 변화시켜 예측이 뒤바뀌는 위치를 정확히 찾는다. 평가한 동영상 월드 모델 11종 모두 기준에 미치지 못했다. 가장 우수한 모델도 실제 장면과 모의 장면에 걸친 쌍 정확도가 평균 18.3%로 무작위 추측의 25%보다 낮았다. 모델은 실제 미래를 바꾸는 변화와 바꾸지 않는 변화에 비슷한 빈도로 예측을 뒤집었다. 조건을 촘촘히 바꾸어도 모델의 반응은 거의 일정했다. 동일한 프레임에서 비전-언어 모델은 변화에 선택적으로 반응하며 경계 근처에서 S자에 가까운 곡선을 그렸다. 이미지를 측정하는 코딩 에이전트는 실제 경계에 근접했다. 이는 결과를 결정하는 정보가 프레임 안에 있지만 동영상 모델이 이를 포착하지 못한다는 뜻이다. 따라서 월드 모델링을 순수한 동영상 예측으로 보는 접근을 재검토할 필요가 있다. 다음 프레임을 예측하려면 그럴듯한 픽셀을 그리는 데 그치지 않고, 미래의 동역학을 결정하는 인과적 상태를 식별해야 한다.
원문 초록
Video world models promise to predict the future of a scene from its present. Do current models keep this promise? We probe this question counterfactually. When a small change to the present flips the future, such as a box resting a few millimeters before or past a table edge, a model that tracks the state of the world must flip its prediction too. We build FlipTest, a three-level hierarchy of increasingly strict tests over 1,680 initial frames from 10 simulated and 15 real-world tasks. At the base, visual minimal pairs, two nearly identical frames whose true futures differ, test whether predictions change across the boundary; matched controls go further and test whether they change only where the future does; and dense sweeps, the strictest level, locate exactly where they change. All 11 video world models we evaluate fall short. The best averages 18.3% pair accuracy over real and simulated scenes, below the 25% of random guessing. Models flip as often on steps that leave the future unchanged as on steps that change it, and their response stays flat across the sweeps. On the same frames, a vision-language model is selective and traces a near S-shaped curve near the boundary, and a coding agent that measures the image comes close to the true boundary. This implies that the deciding information is in the frame, and video models just miss it. We therefore urge the community to rethink world modeling as pure video prediction. Next-frame prediction must do more than draw plausible pixels; it must also identify the causal states that control future dynamics.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.19822v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.