arXiv:2606.13092v1 cs.LG

스케일은 보간을 제공하고, 구조는 수평선을 제공한다: 등변 세계 모델을 위한 인증된 예측 가능성

Scale Buys Interpolation, Structure Buys a Horizon: Certified Predictability for Equivariant World Models

Hongbo Wang

제출 2026-06-11

한국어 초록

스케일은 보간을 제공하고, 구조는 인증된 수평선을 제공한다. 세계 모델의 평균 오차는 특정 예측이 신뢰될 수 있는지, 또는 얼마나 오랫동안 신뢰될 수 있는지에 대해 아무것도 말해주지 않는다. 등변(equivariant) 잠재 세계 모델에 대해 우리는 예측 가능한 수평선의 계산 가능한 다단계 인증서를 제공한다: T-스텝 롤아웃 오차는 각 대칭 궤도(symmetry orbit)에서 증명 가능하게 상수이며 (정리 A), 예측기의 리아푸노프 스펙트럼(Lyapunov spectrum)에 의해 채널별로 층화된다, $T_j(ε)\sim\log(1/ε)/λ_j$. 수평선은 양방향적이다 -- 대응하는 하한이 근사 등변성(approximate equivariance)을 증명 가능하게 수평선 제한적으로 만든다 -- 그리고 인증서는 구조에 독점적이다: 궤도 상수 오차(orbit-constant error)는 등변성을 특징짓기 때문에, 어떤 규모에서도 비등변 모델은 이를 가질 수 없다. 실험적으로, 40차원 Lorenz-96에서 $\mathbb{Z}_N$-등변 네트워크만이 완전한 리아푸노프 스펙트럼을 복원하며 ($R^2{=}0.98$), 밀집 및 순환 기준 모델은 실패한다. 스펙트럼이 충실하기 때문에 인증서는 사전적으로 작동한다: 고정된 센싱 예산(sensing budget) 하에서 $c\times$ 팽창된 인증서는 증명 가능하게 $c\times$의 예산이 필요하며, 등변 인증서는 팽창된 밀집 대응물이 충족할 수 없는 예산을 교정 데이터 없이 충족한다. 동일한 판독값은 변경 없이 공개된 사전학습 세계 모델을 학습 없이 감사한다: TD-MPC2 체크포인트는 인증서 자체의 범위 분류체계에 위치한다 -- 강하게 팽창하는 곳에서는 보정됨(비율 0.94-1.02), 약하게 팽창하는 곳에서는 낙관적, 수축하는 곳에서는 올바르게 기권 -- 이는 배포된 모니터가 표본 외에서 셀별로 복제하는 지도이다. 공식적인 1M-317M 멀티태스크 래더(multitask ladder) 전반에 걸쳐 보정은 매개변수와 함께 개선되지 않는다. V-JEPA 2-AC (1B, 실제 로봇 데이터)에서 측정된 교차 검증은 과도하게 낙관적인 접선 스펙트럼(tangent spectrum)을 올바르게 무효화한다 -- 교차 검증된 감사가 배포 가능한 객체이며, 원시 수치가 아니다. 스케일은 보간을 제공하지, 보정된 수평선을 제공하지 않는다.

원문 초록

Scale buys interpolation; structure buys a certified horizon. A world model's average error says nothing about whether a particular prediction can be trusted, or for how long. For equivariant latent world models we give a computable, multi-step certificate of the predictable horizon: $T$-step rollout error is provably constant over each symmetry orbit (Theorem A) and stratified channel-by-channel by the predictor's Lyapunov spectrum, $T_j(ε)\sim\log(1/ε)/λ_j$. The horizon is two-sided -- a matching lower bound makes approximate equivariance provably horizon-limited -- and the certificate is exclusive to structure: orbit-constant error characterizes equivariance, so no non-equivariant model has it at any scale. Empirically, on 40-D Lorenz-96 only a $\mathbb{Z}_N$-equivariant network recovers the full Lyapunov spectrum ($R^2{=}0.98$); dense and recurrent baselines fail. Because the spectrum is faithful, the certificate acts, a priori: under a fixed sensing budget a $c\times$-inflated certificate provably needs $c\times$ the budget, and the equivariant certificate meets a budget its inflated dense counterpart cannot -- with zero calibration data. The same read-out, unchanged, audits public pretrained world models training-free: TD-MPC2 checkpoints land on the certificate's own scope taxonomy -- calibrated where strongly expansive (ratio 0.94-1.02), optimistic where weakly expansive, correctly abstaining where contracting -- a map a deployed monitor replicates cell-by-cell, out-of-sample. Across the official 1M-317M multitask ladder, calibration does not improve with parameters. On V-JEPA 2-AC (1B, real robot data) the measured cross-check correctly overrides an over-promising tangent spectrum -- the cross-validated audit, not the raw number, is the deployable object. Scale buys interpolation, not a calibrated horizon.

요약

대칭성(equivariant)을 가진 잠재 세계 모델의 예측 가능한 수평선을 보증하는 계산 가능한 인증서를 제안하며, 이는 리아푸노프 스펙트럼을 기반으로 오차를 층화하여 모델의 신뢰성을 정량화합니다. 실험 결과 대칭성 네트워크가 기존 방법보다 우수한 성능을 보이고, 제안된 방법이 사전학습된 모델의 보정 범위를 학습 없이 검증할 수 있음을 입증했습니다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.13092v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.01736v3cs.LG공통 태그 Model Predictive Control, world models

RSSM 월드 모델에서의 보상 관찰 가능성과 오프라인 체크포인트 선택의 한계

Reward Observability and the Limits of Offline Checkpoint Selection in RSSM World Models

우리는 Gymnasium의 LunarLander-v3에서 인간 시연(human demonstration) 데이터로 학습된 순환 상태공간모델(recurrent state-space model, RSSM) 월드 모델(world model)의 폐루프(closed-loop) 특성을 연구한다. 우리는 학습된 월드 모델을 제로샷(zero-shot) CEM 모델예측제어(model-predictive control, MPC)와 상상(imagination) 내 액터-크리틱(actor-critic, A2C) 학습에 사용한다. 100개의 홀드아웃(held-out) 에피소드로 평가했을 때, 선택된 모델 기반 A2C 정책(월드 모델 체크포인트 280에서 학습됨)은 평균 리턴(mean return) +189.5를 달성하여, 최고의 모델-프리(model-free) A2C 체크포인트(+183.7; 각각 600스텝 및 1000스텝 에피소드 상한)와 대등한 성능을 보이면서도 실제 학습 전이(transition)는 약 65배 더 적게 사용했다. 우리는 또한 월드 모델 MPC를 성공적인 시연 데이터로 학습된 행동 복제(behaviour-cloning, BC) 정책과 비교한다. BC 정책은 확률적(stochastic) 행동 선택 하에서만 MPC의 평균 리턴과 대등한 성능을 보이며, 동일한 20개 에피소드에서 MPC에는 없는 하나의 치명적인(catastrophic) 에피소드가 발생한다. 이어서 우리는 선형화된 잠재 동역학(latent dynamics)의 관측 가능한 부분공간(observable subspace) 내에서 보상 그래디언트(reward gradient)의 유클리드 비율(Euclidean fraction)인 보상 관찰 가능성 비율(Reward Observability Fraction, ROF)을 도입하고, 이후 H개의 관측(observation)이 이 부분공간 내의 모든 방향에 대해서는 피셔 정보(Fisher information)를 가지지만 그와 직교하는 방향에 대해서는 전혀 가지지 않음을 보인다. 그러나 ROF 자체는 잠재 변수(latent)가 어떻게 스케일링(scaling)되는지에 의존한다. 즉, 잠재 변수를 재스케일링(rescaling)하면 모델은 변하지 않지만 ROF는 변하므로, 원시(raw) 수치 수준은 모델 간에 직접 비교할 수 없다. 보상 헤드(reward head)를 사후분포로 보정된(posterior-corrected) 잠재 변수 z에 강제로 연결하면 ROF가 상승하며, 이 상승은 우리가 테스트한 두 실행(run) 쌍에 대한 좌표 불변성(coordinate-invariant) 검증을 통과한다. 마지막으로, 우리는 ROF 또는 다른 오프라인 지표(metric)가 MPC의 폐루프 붕괴(collapse)를 예측할 수 있는지를 검증한다. 붕괴는 동일한 데이터와 설정(configuration)을 가진 학습 실행들 사이에서도 서로 다르게 나타난다. ROF는 이를 예측하지 못하며, 우리가 선별(screening)한 108개의 오프라인 요약 지표(summary) 중 어느 것도 순열 검정(permutation test)을 통과하지 못했고, 가장 유력한 후보조차 새로운 실행에서는 실패한다. 모델과 로그 데이터만으로 붕괴를 오프라인에서 예측하는 문제는 여전히 미해결 과제로 남아 있다.

arXiv:2607.02403v2cs.RO공통 태그 Model Predictive Control, world models

ACID: 월드 모델 기반 플래닝을 위한 역동역학을 통한 행동 일관성

ACID: Action Consistency via Inverse Dynamics for Planning with World Models

행동 조건부 월드 모델(action-conditioned world model)을 사용한 의사결정 시점 플래닝(decision-time planning)은 체화된 제어(embodied control) 분야에서 널리 쓰이는 패러다임이 되었습니다. 그러나 표준 플래닝 비용은 예측된 종단 상태가 목표에 얼마나 가까운지만으로 후보를 평가하므로, 중간 전이(intermediate transition)의 실현 가능성을 확인하지 않은 채로 둡니다. 즉, 예측된 궤적은 그럴듯해 보이지만 실제 환경 롤아웃은 이로부터 벗어날 수 있습니다. 본 논문에서는 순환 행동 일관성(cycle action consistency)을 도입한 의사결정 시점 플래닝 프레임워크인 ACID를 제안합니다. 이는 역동역학 모델(inverse dynamics model)을 통해 예측된 전이로부터 역방향으로 추론된 행동이 원래 조건으로 부여되었던 행동을 복원해야 한다는 원리입니다. 우리는 척도 불변(scale-invariant) 적응형 가중치를 통해 이러한 단계별 잔차를 플래닝 비용에 반영합니다. 시뮬레이션 환경에서의 물체 조작 및 다관절 제어, 시각적 내비게이션, 실제 로봇 조작을 아우르는 8가지 과제와 4가지 행동 조건부 월드 모델 전반에서, ACID는 플래닝 성능을 일관되게 향상시키며 훨씬 적은 플래닝 연산량으로도 기준선의 정확도에 도달합니다.

arXiv:2610.04988v2cs.LG공통 태그 Model Predictive Control, world models

얼마나 가까운가가 아니라 얼마나 오래 걸리는가: 잠재 월드 모델의 계획 수립을 위한 학습된 시간적 거리 척도

How Long, Not How Close: A Learned Temporal Metric for Planning in Latent World Models

잠재 월드 모델(latent world model)은 고정된 예측 모델을 후보 행동 시퀀스에 따라 순방향으로 전개(rollout)하고, 상상된 최종 상태와 목표 사이의 잠재 거리(latent distance)에 따라 후보들의 순위를 매김으로써 계획을 수립합니다. 그러나 목표가 여러 번의 계획 수립 단계 너머에 위치할 경우, 잠재 거리는 목표 도달까지 얼마나 남아있는지가 아니라 최종 상태가 목표와 얼마나 닮았는지를 측정하기 때문에 이러한 순위 지정 방식은 무너집니다. 이를 해결하기 위해 우리는 월드 모델을 수정하지 않고, 모델 학습에 이미 사용된 기록된 궤적(trajectory)으로부터만 학습하며, 플래너(planner)의 탐색에 무시할 수 있는 수준의 비용만 추가하는 시간적 거리 계획 목적 함수인 TEMPO를 제안합니다. TEMPO는 에피소드의 두 상태 간 거리가 이들 사이의 환경(environment) 스텝 수를 반영하도록 고정된 잠재 공간의 작은 맵을 학습하며, 이 거리를 플래너의 비용에 통합합니다. 이는 보상, 정책, 또는 성공 레이블을 필요로 하지 않으며, 모델(model)이 아닌 비용 함수이므로 잠재 거리로 계획을 수립하고 상태당 하나의 잠재 벡터를 갖는 고정된 월드 모델에 적용 가능합니다. 우리는 LeWM 및 PLDM 플래너를 사용하여 11개의 시뮬레이션 환경(예: 미로 내비게이션, 테이블 위 밀기, 로봇 암 제어, 3차원 조작)에서 TEMPO를 평가(evaluation)합니다. 계획 연산에 기껏해야 0.3%만을 추가하는 작은 MLP를 통해, TEMPO는 기존 평가의 단일 계획 설정을 포함하여 모든 목표 거리에서 두 플래너 모두의 성능을 향상시키며, 목표로부터 세 번의 계획 거리에 있는 TwoRoom 환경에서 LeWM의 성능을 36%에서 99%로 끌어올리고, 광범위한 2D 및 3D 내비게이션, 도달 및 조작 태스크에서 경쟁력 있는 성능을 유지합니다.

arXiv:2606.08775v2cs.RO공통 태그 Model Predictive Control, world models

객체 중심 월드 모델과 확산 정책의 통합: 다단계 로봇 작업을 위한 계층적 프레임워크

Unifying Object-Centric World Models and Diffusion Policy: A Hierarchical Framework for Multi-Stage Robotic Tasks

시각적 월드 모델(visual world model)은 복잡한 시스템 동역학을 학습하는 데 뛰어난 잠재력을 보여주었습니다. 최근의 발전은 이러한 모델을 모델 예측 제어(MPC) 프레임워크 내의 전이 함수(transition function)로 활용하여 다양한 제어 작업을 해결하고 있습니다. 그러나 로보틱스에 적용할 경우, 도달(reaching)이나 파지(grasping)와 같은 단일 단계 작업에 국한되며, 복잡한 순차적 계획을 요구하는 다단계 작업에서는 어려움을 겪습니다. 본 연구에서는 다단계 로봇 조작을 위해 설계된 월드 모델 프레임워크인 WorldDP를 소개합니다. 제안하는 계층적 접근 방식은 상위 수준의 월드 모델을 전이 함수로 활용하여 런타임 중에 실현 가능한 하위 목표(subgoal)를 최적화하며, 이는 이후 하위 수준의 확산 정책(Diffusion Policy)을 통해 도달됩니다. 동역학 학습과 계획 수립을 더욱 지원하기 위해 환경 내 개체를 분리하고 각 개체에 대해 순차적으로 계획할 수 있도록 하는 객체 중심(object-centric) 표현을 통합합니다. 여러 로보틱스 벤치마크에서 평가한 결과, WorldDP는 기존 베이스라인을 일관되게 능가하며, 월드 모델의 물리적으로 기반한(grounded) 계획과 확산 정책의 효율적인 실행을 결합하는 것이 우수한 다단계 성능을 낳음을 입증합니다. 프로젝트 페이지: https://raktimgg.github.io/worlddp-website/.

arXiv:2609.35603v2cs.LG공통 태그 Model Predictive Control, world models

샘플링 기반 잠재 계획을 위한 제어 기하학 직선화

Control-Geometry Straightening for Sampling-Based Latent Planning

결합 임베딩 예측 아키텍처(joint-embedding predictive architecture)는 잠재 월드 모델(latent world model)을 활용한 계획 수립을 가능하게 하지만, 정확한 전이 예측만으로는 계획 목적 함수를 쉽게 최적화할 수 있음을 보장하지 못합니다. 본 논문에서는 샘플링 효율적인 계획 수립을 위해 제어 기하학(control geometry)을 직접 직선화하여 플래너 친화적인 표현을 학습하는 단일 보조 손실(loss)인 제어 기하학 직선화(Control-Geometry Straightening, CGS)를 제안합니다. CGS는 픽셀-행동 쌍의 국소 전이만을 사용하여 행동 간의 쌍별 코사인 유사도와 이에 대응하는 잠재 차이 간의 코사인 유사도를 일치시킵니다. 이 손실은 종단간 학습된 표현이나 사전학습된 표현을 활용하는 다양한 월드 모델 아키텍처에 적용될 수 있습니다. 선형 역학 하에서 진행된 이론적 분석에 따르면, 이 목적 함수는 시간적 직선화(temporal straightening) 및 전체 계획 기간에 걸친 보다 균형 잡힌 종단 비용 곡률과 연결되며, 이를 통해 MPPI에 대한 유한 예산 보장, CEM에 대한 국소 수축 결과, 경사하강법(gradient descent)에 대한 수렴(convergence) 한계를 도출합니다. 네 가지 제어 환경과 다양한 플래너에 걸친 실험에서, CGS는 더 적은 샘플 후보와 개선 단계로도 계획 성능을 향상시켰으며, 업데이트당 128개의 후보를 사용하는 샘플링 기반 플래너 환경에서 LeWorldModel(LeWM) 및 시간적 직선화 변형(LeWM+TS) 대비 성공률을 각각 최대 20%포인트 및 12.6%포인트 향상시켰습니다. 프로브, DINO-WM 아키텍처와의 비교, 플래너 측면의 절제 연구를 통해 잠재 모션 구조화, 상태 의존성, 역학적 맥락이 계획 동작을 어떻게 형성하는지 명확히 규명합니다. 결과적으로 제어 기하학을 직선화함으로써 제한된 계획 예산 내에서도 우수한 행동 시퀀스를 더 쉽게 찾을 수 있음을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.