본 논문에서는 넓은 잠재 표현의 조밀한 접두 문맥(prefix)에 예측 정보를 집중시키도록 학습하는 결합 임베딩 예측 아키텍처(JEPA) 기반의 월드 모델인 Adaptive LeWorldModel(ALeWM)을 소개합니다. 이러한 순서화를 유도하기 위해 ALeWM은 접두 문맥 길이에 대한 시퀀스 조건부 분포를 학습하고, 샘플링된 입력 접두 문맥으로부터 완전한 다음 임베딩을 추정하도록 예측기를 훈련합니다. 표준 붕괴 방지 목적 함수는 잠재 좌표 전반의 다양성을 장려할 뿐 예측 중요도에 따라 좌표를 정렬하지 못하므로, 본 논문은 MixSIGReg도 함께 제안합니다. MixSIGReg는 가우시안 활성 접두 문맥과 나머지 좌표의 0으로 구성된 사전 가중치 혼합 분포에 맞춰 마스킹된 임베딩을 정규화합니다. 그 결과 ALeWM 목적 함수는 앞쪽 좌표가 예측 및 재귀적 계획 수립에 유용한 정보를 유지하도록 유도합니다. 분석에 따르면 MixSIGReg가 사용하는 혼합 분포는 앞쪽 좌표 블록에 더 높은 분산을, 뒤쪽 좌표 블록에 더 낮은 분산을 할당합니다. 또한 특정 가정 하에서 예측에 가장 유용한 정보를 앞쪽 블록에 배치할 때 예측 오차가 최소화됨을 보여줍니다. 실증적으로는 상태 변수가 알려진 제어된 동적 시스템과 목표 조건부 시각 제어 환경에서 ALeWM의 동작을 연구합니다. 실험을 통해 ALeWM이 튜닝된 고정 너비 LeWM보다 평균 계획 용량을 더 적게 사용하면서도 일관되게 더 높은 평균 성공률을 달성함을 보입니다.
장기 목표 조건 제어(long-horizon goal-conditioned control)에서 시간적 계층성(temporal hierarchy)이 LeWorldModel을 개선할 수 있는지 조사한다. 사전학습된 저수준 LeWM을 고정하고 잠재 부목표(latent subgoals)에 대한 고수준 계획을 추가한 확장인 Hi-LeWM을 제안한다. PushT와 Cube에서 목표 오프셋이 증가하는 조건으로 Hi-LeWM을 평가한다. 계층 구조가 자동으로 성능을 개선하지는 않는다. 짧은 horizon에서는 최적 구성이 고수준 horizon을 한 단계로 사용하지만, 더 긴 horizon에서는 학습된 고수준 행동 공간과 추론 시 검색 분포 사이의 불일치가 드러난다. 실제 미래 잠재 부목표를 사용한 실험은, 고정된 저수준 컨트롤러가 잘 정렬된 중간 목표를 실행할 수 있음을 보여주며, 고수준 부목표 생성이 주요 병목임을 시사한다. 제약 없는 검색은 학습된 모델 하에서 유리해 보이지만 실제로는 열악한 제어 목표를 만드는 잠재 매크로 행동(latent macro-actions)을 선택할 수 있다. 학습 궤적에서 인코딩된 매크로 행동 주변으로 검색을 제한하고 적절한 부목표 실행 시점을 맞추면 유용한 계층적 regime을 회복하여, 중간 범위 horizon에서 flat LeWM 대비 +11.3 percentage points, 가장 긴 PushT horizon에서 +14.7 percentage points를 개선한다. 종합하면, 시간적 추상화(temporal abstraction)는 compact frozen LeWM에 이점을 줄 수 있지만, 고수준 검색이 저수준 컨트롤러와 호환될 때에만 그렇다.