Pixel-space continuous-token autoregressive (AR) generation directly models images as sequences of raw pixel patches, avoiding discrete tokenization or a separately pretrained tokenizer. However, it faces coupled challenges: high-dimensional patch generation causes large single-step errors, and teacher-forced training creates a train--inference gap that makes these errors accumulate across AR steps. Existing fixes such as $x$-prediction and input noise injection only partially mitigate these issues. Exact rollout training better matches inference-time conditions, but is impractical due to prohibitively slow sequential sampling. We propose Parallel Rollout Approximation (PRA), a scalable framework that addresses both challenges jointly. PRA generates low-dimensional intermediate states and maps them to pixel patches through a one-step denoising pixel decoder, preserving a pixel-in, pixel-out AR interface. The same decoder also constructs inference-like training inputs from perturbed intermediate states through the same intermediate-state-to-pixel path used at inference, while retaining parallel training over positions. On class-conditional ImageNet-1K generation at $256\times256$ resolution, PRA-S with 135M parameters achieves an FID of 2.58, surpassing the previous billion-scale pixel-space AR result of 3.60. Scaling to PRA-L with 511M parameters further improves FID to 1.94, establishing a new SOTA among pixel-space AR models. Beyond generation, PRA achieves higher ImageNet classification probing accuracy than other AR and diffusion baselines, suggesting its potential for unified pixel-space image generation and understanding.
3차원(3D) 분자 생성은 우수한 생성 품질을 달성하는 확산 모델(diffusion model)이 주도해 왔으나, 일반적으로 생성 전에 분자 크기를 별도로 지정하거나 예측해야 합니다. 이는 생성되는 구조의 크기 자체가 설계 문제의 일부가 되는 신약 개발의 핵심인 단편 기반(fragment-based) 분자 생성에 한계로 작용할 수 있습니다. 자기회귀 모델(autoregressive model)은 생성 과정에서 크기를 결정하며 부분 구조 조건화를 자연스럽게 지원하지만, 무조건부 생성과 단편 조건부 생성 간의 균형을 맞추는 것은 여전히 까다로운 과제입니다. 본 논문에서는 통일된 오토인코더(UAE)의 잠재 공간(latent space)에서 분자를 생성하여, 자기회귀 생성의 유연성을 유지하면서 분자 그래프 위상(topology)과 기하학적 구조(geometry)를 공동으로 모델링하는 잠재 자기회귀 확산 프레임워크인 KRONOS를 소개합니다. 나아가 중간 채우기(Fill-in-the-Middle, FIM) 패러다임에서 영감을 받은 혼합 학습(mixed training) 전략을 도입하여, 단일 좌우 순차(left-to-right) 자기회귀 모델이 무조건부 생성과 단편 조건부 생성을 모두 지원할 수 있도록 합니다. QM9 및 GEOM-Drugs에 대한 실험은 강력한 무조건부 생성 성능과 경쟁력 있는 단편 조건부 생성 성능을 입증합니다.
포인트 클라우드(point cloud)로부터 컴팩트하고 기하학적으로 충실한 3D 메시(mesh)를 직접 생성하는 것은 여전히 근본적인 과제입니다. 포인트 클라우드는 순서가 없고 희소한 반면, 메시는 불규칙한 구조와 다양한 위상(topology)을 나타냅니다. 그 결과 기존의 많은 접근법은 암시적 표현(implicit representation)에 의존한 후 표면 추출이나 재구성을 수행합니다. 이러한 파이프라인은 효과적이지만 과도하게 조밀하거나 지나치게 매끄러운 메시를 생성할 수 있어, 연산 비용이 많이 드는 후처리 및 단순화 작업을 요구하는 경우가 많습니다. 본 논문에서는 희소 잠재 피벗(sparse latent pivot) 조건화를 활용하여 포인트 클라우드로부터 컴팩트한 삼각형 메시를 직접 생성하는 프레임워크인 OptimusMesh를 제시합니다. 핵심 아이디어는 2,048개의 방향성을 갖는 입력 포인트를 단 16개의 희소 잠재 피벗으로 압축하여, 기하학적 조건화 집합을 128배 줄이는 것입니다. 이러한 피벗은 먼저 메시 정점(vertex)을 생성한 다음 생성된 정점과 동일한 피벗을 조건으로 삼각형 면(face)을 예측하는 2단계 자기회귀(autoregressive) 프레임워크 전반에서 공유되는 컴팩트한 구조적 표현을 제공합니다. 257개의 디코더 조건화 토큰을 사용하는 최근의 포인트 클라우드 조건부 자기회귀 평가 대상 방법들과 비교했을 때, OptimusMesh는 단 16개만을 사용하여 조건화 시퀀스 길이를 16.1배 단축합니다. 실험 결과에 따르면 OptimusMesh는 비교 대상인 최근 자기회귀 방법들 중 가장 컴팩트한 출력을 생성하며, 경쟁력 있는 기하학적 충실도와 분포 품질을 유지하면서도 25.7%~94.1% 더 적은 면을 사용합니다.
자동 스켈레톤(skeleton) 생성은 관절 위치와 뼈대 연결성을 모두 예측하는 작업을 포함합니다. 그러나 기존 접근 방식들은 브랜치 구조를 토큰(token) 시퀀스로 인코딩하는 데 어려움을 겪으며, 테스트 시점 연산(test-time computation)을 효과적으로 활용하지 못합니다. 본 연구에서는 통합된 자기회귀(autoregressive) 프레임워크 내에서 이러한 선택지들을 탐구합니다. 먼저, 구조적으로 연관된 요소를 서로 인접하게 배치하고 시퀀스 내에 연결성을 직접 인코딩하는 브랜치 인식 표현 방식인 브랜치 중심 토큰화(branch-centric tokenization)를 도입합니다. 표준 너비 우선 탐색(BFS) 방식의 직렬화와 비교하여, 이 표현 방식은 더 간결한 시퀀스를 생성합니다. 둘째로, 입력 메시에 축 정렬 회전을 적용하고 모든 예측 결과를 공통 좌표계로 역매핑한 뒤, 메시 커버리지 및 여러 시점 간 예측의 일관성을 기반으로 최종 스켈레톤을 선택하는 테스트 시점 증강 절차인 뷰 증강 생성(view-augmented generation)을 도입합니다. 실험 결과는 본 방법이 최고 수준(SOTA)의 방법들보다 더 우수한 스켈레톤 예측 정확도를 달성함을 보여줍니다. 특히, 본 방법은 Articulation-XL2.0 데이터셋(dataset)에서 직접 비교 가능한 가장 강력한 기준선(baseline)인 Auto-Connect 대비 CD-J2B 오차를 16.9% 줄입니다. 야생(in-the-wild) 메시를 대상으로 한 정성적 결과는 다양한 입력에 대한 일반화 성능을 추가로 입증합니다.
자기회귀 비디오 확산 모델에서 생성된 잠재 벡터를 인과적 컨텍스트로 반복 재사용할 때 발생하는 깜박임·모션 지터·구조적 드리프트 문제를 스펙트럴 기구학 관점에서 분석하고, 이산 잠재 가속도(discrete latent acceleration)가 불안정한 고주파 시간적 섭동을 드러내는 핵심 신호임을 규명한다. 이를 바탕으로 유한 윈도우 Slepian 투영 기반 가속도 도메인 스펙트럴 가이던스와 구조적 노이즈 초기화를 결합한 학습 불필요(training-free) 방법인 SAGA를 제안하며, Self-Forcing에서 Temporal Quality 97.30→97.91, Image Quality 69.60→70.51로 개선함을 실험적으로 입증한다.
자기회귀 멀티모달 대규모 언어 모델(MLLM) 기반 3D 생성에서 집합 기반 표현의 순서 모호성과 복셀 기반 표현의 토큰 중복성 간 트레이드오프를 해소하기 위해, SuperVoxelGPT는 현저성(saliency) 유도 중심 보로노이 테셀레이션(CVT)으로 복잡한 영역에 세밀한 셀을, 평탄한 영역에 큰 셀을 할당하는 적응형 슈퍼복셀 토큰화 프레임워크를 제안한다. Trellis-500K 실험에서 균일 복셀 대비 토큰 시퀀스 길이를 12.8%로 줄이면서 최고 수준의 생성 품질과 평균 10배의 속도 향상을 달성했다.
기존 벡터 스케치 모델은 인식과 생성을 별개의 작업으로 취급하여, 그리는 도중 그림을 이해해야 하는 스트리밍 인터페이스를 위한 공백을 남긴다. 우리는 어떤 부분 접두 문맥에서든 스케치를 연속적으로 분류하면서 동시에 그 연속을 생성하는 단일 인과적 시퀀스 모델인 SketchMamba를 제시한다. 이를 선택적 상태 공간(state-space) 백본에 단계별 밀집 분류 손실을 적용함으로써 달성한다. Quick, Draw! 데이터셋의 58개 클래스 부분집합에서 평가한 결과, SketchMamba는 최종 단계 정확도 94.93%와 점진적 정확도 곡선 아래 면적(AUC) 0.706을 달성하며, 스트로크의 70%가 그려질 때쯤 최종 정확도의 90%에 도달한다. 동일 예산(matched-budget) 비교에서, 155만 매개변수 백본은 인과적 트랜스포머와 동률을 기록하면서 순환(recurrent) 및 합성곱(convolutional) 기준선들을 능가한다. 절제 실험(ablation)은 조기 예측 능력을 아키텍처만이 아니라 밀집 감독(dense supervision) 체계가 주도함을 확인한다. 결과는 단일 인과적 은닉 상태가 보조 인코더나 작업별 분기 없이 점진적 인식과 자기회귀(autoregressive) 생성을 통합할 수 있음을 보여준다.
확산 모델(diffusion model)은 최근 단안 깊이 추정(MDE)에서 주류 패러다임이 되었다. 그러나 이들은 반복적 디노이징(denoising)을 통해 깊이를 전역적으로 매끄러운 장(field)으로 복원할 수 있다고 암묵적으로 가정하며, 이는 장면 기하의 조각적(piecewise)이고 스케일 의존적인 구조를 명시적으로 반영하지 않는다. 실제로 기하 구조는 공간 스케일에 걸쳐 점진적으로 나타나며, 거친 레이아웃, 표면, 경계가 계층적으로 구성된다. 이 관찰에 영감을 받아, 우리는 깊이 추정을 구조화된 자기회귀 생성으로 공식화하는 ARDepth를 제안한다. 전역 정제(global refinement)를 통해 깊이를 복원하는 대신, ARDepth는 공간 해상도가 증가함에 따라 깊이 표현을 점진적으로 구축한다. 이 생성 과정을 지원하기 위해, 각 생성 단계에서 다중 스케일 시각 특징을 주입하는 스케일-점진적 조건화(SPC)와 전역 구조적 일관성을 향상시키는 장면 수준 의미 사전정보(semantic prior)를 제공하는 의미 인식 가이던스(SAG)를 도입한다. 이러한 설계들은 함께 모델이 일관된 전역 기하를 유지하면서 세밀한 국소 세부 사항을 포착할 수 있게 한다. 실험 결과는 우리 접근법이 강한 성능을 달성하고 스케일에 걸쳐 구조적으로 일관된 깊이 예측을 생성함을 보여주며, 기하 모델링을 위한 유망한 대안 패러다임으로서 자기회귀 생성을 검증한다.
가상 착용(Virtual Try-On, VTON)은 정확한 인물 보존뿐만 아니라 충실한 의상 변형 및 세부 합성을 동시에 요구하는 이중 조건 이미지 생성 문제입니다. 확산(diffusion) 기반 VTON 방법은 압축된 잠재 공간에서 이러한 요소들을 함께 모델링할 수 있지만, 비용이 높은 다단계 노이즈 제거 과정에서도 고유한 잠재 압축으로 인해 고주파 세부 정보 손실이 발생합니다. 최근의 시각적 자기회귀(Visual Autoregressive, VAR) 모델은 빠른 추론으로 고품질 생성을 위한 유망한 대안을 제공하지만, 효과적인 이중 조건화 메커니즘의 부재로 인해 VTON에 대한 탐색이 이루어지지 않았습니다. 이 격차를 해소하기 위해, 우선 VAR 기반 VTON 모델인 VAR-VTON을 소개합니다. 이 모델은 효율적인 잠재 공간 VTON을 위해 의상 조건화와 구조적 가이던스를 통합합니다. 그 효과에도 불구하고, 잠재 공간 생성은 여전히 세밀한 의상 세부 정보를 보존하는 데 어려움을 겪습니다. 우리는 서로 다른 VTON 하위 작업이 서로 다른 표현 공간에서 다루어져야 한다고 주장합니다: 의상 워핑(warping) 및 인물 레이아웃과 같은 구조적 합성은 잠재 공간에 적합한 반면, 세밀한 세부 정보 복원은 픽셀 공간에서 처리되어야 합니다. 이러한 통찰에서 영감을 받아, 잠재 공간 구조 합성과 픽셀 공간 세부 정보 복원을 분리하는 2단계 자기회귀(Two-Stage AutoRegressive) 프레임워크인 STAR-VTON을 추가로 제안합니다. STAR-VTON은 VAR-VTON을 기반으로 하며, 매칭 정보 기반 정제기(matching-informed refiner)를 활용하여 1단계 생성 결과와 원본 의상 간의 밀집 대응 관계를 확립함으로써 세밀한 픽셀 공간 세부 정보를 직접 매핑합니다. 광범위한 실험을 통해 STAR-VTON이 인상적인 효율성-충실도 균형을 달성함을 보여줍니다: VAR-VTON은 품질 저하 없이 확산 기반 대응 방법보다 최소 4배 빠르게 실행되며, 픽셀 공간 정제기는 세밀한 세부 정보를 효과적으로 복원하고 기존 VTON 접근 방식에도 이점을 제공하는 플러그 앤 플레이(plug-and-play) 모듈로 작동합니다.
확산 모델이 텍스트-이미지(T2I) 생성에서 최첨단 이미지 품질을 달성하는 반면, 최근 연구들은 이 모델들이 샘플 다양성 붕괴 문제를 겪고 있음을 보여주었다. 본 연구에서는 자기회귀(AR) 이미지 생성 모델이 이미지 품질과 샘플 다양성 간의 파레토 프런티어를 개선할 수 있는지 탐구한다. 최근 품질과 효율성의 발전으로 AR 모델은 확산 기반 이미지 생성의 유력한 대안으로 부상하였다. 이미지-텍스트 인터리브 생성과 같은 새로운 활용 사례를 가능하게 할 뿐만 아니라, AR 모델의 순차적 생성 방식은 텍스트 생성에서 다양성 향상을 위해 개발된 광범위한 토큰 기반 디코딩 전략과의 호환성을 제공한다. AR 패러다임에서의 더 나은 다양성-품질 트레이드오프 가능성에 착안하여, 본 논문은 AR 이미지 생성 모델에서의 샘플 다양성에 관한 최초의 체계적 연구를 제시한다. 우리는 AR 이미지 생성의 두 가지 핵심 특성, 즉 지속적으로 높은 토큰 수준의 엔트로피와 시각적 토큰 공간에서의 상당한 중복성이, 다양성 향상을 위한 기존 토큰 수준 디코딩 방법의 효과를 제한함을 보인다. 이에 우리는 토큰 수준이 아닌 클러스터 수준에서 엔트로피 기반 절단 샘플링을 수행하는 새로운 디코딩 전략인 $p$-less cluster를 제안한다. 우리는 이미지 품질, 프롬프트 정합성, 다양성을 포괄하는 종합적인 지표 모음을 사용하여 네 가지 자기회귀 T2I 모델과 두 가지 데이터셋에서 우리의 접근법과 기준선 디코딩 방법을 평가한다. 실험 결과, $p$-less cluster는 이미지 품질과 프롬프트 정합성을 유지하면서 대부분의 평가된 자기회귀 T2I 모델과 데이터셋에서 가장 높은 다양성을 달성함을 보여준다.
대규모 자기회귀 언어 모델은 자기수정 맹점(self-correction blind spot)을 보인다: 동일한 오류라도 외부 출처로 귀인될 경우 안정적으로 수정하지만, 자신의 출력에 있는 동일한 오류는 수정하지 못한다. 선행 연구들은 제어된 오류 주입, 오류-깊이 분해, 강화학습(RL) 기반 검증자-수정자 학습, 내재적 자기 검증 등을 통해 이 현상을 경험적으로 기록했지만, 토큰 생성이 해당 오류 탐지 능력을 억제하는 이유에 대한 형식적 모델, 수정 마커에 대한 정량적 활성화 조건, 강화학습 기반 자기수정의 수렴 보장은 제시하지 못했다. 우리는 자기회귀 생성에서의 자기수정에 관한 스펙트럼-대수적 이론인 SPARC로 이러한 공백을 해소한다. 오류 전파 연산자를 잔차 스트림(residual stream) 위 단계별 어텐션 야코비안의 곱으로 정의하고, 맹점은 이 연산자의 스펙트럼 반지름(spectral radius)이 1 이상인 경우에만 발생함을 증명한다. 스펙트럼 반지름의 함수로 주어지는, 수정 마커가 초과해야 하는 엄밀한 활성화 임계값을 도출하여, 단순한 "Wait" 마커로 관측된 맹점 89.3% 감소를 재현한다. 나아가, 검증자-수정자 결합 행렬의 스펙트럼 노름(spectral norm)이 1 미만인 경우에만 RL 기반 검증자-수정자 학습이 샘플 수의 제곱근 대비 결합 강도의 제곱에 비례하는 속도로 수렴함을 증명하고, 이 기준이 잔차 스트림 자기회귀 모달리티 전반에 걸쳐 불변하여 텍스트 대규모 언어 모델(LLM)과 자기회귀 이미지 및 비디오 생성을 통합함을 증명한다. 네 가지 백본과 시각적 자기회귀 프로브에 걸친 실험이 모든 정리를 검증하며, 스펙트럼 예측값은 측정된 맹점 비율과 3.2% RMSE 이내에서 일치한다.
우리는 DenseAR를 소개한다. DenseAR는 간결한 단일 스케일 토크나이저를 사용하여 자기회귀 이미지 생성을 거친 것에서 세밀한 것으로의 next-dense-stride 예측으로 재정의하는 새로운 생성 패러다임이다. 우리의 핵심 통찰은, 점진적으로 더 조밀해지는 스트라이드로 단일 스케일 잠재 그리드를 순회하면 전역 구조에서 세부 사항으로의 전환을 자연스럽게 포착할 수 있다는 것이다. 이는 기존 자기회귀 모델의 두 가지 한계를 동시에 해결한다: 래스터 순서 자기회귀의 느린 추론(DenseAR는 여러 토큰을 병렬로 예측하여 이를 회피함)과, 거친 것에서 세밀한 것으로의 예측을 달성하기 위해 길고 다중 해상도의 토큰 시퀀스를 필요로 하는 다중 스케일 접근 방식의 높은 비용이다. 효율적인 프레임워크와 자기회귀 모델링의 유연성을 기반으로, 우리는 DenseAR를 단일 백본 내에서 다중 모달리티와 이미징 작업을 처리하는 통합 모델로 더 확장한다. 우리는 DenseAR를 의료 이미지와 자연 이미지 모두에서 검증한다. 다중 대조 뇌 MRI에서, 단일 DenseAR 모델은 교차 모달 변환(cross-modal translation), 모달리티 조건부 생성(modality-conditioned generation), 종양 분할(tumor segmentation)을 통합하면서 작업별 방법들과 경쟁력 있는 성능을 유지한다. ImageNet에서 DenseAR는 스트라이드 순서가 없는 단일 그리드 기준선과 다중 스케일 토크나이저 기반 기준선 모두에 비해 클래스 조건부 생성 품질(FID 및 IS)을 향상시킨다.
소수 단계 자기회귀(AR) 비디오 확산 모델의 장기 롤아웃에서 발생하는 오류 누적과 모션 다이나믹 약화 문제를 해결하기 위해, OPSD-V는 실제 장편 비디오 데이터를 시간적 컨텍스트로 활용해 교사 모델의 KV 캐시를 정제하고 학생 모델의 온-정책 롤아웃에 조밀한 디노이징 수준의 지도를 제공하는 사후학습 자기 지식 증류(self-distillation) 패러다임이다. Self-Forcing과 LongLive에 적용한 실험에서 VBenchLong 점수, 시각적 품질, 모션 다이나믹 모두 일관된 향상을 보였으며, 사용자 연구에서 66.0%의 전반적 선호도를 기록했다.
LlamaSeg는 이미지 분할(segmentation)을 시각적 생성 문제로 재정의하여 마스크를 VQGAN으로 이산 토큰화한 뒤 LLaMA 스타일 트랜스포머로 자기회귀(autoregressive) 예측하는 통합 프레임워크다. 5,800개 이상의 개방형 어휘 레이블로 구성된 200만 건 규모의 SA-OVRS 데이터셋과 윤곽 충실도 평가 지표 $d_{\mathrm{AHD}}$를 함께 제안하며, 다수의 분할 벤치마크에서 기존 생성적 접근법을 일관되게 능가하는 성능을 보였다.
엔드투엔드 자율주행 평가를 위한 생성형 센서 시뮬레이션 프레임워크 Point as Skeleton을 제안하며, 포인트 클라우드 스켈레톤을 조건으로 활용해 자기회귀 영상 생성 시의 오류 누적을 안정화한다. Reset-and-Roll 추론 기법으로 폐루프(closed-loop) 롤아웃을 지원하고, nuScenes와 nuPlan 실험에서 시각적 충실도가 높은 폐루프 주행 시뮬레이션 가능성을 입증했다.
확산 모델의 균일한 계산 비용 문제와 자기회귀(AR) 모델의 손실 이산 토큰화 및 오류 누적 문제를 동시에 해결하기 위해, ByteDance 연구진은 계층적 이진 양자화(HBQ)와 전역 정제 메커니즘을 결합한 생성적 정제 네트워크(GRN)를 제안한다. GRN은 ImageNet 벤치마크에서 이미지 재구성 0.56 rFID, 클래스 조건부 생성 1.81 gFID로 새로운 최고 성능을 달성하였으며, 텍스트-이미지 및 텍스트-비디오 생성으로도 성공적으로 확장되었다.
다음 스케일 예측 기반 자기회귀(AR) 모델에서 점진적 해상도 스케일링으로 인해 가이던스 신호가 의미적으로 중요한 영역에서 벗어나는 문제를 분석하고, 어텐션 기반 동적 가중치로 가이던스를 의미 토큰에 고정시키는 Information-Grounding Guidance(IGG) 프레임워크를 제안한다. 클래스 조건부 및 텍스트-이미지 생성 태스크에서 IGG는 기존 CFG 대비 더 선명하고 의미적으로 일관된 이미지를 생성함을 실험으로 입증하였다.
대규모 생성 모델의 최근 발전은 비디오 생성 분야를 크게 진전시켰으나, 기존 방법들은 여전히 경직된 추론 패러다임에 제약을 받고 있다. 양방향 확산 모델은 전역적 일관성과 시각적 충실도에서 뛰어나지만 느린 추론 속도가 단점이며, 자기회귀(autoregressive) 모델은 효율적이고 스트리밍 방식의 생성을 제공하지만 장거리 일관성 및 노출 바이어스 문제를 수반한다. 우리는 Flex-Forcing를 소개한다. 이는 비디오 확산 모델이 양방향 생성 방식과 자기회귀 생성 방식 모두에서 원활하게 동작할 수 있도록 하는 통합 학습 및 추론 프레임워크이다. 핵심 아이디어는 시간 축과 노이즈 제거 단계에 걸쳐 공동으로 정의된 유연한 청킹(chunking) 메커니즘이다. 이 설계를 통해 모델은 (1) 다양한 디바이스 예산에 맞게 유연한 청킹을 수행하고, (2) 전역 구조 계획을 위해 청크 간 양방향 추론을 수행하면서 효율적이고 세밀한 합성을 위해 각 청크 내에서 프레임을 자기회귀 방식으로 생성하며, (3) 엄격한 인과적 제약 없이 임의 순서·임의 타임스텝의 자기회귀 생성을 수행할 수 있다. 다수의 비디오 생성 벤치마크에서 수행한 광범위한 실험을 통해, Flex-Forcing는 경직된 추론 스케줄을 사용하는 강력한 베이스라인 대비 일관되게 더 우수한 비디오 품질과 장시간 비디오 안정성을 달성하면서도 더 빠른 추론 속도를 제공함을 입증한다.
균일 스패닝 트리(uniform spanning tree)의 너비 우선 탐색(BFS) 순회 순서를 자기회귀(AR) 시각 생성에 활용하는 STAR(Spanning Tree Autoregressive) 모델링을 제안하며, 이미지의 중심 바이어스와 지역성 같은 사전 지식을 반영하는 구조적 시퀀스 순서 무작위화 전략으로 샘플링 성능을 유지한다. 기존 랜덤 순열 방식의 성능 저하 없이 추론 시 유연한 시퀀스 순서 선택과 네이티브 이미지 인페인팅(inpainting)을 동시에 지원하며, Decoder-only Transformer 아키텍처에 최소한의 변경만으로 구현된다.
자기 재샘플링(self-resampling)을 통해 훈련 중 추론 시의 오류를 시뮬레이션하는 교사 모델 없는 종단간 학습 프레임워크 Resampling Forcing를 제안하여, 자기회귀 비디오 확산 모델의 노출 편향(exposure bias) 문제를 해결한다. 희소 인과 마스크와 파라미터 없는 히스토리 라우팅 메커니즘을 결합해 장기 비디오 생성에서 증류 기반 기준선과 동등한 품질을 달성하면서도 더 우수한 시간적 일관성을 보인다.