PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02203v1cs.CV

임베딩 예측은 이미지 생성을 돕는다

Embedding Prediction Helps Image Generation

디퓨전 트랜스포머(diffusion transformer)에서는 클래스 레이블이나 텍스트 프롬프트를 한 번 임베딩한 뒤, 모든 노이즈 제거(denoising) 단계에서 동일한 조건을 재사용합니다. 본 연구에서는 예측된 임베딩이 대신 이러한 조건으로 기능할 수 있는지 질문을 던집니다. 차기 임베딩 예측 자기회귀(Next-Embedding Predictive Autoregression, NEPA)는 시퀀스에서 다음 연속 임베딩을 예측하도록 트랜스포머를 학습시킵니다. 생성 과정에서 깨끗한 이미지는 노이즈가 있는 이미지 뒤에 이어지므로, 그 임베딩은 조건과 노이즈가 있는 이미지 다음의 차기 임베딩이 됩니다. 본 연구에서는 다중 임베딩 예측(Multi-Embedding Prediction)을 통해 이들을 한 번에 모두 예측하도록 NEPA 모델을 학습시키며, 임베딩 조건부 생성(Embedding Conditioned Generation)에서는 매 노이즈 제거 단계마다 재계산되는 이러한 예측값들을 DiT 생성기의 조건으로 주어 조건부 신호가 현재의 노이즈 상태에 적응하도록 합니다. 클래스 조건부 ImageNet $256\times256$에 대한 실험을 통해 생성기의 조건, 다중 임베딩 예측 설계, 그리고 두 모델의 스케일링을 살펴봅니다. NEPA 모델은 모든 샘플링 단계에 두 번째 네트워크를 추가하며, 이를 적용하고 REPA와 결합한 최종 모델인 NEPA-DiT-XL은 REPA의 약 3분의 1 수준의 학습 연산량만을 사용하고도 1.32의 FID를 달성합니다.