PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.35763v4cs.LG

단일 단계 시각 생성을 위한 분포 학습의 통합

Unifying Distributional Training for One-Step Visual Generation

분포 학습(distributional training)은 동결된 표현 공간에서 실제 특징과 생성된 특징을 매칭하여 단일 단계 시각 생성을 위한 집단적 감독을 제공합니다. 본 논문에서는 분포 모델링을 매칭 불일치로부터 분리하고, 바서슈타인 그래디언트 흐름(Wasserstein gradient flow)을 통해 전역 목적함수를 점별(pointwise) 특징 업데이트와 연결하는 통합 이론적 프레임워크를 소개합니다. 이 프레임워크 아래에서 FD-Loss와 가우시안 커널 드 리프팅(Gaussian-kernel Drifting)은 각각 가우시안 최적 수송 및 커널 밀도 기반 KL 매칭을 통해 복원됩니다. 이 프레임워크를 기반으로, 전역 모멘트와 샘플 기반 표현 사이의 조정 가능한 세분성으로 가우시안 혼합을 통해 특징 분포를 모델링하는 MGFlow를 제안합니다. MGFlow는 최적 수송과 스코어 기반 매칭을 모두 지원하며, 혼합 표현력만으로는 해결되지 않는 모드 붕괴(mode collapse)를 해결하기 위해 질량 제약 샘플 할당과 쌍을 이루는 컴포넌트 업데이트를 결합합니다. ImageNet $256\times256$에서 MGFlow는 FD-Loss 기준선을 크게 능가하여 pMF-H에서 1.45 $\mathrm{FDr}^6$, JiT-H에서 1.64를 기록하며 최고 성능(SOTA)을 달성했습니다. 텍스트-이미지 생성의 경우, MGFlow는 FLUX.2 [klein] 4B를 사후학습(post-training)하여 GenEval과 PickScore 모두에서 기존 4단계 모델을 능가하는 단일 단계 생성기로 변환합니다.