학습된 플로우 매칭(Flow Matching) 속도장(velocity field) $v_θ$에 이득(gain) $γ(t)$를 곱해 스케일링하면 생성 품질이 크게 향상된다는 것이 최근에 밝혀졌다. 선행 연구에서는 평균제곱오차(MSE)로 학습된 속도장이 속도 크기를 체계적으로 과소추정하며, 스케일링이 이 오차를 보정한다고 주장했다. 본 연구에서는 MSE 학습이 속도 크기 부족을 만들어내지 않는다는 것을 보인다. 대신 우리는 속도 스케일링이 모집단 시간 지연(population time lag)을 줄인다는 것을 발견했다: 모델 시간 $t$에서 샘플링된 상태는 그보다 이전 시간의 학습 상태와 유사하다. 속도 스케일링과 모델 시간을 뒤로 이동시키는 것은 이러한 모집단 시간 지연을 해결하는 두 가지 방법이다. 아키텍처와 모델 크기에 걸쳐, 모집단 시간 지연을 측정하고 이를 이용해 이득을 선택하면 생성 품질이 크게 향상되며, 가이던스(guidance) 없이 NFE 25에서 ImageNet-256 기준 FID를 28.0에서 12.2로 낮춘다(인접한 이득에서 측정된 FID 값들 사이의 선형 보간으로 추정됨).
확산 샘플러(diffusion sampler)는 선택된 스펙트럼 좌표만을 생성하고 나머지 방향을 노이즈로 채움으로써 연산량을 줄일 수 있다. 그렇다면 샘플러는 몇 개의 방향을 유지해야 하는가? 본 연구에서는 멱법칙(power-law) 공분산 스펙트럼을 가진 데이터에 대해 이 문제를 연구한다. 평활화된(smoothed) 타깃과 비교한 가우시안 데이터의 경우, 주변 차원(ambient dimension)이 충분히 크다면 유지해야 하는 방향의 수에 대한 일치하는 상·하한 경계(matching bounds)를 증명한다. 절단 오차(truncation error)는 유지된 좌표에서 샘플러의 정확도와 무관하게 생략된 방향들의 결합된 위너 이득(Wiener gain)에 의해 결정된다. 따라서 신호가 출력 노이즈 수준을 초과하는 방향만 유지할 경우 사라지지 않는(non-vanishing) 오차가 남을 수 있으며, 개별적으로는 미약한 다수의 방향이 총합적으로는 여전히 유의미하게 작용한다. 이러한 특성 분석을 확산 수렴(convergence) 경계와 결합하여 정확한 스코어(exact score) 하에서 충분한 샘플링 단계 복잡도(sampling-step complexity)를 도출한다. 또한 상한 경계는 추정된 주성분과 성분별 가우시안 혼합 모델(Gaussian mixtures)로도 확장된다. 실질적인 지침은 총 스펙트럼 꼬리 오차 예산(aggregate spectral-tail error budget)을 사용하여 유지할 부분공간을 선택한 다음, 이에 맞춰 확산 노이즈 수준을 결정하는 것이다.
"내 평생 이렇게 기이한 작업을 해본 적이 없는 것 같다. 무엇보다도, 이 작품은 자기 자신이 등장하는 전시회 벽면의 판화를 흥미롭게 바라보는 한 젊은 남성을 보여준다. 어떻게 이런 일이 가능할까? 어쩌면 나는 아인슈타인의 휜 우주에서 그리 멀지 않은 곳에 있는지도 모른다." M.C. 에셔(M.C. Escher)는 자신의 1956년 석판화 '판화 회랑(Print Gallery)'에 대해 이렇게 썼다. 거의 반세기 후, 한 수학적 분석은 등각 거듭제곱 사상(conformal power map) $z \mapsto z^α$, $α\in \mathbb{C}$를 통해 이 기하학을 왜곡되지 않은 원본 이미지와 연결했다. 이러한 구조를 기반으로, 본 연구는 가중치가 동결된 텍스트-투-이미지 확산 모델(diffusion model)을 활용하여 새로운 자기참조적 장면을 생성한다. 프롬프트(prompt)만으로는 이러한 재귀성을 강제할 수 없으며, 사후 변환은 구조 간 연결을 부자연스럽게 남길 수 있다. 샘플링 중에 변환을 적용하는 것 또한 불충분한데, 디노이저(denoiser)가 의도된 왜곡을 "복구"해 버리거나 규정된 기하학에서 벗어날 수 있기 때문이다. 이에 본 연구는 재귀적 제약 조건에 적합하도록 비가역 이미지 변환 $T$의 일반화 역원(generalized inverse) $T^\dagger$를 구성한다. 이상적인 정식화에서 펜로즈 항등식(Penrose identity) $TT^\dagger T = T$는 $TT^\dagger$를 기하학적으로 허용 가능한 이미지로 사영하는 멱등 사영(idempotent projection)으로 만든다. 그러나 변환된 이미지만을 디노이징하는 것은 사영을 거치더라도 여전히 분포 외(out-of-distribution) 작업으로 남는다. 따라서 본 연구는 디노이징 단계를 $T$ 및 $T^\dagger$와 엮어내는 방식을 취한다. 원본 공간의 단계는 왜곡되지 않은 장면을 발전시키고, 변환된 공간의 단계는 최종 기하학에서의 외형과 연결성을 정교화한다. 이를 통해 '판화 회랑' 형태의 구성을 생성하고 추가적인 변환들을 탐색한다. 완성된 이미지를 왜곡하는 대신, 장면과 그 왜곡이 함께 생성되도록 유도한다.
소수 스텝 증류(distilled) 디퓨전 모델은 고품질 이미지를 빠르게 생성하지만, 종종 프롬프트당 다양성을 잃어 무작위 시드에 걸쳐 거의 동일한 샘플을 생성한다. 추론 시점에 초기 노이즈를 최적화하는 것은 이러한 다양성을 회복하는 매력적인 방법이지만, 기존 방법들은 제약 없는 유클리드 공간에서 초기 노이즈를 직접 업데이트하여 가우시안 사전분포의 기하학과 모델의 노이즈 주파수 민감도를 모두 무시한다. 따라서 이들은 생성 충실도를 유지하기 위해 보조 품질 제어 목적 함수를 도입하여 계산량과 가중치 하이퍼파라미터를 추가하면서도, 성능 저하를 방지하기 위해 보수적인 업데이트를 여전히 필요로 한다. 본 연구에서는 저차원의 품질 안정화 노이즈 매니폴드(manifold)에서 매니폴드 제약 노이즈 최적화(Manifold-constrained Noise Optimization)를 수행하는 학습 불필요(training-free) 방법인 MoNO를 제안한다. MoNO는 각 새로운 초기 노이즈를 순차적으로 최적화하여 예측된 시각적 특징이 이전 생성 결과를 보완하도록 하며, 아핀 저주파 구(affine low-frequency sphere)에서의 리만(Riemannian) 업데이트는 사전분포 가능도(likelihood)를 보존하고 불안정한 고주파 성분을 구조적으로 고정한다. 이를 통해 큰 측지선(geodesic) 스텝이 가능해지고, 보조 품질 제어 목적 함수의 필요성이 제거되며, 기존 노이즈 최적화 방법보다 훨씬 적은 반복 횟수로 수렴한다. 여러 증류 텍스트-이미지 디퓨전 모델에 대한 실험에서 MoNO는 이미지 품질을 유지하면서 프롬프트당 다양성을 일관되게 개선함을 보여준다.
확산 및 Gaussian-interpolant 플로-매칭 샘플러는 터미널 노이즈 바닥 $\varepsilon$을 통해 데이터에 접근하며, 이는 매니폴드 상 데이터나 rank-deficient 데이터에 대한 특이 극한이다. 우리는 업데이트 규칙, 시간 격자, 터미널 규칙으로 구성된 완전한 샘플러 명세의 두 가지 성질을 연구한다. 점근적 보존(asymptotic preservation, AP)은 $\varepsilon$과 독립적으로 유계된 스텝 수를 갖는 안정적이고 일관된 제로-노이즈 이산화를 의미한다. $p$차 균등 정확도(uniform accuracy, UA)는 수치 해상도 $h$에서 엔드포인트 $W_2$ 오차가 바닥과 무관한 상수를 갖고 $O(h^p)$임을 의미한다. 유계 log-noise 스텝핑은 스텝 수가 발산하기 때문에 AP를 만족하지 못한다. 안정적인 기본 솔버를 양의 전환 스케일 $a$에서 중단하고 해석적 normal mode에 맞춘 하나의 map을 덧붙이면 AP가 복원된다. 매끄럽고 경계 없는 compact 매니폴드 위에서, 표준 map은 정확한 입력에 대한 오차 $O(a^2-\varepsilon^2)$와 날카로운 zero-floor 오차 $Θ(a^2)$를 갖는다. 해결 구간에서 floor-uniform $p$차 추정치를 갖는 기본 솔버는 터미널 transfer factor가 유계로 유지될 때 $a=O(h^{p/2})$이면 그 차수를 유지한다. 정확한 궤적을 따라, 사후 평균 항등식 $D(x(σ),σ)=x(σ)-σx'(σ)$는 선형 터미널 결함을 상쇄하고 더 높은 차수의 fitted map을 가능하게 한다. 3-평가 Hermite 구성은 $0\le\varepsilon\le a$에서 정확한 전환 스케일 입력에 대해 균등하게 3차이며, 7-평가 구성은 zero에서 4차이다. 대표적인 확산 및 플로-매칭 명세를 AP와 UA로 분류한다. EDM 및 Rectified Flow 체크포인트에서, paired decomposition은 기본 적분과 터미널 완성 오차를 분리하고 held-out same-seed 엔드포인트 오차를 예측한다.