원문 초록
Modern vision generators transport a base distribution to data through time-indexed measures, implemented as deterministic flows (ODEs) or stochastic diffusions (SDEs). Despite strong empirical performance, standard flow-matching objectives do not directly control the information geometry of the trajectory, allowing low-entropy bottlenecks that can transiently deplete semantic modes. We propose Entropy-Controlled Flow Matching (ECFM): a constrained variational principle over continuity-equation paths enforcing a global entropy-rate budget d/dt H(mu_t) >= -lambda. ECFM is a convex optimization in Wasserstein space with a KKT/Pontryagin system, and admits a stochastic-control representation equivalent to a Schrodinger bridge with an explicit entropy multiplier. In the pure transport regime, ECFM recovers entropic OT geodesics and Gamma-converges to classical OT as lambda -> 0. We further obtain certificate-style mode-coverage and density-floor guarantees with Lipschitz stability, and construct near-optimal collapse counterexamples for unconstrained flow matching.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2602.22265v3제출 시각 미확인
- arXiv:2602.22265v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
생성형 확산과 최적 수송 간의 연결성에 관한 고찰
Some remarks on the connection between generative diffusion and optimal transport
본 논문에서는 생성형 확산(generative diffusion)과 최적 수송(optimal transport) 사이의 세 가지 단순한 연결성에 대해 논의한다. 첫째, 데이터와 데이터의 오른슈타인-울렌벡(Ornstein-Uhlenbeck) 노이즈화 간의 결합 법칙은 모든 시점에서 노이즈 수준에 의해 설정된 온도에서의 엔트로피 최적 수송 문제의 해가 된다. 결과적으로 역방향 확산은 엔트로피 정규화(regularization)를 점진적으로 감소시키는 어닐링(annealing) 과정으로 해석될 수 있다. 둘째, 생성 과정에서 데이터 분포의 모드(mode)가 어떻게 출현하는지를 나타내는 분화 전이(speciation transition)를 연구하고, 확산 및 플로우 매칭(flow matching)에서 이러한 현상이 최적 수송과 비교하여 어떻게 일어나는지 비교한다. 고차원 예시로 가우시안 혼합(Gaussian mixture)을 활용하여, 확산과 플로우 매칭이 모드를 분리하는 동적 불안정성이 최적 수송에서는 생성 시작 시점의 지수적으로 얇은 경계층(boundary layer)이 되며, 이는 엔트로피 정규화에 의해 완화됨을 보인다. 셋째, 일반적인 구속 포텐셜(confining potential)을 갖는 일반 순방향 동역학을 고려할 때, 스코어(score)에 의해 구동되는 역방향 프로세스 또한 최소 비용이 초기 및 최종 분포 간의 엔트로피 차이가 되는 드리프트 기반 변분 원리를 만족함을 보인다.
펜첼 틸팅: 생성 모델의 효율적인 미세조정을 위한 가중 보정
Fenchel Tilting: Weighted Correction for Efficient Finetuning of Generative Models
사전학습된 생성 모델을 효용 함수로 표현되는 임의의 선호도에 적응시키는 것은 보상 정렬(reward alignment), 유도 설계(guided design), 제약 조건 충족의 기초가 되며 다양한 응용을 가능하게 합니다. 기존의 미세조정(fine-tuning) 방법들은 범용성과 계산 비용 간의 트레이드오프를 겪습니다. 즉, 최적화를 단순하게 유지하기 위해 지원되는 선호도 군을 제한하거나, 효율성을 희생하면서 범용성을 유지합니다. 본 논문에서는 효용 최적화와 생성 모델 피팅을 분리하는 펜첼 틸트 흐름 제어(Fenchel Tilt Flow Control, FTFC)를 제안합니다. FTFC는 먼저 사전학습된 샘플에 대해 유효 보상과 밀도비 가중치를 공동으로 피팅하여 목표 분포에 대해 최적화합니다. 이 방법은 효용의 변분 구조와 펜첼 쌍대성(Fenchel duality)을 결합하여, 보상이 분포 보정 가중치로 변환되는 방식을 결정하는 일반적인 $f$-다이버전스 페널티를 지원합니다. 그런 다음 이러한 가중치를 고정하고, 샘플링 궤적을 통한 미분 없이 단일 단계의 중요도 가중치 디노이징 또는 플로우 매칭에서 확산 또는 플로우 모델을 수정하는 데 사용합니다. 우리는 적절한 조건에서 오목 효용에 대한 정확한 쌍대성을 규명하고, 가중 피팅이 주어진 효용에 대한 최적의 목표 분포를 재현함을 보입니다. 이미지 및 분자 생성 벤치마크 전반에 걸쳐 FTFC는 다양한 선호도 함수에서 베이스라인 대비 성능을 향상시키는 동시에 최대 20배 더 효율적입니다. 제안된 방법은 복잡한 최적화 없이 기대 보상 극대화를 넘어선 적응을 가능하게 하며, 베이스라인과 비교하여 더 일반적인 효용 함수 군에 대한 견고성을 유지합니다.
VTV-FM: 변분 종단 속도 종결을 통한 플로우 매칭
VTV-FM: Flow Matching through Variational Terminal-Velocity Closure
플로우 매칭(Flow Matching, FM)은 단순한 소스 분포에서 데이터 분포로 향하는 연속 시간 움직임을 피팅하여 생성적 수송을 학습합니다. 기존 방식의 대부분은 1차 브릿지(first-order bridge)를 사용합니다. 즉, 소스와 타깃 샘플이 쌍을 이루면 경로는 일정한 속도를 갖는 직선 운동이 됩니다. 최적 수송(Optimal Transport, OT) 기반의 플로우 매칭은 페어링을 개선하지만 브릿지 자체는 선형으로 유지되므로 곡선 운동, 가속도 및 방향 변화를 모델링하는 데 한계가 있습니다. 자연스러운 해결책은 2차 위상 공간 역학(second-order phase-space dynamics)을 사용하는 것이지만, 브릿지를 학습하려면 정적 데이터셋에서는 제공되지 않는 타깃 측 종단 속도(terminal-velocity) 정보가 필요합니다. 본 논문에서는 가속도 에너지를 최소화하여 누락된 속도를 도출하고 정적 데이터에 대한 닫힌 형태의 종결(closed-form closure)을 제공하는 2차 FM 프레임워크인 변분 종단 속도 플로우 매칭(Variational Terminal-Velocity Flow Matching, VTV-FM)을 제안합니다. 동일한 최소 가속도 변분 구성은 학습에 사용되는 가속도 타깃과 OT 페어링 비용도 정의합니다. 저차원 데이터셋, 편미분 방정식(PDE) 지배 물리장, CIFAR-10에 대한 실험 결과, VTV-FM이 기존 1차 및 고차 FM 베이스라인 대비 수송 기하학(transport geometry)과 생성 품질을 개선함을 보여줍니다.
I-SplineFlow: 소수 스텝 생성을 위한 단조 스플라인 확률적 보간(Stochastic Interpolant) 스케줄러 학습
I-SplineFlow: Learning Monotone Spline Stochastic Interpolant Schedulers for Few-Step Generation
사전학습된 확산(diffusion) 및 플로우(flow) 모델을 이용한 소수 스텝(few-step) 생성은 네트워크가 아니라 샘플링 궤적을 최적화하는 경량 학습으로 가속할 수 있다. 최근의 한 접근법은 확률적 보간(stochastic interpolant, SI) 스케줄러를 부드러운 곡선으로 매개변수화하며, 이 곡선의 제어점은 SI 스케줄러가 만족해야 하는 세 가지 성질, 즉 고정된 경계 조건, 단조 신호 대 잡음비(SNR), 그리고 미분 가능성을 강제한다. 기존 매개변수화는 전역적으로 지지되는(globally supported) 다항식 기저를 사용하는데, 이 경우 모든 제어점이 곡선 전체를 움직이고 표현력을 높이려면 더 높은 차수가 필요하므로, 최적화 과정에서 스케줄의 멀리 떨어진 구간들이 서로 결합된다. 본 논문은 적분 단조 스플라인(integrated monotone splines, I-splines)으로 스케줄러를 매개변수화하는 *I-SplineFlow*를 제안한다. I-spline은 다항식 차수와 혼합 가중치(mixture weight)의 개수를 분리하므로, 가중치 개수를 고정한 채 모델마다 지지 폭(support width)과 매끄러움을 선택할 수 있으며, 컴팩트하게 지지되는 도함수 기저 덕분에 스케줄러 야코비안(Jacobian)의 조건수가 Bézier 기저보다 수 자릿수 더 좋다. 경계 조건과 엄격하게 단조인 SNR은 매개변수에 대한 순서 제약 없이 구성 자체로 보장되며, 속도(velocity)의 도함수는 닫힌 형태(closed-form)로 얻어진다. 확산(EDM) 모델과 플로우(ReFlow, Simple ReFlow) 모델 전반에서 I-SplineFlow는 대부분의 설정에서 Bézier 스케줄링보다 소수 스텝 FID를 개선하며, 특히 가장 낮은 NFE에서 그 개선이 가장 뚜렷하고, 학습에는 수 분밖에 걸리지 않는다. 절제 실험(ablation)은 차수의 자유도와 단조성 제약이 모두 필요함을 보여준다. 코드는 논문 채택 시 공개될 예정이다.
SewFusion: 재봉 패턴을 위한 위상 및 패널 수준 기하학의 맞춤형 생성
SewFusion: Tailored Generation of Topology and Panel-Level Geometry for Sewing Patterns
이미지와 텍스트로부터 재봉 패턴을 생성하려면 이산적 위상(topology)과 연속적 기하학(geometry)으로 구성된 이종 표현(heterogeneous representation)을 모델링해야 합니다. 기존 방법들은 주로 두 가지 패러다임을 따릅니다. 확산 기반(diffusion-based) 방법은 전체 패턴을 연속적인 표현으로 변환하여 전체적인 기하학 생성을 가능하게 하지만 이산적 위상 모델링을 약화시킵니다. 반면, 자기회귀(autoregressive) 방법은 다음 토큰 예측(next-token prediction)을 통해 이산적 위상을 보존하지만, 연속적 기하학 회귀를 패널 수준의 문맥이 제한된 토큰 수준의 은닉 상태(hidden states)에 결속시킵니다. 이러한 격차를 해소하기 위해, 우리는 이산적 위상과 패널 수준의 연속적 기하학에 대해 맞춤형 생성 메커니즘을 채택하여 전자에는 다음 토큰 예측을, 후자에는 플로우 매칭(flow matching)을 사용하는 통합 자기회귀 프레임워크인 SewFusion을 제안합니다. 패널 수준의 연속적 기하학 생성을 지원하기 위해 가변 길이의 패널 기하학에 대한 고정 크기 잠재 공간(latent space)을 학습하는 Panel Geometry VAE와 잠재 생성을 위한 Panel Geometry Flow를 도입합니다. 나아가 위상 문맥에서의 학습-추론 불일치를 줄이고 위상 예측 오류에 대한 강건성을 향상시키기 위해 Panel-Forcing을 제안합니다. SewFactory 및 GCD-MM에 대한 광범위한 실험은 SewFusion이 다양한 설정에서 기존의 최첨단 방법들을 일관되게 능가하며, 이미지-텍스트 기반 생성 설정에서 패널 정확도(Panel Accuracy) +6.36%, 스티치 정확도(Stitch Accuracy) +11.30%, 정점 L2 오차(Vertex L2 error) -1.90을 달성함을 입증합니다.
점진적 시드 가지치기를 통한 디퓨전 모델의 추론 시 스케일링
Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning
디퓨전 및 flow-matching 모델이 조건부 이미지 생성을 지배하고 있지만, 이러한 모델에 대한 추론 시 스케일링은 자기회귀(autoregressive) 언어 모델에 비해 훨씬 덜 발전되어 있다. 최종 품질이 초기 노이즈 시드에 매우 민감하기 때문에, 많은 접근법은 블랙박스 보상 하에서 시드 탐색이나 재샘플링에 추가 연산을 투입하지만, 일반적으로 추론 전반에 걸쳐 일정한 메모리 사용량을 유지한다. 우리는 이 제약을 완화하면 아직 충분히 탐구되지 않은 추론 시 스케일링 축을 활성화할 수 있음을 보인다: 탐험을 앞단에 집중하고, 초기에 많은 시드를 평가하며, 공격적으로 가지치기함으로써 고정된 연산 예산을 더 효과적으로 사용할 수 있다. 점진적 시드 가지치기(Progressive Seed Pruning, PSP)는 중간 디노이징 추정치에 점수를 매기고 후보 집합을 점진적으로 좁혀 유망한 궤적만 완전히 디노이징하며, 모델 평가 총 횟수는 고정된 상태를 유지한다. 디퓨전 및 flow-matching 백본 전반에서 PSP는 보상 유도 선택을 일관되게 개선하며, 동일한 연산량에서 best-of-N, importance-sampling, tree-search 기준선보다 더 높은 GenEval 점수(자동)와 프롬프트 정렬에 대한 더 나은 인간 평가를 달성한다. 프로젝트 페이지: https://www.vision.caltech.edu/psp. 코드: https://github.com/rogerioagjr/psp.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.