대조적 궤적 반발을 통한 더 부드러운 플로우 매칭
Smoother Flow Matching via Contrastive Trajectory Repulsion
궤적 교차(trajectory crossing)는 플로우 매칭(Flow Matching, FM)에서 여전히 중요한 병목 현상으로 남아 있으며, 이전 연구들은 일반적으로 이러한 교차를 속도 평균화(velocity averaging)를 유발하는 이론적 최적화(optimization) 관점에서 바라보았습니다. 이들은 중간 궤적을 명시적으로 조절하지 않고 사후 증류(distillation)나 종점 결합(endpoint coupling)을 통해 이를 간접적으로 해결하고자 했습니다. 본 논문에서는 새로운 네트워크 학습(training) 관점을 제시합니다. 즉, 교차점은 본질적으로 목표 속도장(velocity field)에서 큰 국소 립시츠 상수(local Lipschitz constant)를 유발하며, 이는 두 가지 단점으로 이어집니다. 첫째, 높은 립시츠 상수는 신경망이 스펙트럼 바이어스(spectral bias)로 인해 적합(fit)하기 어려워하는 속도장의 고주파 신호에 해당합니다. 둘째, 이는 급격한 속도 변화를 의미하기도 하여 소수 단계 추론(inference)에서 심각한 수치 적분 오차를 초래합니다. 이를 완화하기 위해, 학습 중에 궤적을 명시적으로 밀어내어 속도장의 국소 립시츠 상수를 낮추도록 FM에 대조 학습(contrastive learning) 패러다임을 도입하는 프레임워크인 CoFlow를 제안합니다. 구체적으로, 반발성 드리프트 항(repulsive drift term)을 주입하여 확률 미분 방정식(SDE) 관점에서 CoFlow를 정식화합니다. 이 드리프트는 양성 샘플의 순방향 과정을 음성 궤적으로부터 능동적으로 멀어지게 유도하여 국소 립시츠 상수를 효과적으로 감소시킵니다. 나아가, 이 SDE로부터 등가의 확률적 보간기(stochastic interpolant) 정식화를 유도하여 음성 샘플의 영향을 제어할 수 있는 간단하고 다루기 쉬운 설계 공간을 제공합니다. ImageNet 256x256에 대한 광범위한 실험을 통해 CoFlow가 추가적인 학습 오버헤드 없이 소수 단계 추론(예: 20단계)에서 표준 FM 대비 FID를 크게 감소시킴을 입증합니다. 코드는 https://github.com/HKUST-LongGroup/CoFlow 에서 확인할 수 있습니다.