생성 플로우의 보편성과 수렴
Universality and Convergence of Generative Flows
생성 플로우(generative flow)는 플로우가 균형을 이루도록 학습(training)함으로써 정규화되지 않은 타깃으로부터 샘플링하며, 연구자는 신호로서 학습 손실(loss)을 관찰합니다. 본 논문에서는 이 신호가 어떤 가치를 지니는지, 즉 작은 손실이 정확한 샘플러를 보장하는지, 손실을 0으로 만들 수 있는지, 그리고 경사하강법(gradient descent)이 얼마나 빠르게 이를 수행하는지 질문을 던집니다. 첫 번째 질문은 손실이 결정합니다. 균형의 양변을 차이로 비교하는 손실은 플로우가 유도하는 샘플러의 오차를 전변동(total variation) 측면에서 유계(bound)하며, 정책(policy)을 포함하지 않는 명시적 상수를 가집니다. 반면 비율을 통해 비교하는 플로우 매칭 손실은 생성자가 균형에서 연속적일 때마다 단일 사이클 상에서도 그러한 경계를 허용하지 않습니다. 그래프 상에서는 역방향 정책(backward policy)이 나머지 두 가지를 결정합니다. 역방향 정책이 고정되면 균형은 역방향 체인 하에서의 불변성이 되므로 유한 그래프에서 존재성은 자연스럽게 주어지며, 역 스펙트럼 갭(inverse spectral gap) 역할을 하는 해당 체인의 그린 연산자(Green operator) 노름이라는 하나의 상수가 균형 플로우 주변에서 손실 곡률의 차수를 위아래로 고정하고, 그 근처에서 학습이 수렴(convergence)하는 속도의 하한을 설정합니다. 그 메커니즘은 경사하강법이 역방향 정책을 따라 플로우를 확산시키는 것입니다. 세부 균형(detailed balance) 및 궤적 균형(trajectory balance)의 로그 제곱 생성자의 경우, 상태에 대한 균형 손실 학습은 모든 양수 초기화(initialization)로부터 모든 유한 경로 연결 그래프에서 전역적으로 수렴합니다. 역방향 궤적이 평균적으로 짧은 반면 이 상수는 무한할 수 있으며, 이 경우 정확한 플로우 매칭이 실패할 수 있습니다. 경계와 속도는 가산 가능한 상태 공간에서의 정확한 계산을 통해 검증되며, 모든 정리는 Lean 4 구현으로부터 계산된 검증 상태를 수반합니다.