타원 샘플링: 가우시안 및 그 너머를 위한 최적 보간 스케줄
Elliptic Sampling: Optimal Interpolant Schedules for Gaussians and Beyond
한국어 초록
확률적 보간체에 기반한 생성 모델링은 초기 분포와 목표 분포를 잇는 보간 스케줄, 그리고 그로부터 얻어지는 확률 흐름 ODE의 효율적인 이산화라는 두 가지 핵심 선택을 지정해야 한다. 본 연구는 (복소화된) ODE 궤적의 해석성에 기반한 스케줄/이산화 공동 설계의 새로운 프레임워크를 도입하며, 해석성은 좋은 수치적 거동을 보장한다. 이 정식화는 등각 사상을 통해 정확히 풀 수 있으며, 야코비 타원 함수로 매개변수화되는 분산 보존 타원 스케줄의 자연스러운 족을 제공한다. 타원 스케줄을 맞춤형 이산화와 결합하여, 졸로타레프의 최적 유리 함수 근사와 밀접하게 연관된 새로운 샘플링 알고리즘 Zoloflow를 얻는다. 중요하게도 타원 스케줄과 Zoloflow는 모두 목표 분포의 조건수 $\kappa$를 명시적으로 반영하며, $\kappa \rightarrow 1$의 극한에서 고전적인 삼각 스케줄로 환원된다. 가우시안 목표에 대해 Zoloflow는 모든 무지향(oblivious) 스코어 스팬 알고리즘 중에서 미니맥스 최적성을 달성하며, $\Theta(\log\kappa\,\log(\sqrt d/\varepsilon))$회의 (정확한) 스코어 질의로 총변동 오차 $\varepsilon$을 얻는다. 로그 오목 경우에 대해 타원 스케줄은 단지 $\widetilde{O}(\sqrt{d} \, \mathrm{polylog}(\kappa, 1/\varepsilon))$회의 스코어 평가만으로 최대 $\varepsilon$의 2-바serstein 오차로 샘플링할 수 있게 한다. 이러한 이론적 결과를 보완하기 위해, 합성 벤치마크와 기존 이미지 생성 데이터셋에서 대안 스케줄 제안들과의 상세한 비교를 포함하여, 일반적인(로그 오목이 아닌) 목표 분포에 대해 타원 스케줄을 실험적으로 평가한다.
원문 초록
Generative modeling based on stochastic interpolants requires specifying two key choices: an interpolant schedule bridging the initial and target distributions, and an efficient discretization of the resulting probability-flow ODE. In this work, we introduce a new framework for joint schedule/discretization design based on the analyticity properties of the (complexified) ODE trajectories, which in turn ensure good numerical behavior. Our formulation can be solved exactly via conformal mapping, yielding a natural family of variance-preserving elliptic schedules, parametrized by Jacobi elliptic functions. Pairing an elliptic schedule with a tailored discretization, we obtain Zoloflow, a new sampling algorithm closely connected to Zolotarev's optimal rational function approximants. Crucially, both the elliptic schedule and Zoloflow explicitly incorporate the condition number $\kappa$ of the target distribution and reduce to the classical trig schedule in the limit $\kappa \rightarrow 1$. For Gaussian targets, Zoloflow achieves minimax optimality among all oblivious score-span algorithms, attaining total-variation error $\varepsilon$ using $\Theta(\log\kappa\,\log(\sqrt d/\varepsilon))$ (exact) score queries. For the log-concave case, the elliptic schedule allows sampling with at most $\varepsilon$ 2-Wasserstein-error by requiring merely $\widetilde{O}(\sqrt{d} \, \mathrm{polylog}(\kappa, 1/\varepsilon))$ score evaluations. Complementing these theoretical results, we empirically evaluate the elliptic schedule on general (non-log-concave) target distributions, including detailed comparisons with alternative schedule proposals on both synthetic benchmarks and existing image generation datasets.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.18542v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.