혼합 전후의 KL: 병렬 샘플링에서의 라운드 복잡도 분리
KL Before and After Mixing: A Round-Complexity Separation in Parallel Sampling
병렬 샘플러(parallel sampler)는 함께 생성할 좌표들을 무작위로 선택할 수 있다. 목표 분포 $p$와, 각 출력마다 새로 추출되는 스케줄 $U$의 출력 법칙 $q_U$에 대해, 우리는 스케줄 평균 발산(schedule-averaged divergence) $\mathbb{E}_U D_{\mathrm{KL}}(p\|q_U)$와 출력 법칙 발산(output-law divergence) $D_{\mathrm{KL}}(p\|\mathbb{E}_U q_U)$를 (단위: 나츠) 비교한다. 라운드는 해당 라운드 시작 시점에 고정된 정확한 조건부 마진(conditional marginals)으로부터의 독립적인 추출을 확정하며, 각 출력의 스케줄은 유한한 스케줄 혼합(mixture)으로부터 샘플링 이전에 추출되고, 스케줄링된 모든 라운드에 대해 비용이 부과된다. 짝수 길이 $n$이고 1의 개수가 $n/2$인 이진 문자열에 대한 균등 분포(uniform distribution)의 경우, 고정된 허용오차(tolerance) $\varepsilon>0$에서 기대 라운드 수의 최솟값은 첫 번째 기준 하에서는 $Θ_\varepsilon((\log n)^2)$이지만 두 번째 기준 하에서는 $(e^{-\varepsilon}+o(1))\log_2\ln n$이며, 이 이중 로그(double-logarithmic) 차수는 모든 실행에서 동일한 라운드 수로 달성 가능하다. 이 목표 분포에 대해, 카운트 상태 재귀(count-state recursion)는 모든 인과적 무작위 정책(causal randomized policy)에 대한 모든 라운드 상한에서의 정확한 최소 출력 발산을 제공한다. 이 분리(separation)는 가중치(weight) 비율이 유계이고 쿼터 비율(quota fraction)이 0과 1로부터 떨어져 있는, 순열 대칭성(permutation symmetry)이 없는 가중 고정-개수 목표(weighted fixed-count target)로 확장되며, 완전 지지(full-support) Beta$(1,1)$--베르누이(Bernoulli) 목표로도 확장된다. 이 경우 출력 법칙 기준 하에서의 정확한(sharp) 기대 비용은 $(e^{-\varepsilon}/2+o(1))\log_2\log_2n$이며, 드문 $n$-라운드 실행에서 달성된다. 선행 연구는 균형잡힌(balanced) 목표에 대한 스케줄 평균 비용의 차수와, 두 확장 모두에 대한 $O_\varepsilon((\log n)^2)$ 상한을 암시한다.