PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13924v1cs.LG

혼합 전후의 KL: 병렬 샘플링에서의 라운드 복잡도 분리

KL Before and After Mixing: A Round-Complexity Separation in Parallel Sampling

병렬 샘플러(parallel sampler)는 함께 생성할 좌표들을 무작위로 선택할 수 있다. 목표 분포 $p$와, 각 출력마다 새로 추출되는 스케줄 $U$의 출력 법칙 $q_U$에 대해, 우리는 스케줄 평균 발산(schedule-averaged divergence) $\mathbb{E}_U D_{\mathrm{KL}}(p\|q_U)$와 출력 법칙 발산(output-law divergence) $D_{\mathrm{KL}}(p\|\mathbb{E}_U q_U)$를 (단위: 나츠) 비교한다. 라운드는 해당 라운드 시작 시점에 고정된 정확한 조건부 마진(conditional marginals)으로부터의 독립적인 추출을 확정하며, 각 출력의 스케줄은 유한한 스케줄 혼합(mixture)으로부터 샘플링 이전에 추출되고, 스케줄링된 모든 라운드에 대해 비용이 부과된다. 짝수 길이 $n$이고 1의 개수가 $n/2$인 이진 문자열에 대한 균등 분포(uniform distribution)의 경우, 고정된 허용오차(tolerance) $\varepsilon>0$에서 기대 라운드 수의 최솟값은 첫 번째 기준 하에서는 $Θ_\varepsilon((\log n)^2)$이지만 두 번째 기준 하에서는 $(e^{-\varepsilon}+o(1))\log_2\ln n$이며, 이 이중 로그(double-logarithmic) 차수는 모든 실행에서 동일한 라운드 수로 달성 가능하다. 이 목표 분포에 대해, 카운트 상태 재귀(count-state recursion)는 모든 인과적 무작위 정책(causal randomized policy)에 대한 모든 라운드 상한에서의 정확한 최소 출력 발산을 제공한다. 이 분리(separation)는 가중치(weight) 비율이 유계이고 쿼터 비율(quota fraction)이 0과 1로부터 떨어져 있는, 순열 대칭성(permutation symmetry)이 없는 가중 고정-개수 목표(weighted fixed-count target)로 확장되며, 완전 지지(full-support) Beta$(1,1)$--베르누이(Bernoulli) 목표로도 확장된다. 이 경우 출력 법칙 기준 하에서의 정확한(sharp) 기대 비용은 $(e^{-\varepsilon}/2+o(1))\log_2\log_2n$이며, 드문 $n$-라운드 실행에서 달성된다. 선행 연구는 균형잡힌(balanced) 목표에 대한 스케줄 평균 비용의 차수와, 두 확장 모두에 대한 $O_\varepsilon((\log n)^2)$ 상한을 암시한다.

arXiv:2606.22976v2cs.LG

빠르게 걷되 주의하라: 마스크 확산 모델에서의 병렬 샘플링 이해

Walk fast but be careful: Understanding Parallel Sampling in Masked Diffusion

본 논문에서는 마스크 확산 모델(MDM, masked diffusion model)의 병렬 샘플링 전략을 연구하기 위한 검증 가능한 샌드박스로 그래프 상의 무작위 보행(random walk)을 활용한다. 고정된 그래프에서 생성된 무작위 보행 표본을 바탕으로 MDM을 학습(training)시킨다. 모델(model)에는 그래프와 전이 커널(kernel)이 전혀 주어지지 않으며, 이는 제어 가능하면서도 평가를 가능하게 하는 잠재 구조 역할을 한다. 본 프레임워크는 생성된 보행의 유효성 검증과 추정된 전이 커널을 통한 분포 충실도 측정 방식을 제공한다. 단순한 그래프를 통해, 최저 엔트로피와 같이 널리 쓰이는 점수를 기반으로 한 병렬 언마스킹(unmasking)이 무작위 병렬 샘플링보다 일관되게 우수한 것은 아님을 이론적으로 증명한다. 즉, 정확한 조건부 확률이 주어지더라도 성능은 그래프가 유도하는 조건부 의존성 구조에 결정적으로 좌우되며, 이는 스도쿠와 같은 벤치마크에서는 분리하여 파악하기 어려운 현상이다. 또한 시퀀스 길이에 대해 로그 수준의 스텝만을 소요하며, 학습된 주변 분포가 정확할 경우 무작위 보행에 대해 정확성이 증명되는 MDM용 훈련 불필요(training-free) 이분(bisection) 샘플러를 개발한다. 그래프 보행 태스크에 대한 실험을 통해 그래프 구조에 따라 서로 다른 병렬 샘플러의 성능이 더 우수함을 확인한다. 사전학습된 MDM에 대한 실험 결과, 이분 형태의 샘플러가 OpenWebText 생성 및 GSM8K, MBPP, HumanEval을 포함한 추론 벤치마크에서 뛰어난 속도-품질 트레이드오프를 제공함을 보여준다. 종합하면, 이러한 결과들은 그래프 보행을 통해 조건부 의존성이 병렬 MDM 샘플링의 핵심 원리임을 밝혀내고, 이 통찰을 언어 생성 및 추론으로 전이 가능한 효율적인 샘플러로 전환한다.