한국어 초록
마르코프 연쇄 몬테카를로(MCMC) 방법은 복잡한 확률 분포에서 기댓값을 계산하기 위한 표준적인 도구입니다. 제어 변량(control variate)은 이를 통해 얻은 추정치의 분산을 줄여주지만, 좋은 제어 변량을 얻으려면 샘플러의 포아송 방정식(Poisson equation)을 풀어야 하며 이는 닫힌 형태의 해(closed-form solution)를 갖는 경우가 드뭅니다. 단순한 참조 밀도(reference density) 상에서 샘플러의 커널(kernel)에 대한 스펙트럼 분해(spectral decomposition)가 알려져 있을 때는 정확한 해를 구할 수 있습니다. 본 연구에서는 학습된 변수 변환(change of variables)을 통해 이러한 해를 일반적인 목표 분포로 확장합니다. 목표 분포가 잠재 공간(latent space)에서 참조 분포와 가까워지도록 정규화 흐름(normalizing flow)과 같은 전단사 함수(bijection)를 학습시키며, 마르코프 커널과 해당 포아송 해가 임의의 전단사 함수에 의해 변환됨을 보입니다. 이어 이러한 샘플러를 잠재 공간에서 실행하면 명시적인 제어 변량이 도출되며, 사상(map)과 목표 분포에 대한 온건한 꼬리 조건(mild tail conditions) 하에서 추정량의 일치성(consistency)이 보장됩니다. 흐름(flow) 기반의 중요도 샘플링(IS)은 동일한 구조의 극한 사례(limiting case)이며, 제어 변량은 이 경우에도 동일하게 적용됩니다. 합성 목표 분포 및 실제 사후 분포(posterior)를 대상으로 한 실험을 통해 본 절차를 최신 샘플러 및 제어 변량과 비교합니다.
원문 초록
Markov chain Monte Carlo (MCMC) methods are the standard tool for computing expectations under complex probability distributions. Control variates reduce the variance of the resulting estimates, but a good control variate requires solving the Poisson equation of the sampler, which rarely admits a closed-form solution. Exact solutions are available when the sampler's kernel has a known spectral decomposition on a simple reference density. In our work, we extend these solutions to general targets through a learned change of variables. A bijection, such as a normalizing flow, is trained so that the target becomes close to the reference in a latent space, and we show that Markov kernels and their Poisson solutions are transformed by any bijection. Running such samplers in the latent space then yields explicit control variates, and the estimator is consistent under mild tail conditions on the map and target. Importance sampling (IS) from the flow is the limiting case of the same construction and the control variates apply to it as well. Experiments on synthetic targets and real posteriors compare the procedure against state-of-the-art samplers and control variates.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
비가우시안 공간 장을 위한 확장 가능한 희소 자기회귀 변분 추론
Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields
잠재 장 모델(Latent field model)은 공간 통계학에서 필수적이지만, 가우시안 프로세스(GP) 사전을 사용하더라도 가능도(likelihood)가 비가우시안(non-Gaussian)일 때마다 잠재 장의 사후 분포는 해석적으로 다루기 어렵습니다. 기존의 근사 기법들은 대규모 비가우시안 데이터셋에 적용하기에 너무 느리거나 지나치게 제약적입니다. 본 논문에서는 변분 족(variational family) 내에서 사전 분포의 희소 최근접 이웃 자기회귀 구조를 반영하고, 표현력을 위해 정규화 흐름(normalizing flow) 조건부 분포를 사용하며, 단일 공유 신경 조건화기(neural conditioner)를 통해 모든 변분 파라미터를 상각(amortize)하는 확장 가능한 변분 추론(variational inference) 프레임워크를 제안합니다. 축소된 조상 집합을 활용한 이중 확률적 최적화(doubly stochastic optimization)를 통해 반복(iteration)당 다항 로그 복잡도를 달성합니다.
원자 수준 열역학 지형의 생성형 중첩 샘플링
Generative Nested Sampling of Atomistic Thermodynamic Landscapes
중첩 샘플링(Nested sampling, NS)은 단 한 번의 시뮬레이션을 통해 원자계의 열역학적 특성을 규명할 수 있지만, 가능도(likelihood) 제약 앙상블(ensemble) 내에서 워커 간의 상관성을 해소하기 위해 필요한 마르코프 체인 업데이트로 인해 실제 적용 범위가 제한된다. 흐름 기반(flow-based) NS는 중력파(GW) 추론(inference)에서 이러한 병목 현상을 완화했으나, 이를 원자계로 확장하는 것은 단순한 응용 분야 변경 이상의 과제를 수반한다. 차원이 유사한 GW150914 계열 쌍성 블랙홀 가능도와 8개 입자 2차원 레너드-존스(LJ) 계를 비교함으로써, 본 연구는 두 지형이 근본적으로 다름을 규명한다. 즉, 원자계의 다봉성(multimodality)은 강한 충돌 벽으로 분리된 입자 치환에 의해 발생하는 이산적이고 조합론적인 형태이며 좌표 결합이 조밀하고 집단적인 반면, GW 사후확률은 매끄러운 축퇴와 국소화된 매개변수(parameter) 결합을 보인다. 이러한 진단을 바탕으로 본 연구는 NS 에너지 경계를 조건으로 취하고 최근 라이브 셋의 슬라이딩 윈도우에서 학습(training)되는 단일 조건부 정규화 흐름(normalizing flow)인 NS-Flows를 제안한다. 이는 중요도 가중 기각 리샘플링으로 보정된 직접 병렬 샘플 추출을 통해 MCMC를 대체한다. 라이브 셋이 데이터를 자체 일관적으로 공급하므로, 구조화된 사전분포나 기존 데이터셋(dataset) 없이도 흐름 모델을 학습할 수 있다. 주기적 경계 조건을 갖는 LJ 디스크 시스템에서 본 알고리즘은 에너지 계산 횟수를 두 자릿수(100배)가량 절감하고 실제 실행 시간(wall-clock time)을 약 30% 단축하며, 포텐셜 계산 비용이 커질수록 이러한 이점은 더욱 두드러진다. 나아가 흐름 모델의 생성 효율은 물리적 진단 지표로도 기능한다. 어닐링 궤적을 따라 비단조적으로 변하고 밀집된 무질서 영역에서 가장 낮게 나타나며, 학습 윈도우에 걸친 타깃 이동 및 제약 앙상블 내부의 모드 복잡도와 함께 정량적으로 포착된다. 이는 사전분포-타깃 간 분리가 아닌 액체 유사 앙상블이 현행 흐름 아키텍처의 주된 난제임을 보여준다.
확산 경로를 이용한 마르코프 연쇄 몬테카를로
Markov Chain Monte Carlo with Diffusion Paths
다중 모드 분포(multimodal distribution)로부터의 샘플링은 고전적인 로컬 마르코프 연쇄 몬테카를로(MCMC) 방법에서 오랜 난제였다. 널리 쓰이는 해결책은 목표 분포와 더 단순한 참조 분포 사이를 보간하는 중간 분포 시퀀스를 도입하는 것이다. 고전적인 방법인 템퍼링(tempering)은 밀도를 거듭제곱으로 올리지만, 비대칭 모드들의 상대적 가중치를 왜곡하고 혼합 성능을 저하시킬 수 있다. 이에 대한 대안으로, 우리는 목표 분포를 가우시안으로 이끄는 노이징 확산 과정의 주변 분포인 확산 경로(diffusion path)를 따라 보간하는 방법을 제안한다. 이 경로는 모드들의 상대적 가중치를 보존하며 유리한 혼합 특성을 지니는데, 이를 대응하는 이상적인 전이 커널의 스펙트럴 갭(spectral-gap) 분석을 통해 엄밀히 밝힌다. 경로를 따른 샘플링에는 중간 스코어(intermediate score)가 필요하며, 이는 비정규화 목표 분포로부터 변분적(variational) 접근법을 통해 추정할 수 있어 근사 샘플러만 얻어진다. 이로 인한 바이어스를 제거하기 위해, 우리는 메트로폴리스-보정 확산 경로(MAD-Path) 샘플러를 도입한다. 이 샘플러는 증강된 경로 공간(augmented path space)에서 확산 경로 제안을 보정하며, 학습된 스코어의 정확도나 이산화 오류와 무관하게 목표 분포를 불변으로 유지한다. 또한 이 두 오류가 수락 확률에 미치는 영향을 정량화하여 실용적인 튜닝을 위한 지침을 제공한다. 다양한 베이지안 사후 분포(Bayesian posterior)에 대한 실험에서 MAD-Path는 템퍼링 기반 MCMC 방법 및 비보정 확산 샘플러에 비해 전역 탐험과 모드 가중치 추정을 개선함을 보여준다.
Large Language Gibbs를 이용한 구조적 추론
Structured Inference with Large Language Gibbs
대규모 언어 모델(LLM)에 인코딩된 지식은 복잡한 세계를 설명하는 변수들에 대한 구조적 추론을 위한 기반으로 활용될 수 있지만, 이 지식을 확률적으로 일관된 방식으로 접근하는 것은 어려운 추론 문제를 야기합니다. 본 논문에서는 LLM의 조건부 분포를 전이 연산자로 활용하는 구조적 확률적 추론 방식인 Large Language Gibbs를 제안합니다. 단일 패스 자기회귀 생성을 통해 구조적 객체를 샘플링하는 대신, LLM의 다음 토큰 조건부를 사용하여 다른 변수들이 주어진 상태에서 개별 변수를 반복적으로 재샘플링합니다. 이 접근 방식은 순서 종속 편향을 피하고 모든 국소적 조건부 간의 절충을 반영하는 정상 분포를 생성합니다. 우리는 이 접근 방식을 합성 분포 샘플링, 일관된 추론 작업, 베이지안 구조 학습에 적용했습니다. 결과는 노이즈가 있는 LLM 조건부를 통해 접근 가능한 세계 사전 분포 하에서 구조적 확률적 추론을 위해 MCMC(마르코프 연쇄 몬테카를로)에서 LLM 조건부를 사용하는 것이 단일 패스 생성에 대한 실용적인 대안이 될 수 있음을 시사합니다.
Tamed 확률적 그래디언트 Hamiltonian Monte Carlo
Tamed Stochastic Gradient Hamiltonian Monte Carlo
본 논문에서는 확률적 그래디언트가 초선형적으로 증가하는 샘플링 및 확률적 최적화 문제를 위해 새로운 tamed 확률적 그래디언트 Hamiltonian Monte Carlo(tSGHMC) 알고리즘을 제안한다. 일정한 평균 연속성 조건과 강볼록성 조건 하에서, tSGHMC에 대해 Wasserstein-2 거리에서 수렴률이 $1/4$인 비점근적 오차 상계를 확립한다. 이어서 관련 기대 과잉 위험(expected excess risk)에 대한 상계를 유도하여 tSGHMC 성능에 대한 이론적 보장을 제공한다. 제안 알고리즘의 효과를 보이기 위해, tSGHMC를 합성 및 실제 데이터셋을 사용하여 newsvendor 문제와 Conditional Value-at-Risk(CVaR) 최소화 문제 등 실용적 사례에 적용한다. 수치 결과는 이론적 결과를 뒷받침한다. 또한 tSGHMC를 1계(first-order) 대응 알고리즘인 tamed unadjusted stochastic Langevin algorithm과 비교한다. 시뮬레이션 결과, 다양한 태스크에서 tSGHMC가 더 낮은 RMSE(root mean square error)와 기대 과잉 위험을 달성함을 보여준다.
조정되지 않은 Hamiltonian Monte Carlo와 저감쇠 Langevin에서의 바이어스의 비국소화
Delocalization of bias in unadjusted Hamiltonian Monte Carlo and underdamped Langevin
조정되지 않은 Hamiltonian Monte Carlo와 저감쇠 Langevin과 같은 조정되지 않은(unadjusted) 샘플러는 바이어스가 있음이 잘 알려져 있다. Metropolis--Hastings 조정은 전통적으로 Hamiltonian Monte Carlo에 바이어스를 제거하기 위해 통합되어 왔다. 그러나 합리적인 Metropolis 수용률을 위해 필요한 작은 스텝 크기로 인해, 이 조정은 반복 복잡도를 크게 증가시킬 수 있다. 본 연구에서는 과감쇠 Langevin 알고리즘에 대해 이전에 확립된 \emph{바이어스의 비국소화} 현상을 이 두 조정되지 않은 알고리즘으로 확장한다. 변수 간 약한 또는 희소 상호작용을 가정하면, 고차원 분포의 임의의 $K$차원 주변(marginal)에 대한 $W_2$ 바이어스를 제어하기 위해 $\log d$ 항까지 $O(\sqrt{K})$ 적분 단계로 충분함을 보인다. 여기서의 이산 시간 적분기(integrator)는 과감쇠 설정을 넘어서는 기술적 어려움을 야기하며, 이를 전파자(propagator)를 특성화하는 광범위하게 적용 가능한 행렬-다항식(matrix-polynomial) 프레임워크를 통해 해결한다. 저감쇠 Langevin 알고리즘에 대한 우리의 결과는 모든 큰 마찰(friction) 매개변수에 대해 유효하며, 이는 과감쇠 Langevin 역학(dynamics)에 대한 Leimkuhler-Matthews 적분기 역시 바이어스의 비국소화를 나타냄을 시사한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.