비가우시안 공간 장을 위한 확장 가능한 희소 자기회귀 변분 추론
Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields
한국어 초록
잠재 장 모델(Latent field model)은 공간 통계학에서 필수적이지만, 가우시안 프로세스(GP) 사전을 사용하더라도 가능도(likelihood)가 비가우시안(non-Gaussian)일 때마다 잠재 장의 사후 분포는 해석적으로 다루기 어렵습니다. 기존의 근사 기법들은 대규모 비가우시안 데이터셋에 적용하기에 너무 느리거나 지나치게 제약적입니다. 본 논문에서는 변분 족(variational family) 내에서 사전 분포의 희소 최근접 이웃 자기회귀 구조를 반영하고, 표현력을 위해 정규화 흐름(normalizing flow) 조건부 분포를 사용하며, 단일 공유 신경 조건화기(neural conditioner)를 통해 모든 변분 파라미터를 상각(amortize)하는 확장 가능한 변분 추론(variational inference) 프레임워크를 제안합니다. 축소된 조상 집합을 활용한 이중 확률적 최적화(doubly stochastic optimization)를 통해 반복(iteration)당 다항 로그 복잡도를 달성합니다.
원문 초록
Latent field models are essential for spatial statistics, but the posterior distribution of the latent field, even with a Gaussian process (GP) prior, is analytically intractable whenever the likelihood is non-Gaussian. Existing approximations are either too slow or too restrictive for large non-Gaussian datasets. We present a scalable variational inference framework that mirrors the sparse nearest-neighbor autoregressive structure of the prior in the variational family, uses normalizing-flow conditionals for expressiveness, and amortizes all variational parameters via a single shared neural conditioner. Doubly stochastic optimization with reduced ancestor sets achieves polylogarithmic complexity per iteration.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
사후 위험을 활용한 불확실성 분리를 위한 정답 프레임워크
A Ground-Truth Framework for Uncertainty Disentanglement with Posterior Risk
안전성이 중요한 응용 분야에서는 신뢰할 수 있는 불확실성 추정이 필수적이다. 이러한 추정치가 실제로 유용하려면 모델의 불확실성을 유발하는 근본적인 원인을 이해해야 하며, 이는 전체 불확실성을 인식론적 불확실성(epistemic uncertainty)과 우발적 불확실성(aleatoric uncertainty)으로 분리(disentanglement)하도록 유도한다. 기존의 불확실성 개념들은 포착하는 원인이 서로 다르며, 그에 따라 우발적 불확실성과 인식론적 불확실성에 대한 정의도 달라 보편적으로 받아들여지는 정의가 존재하지 않는다. 본 논문에서는 관측된 표본이 주어졌을 때 타당한 정답 함수들의 분포 하에서 예측기의 기대 손실로 정의되는 표본 조건부 점별 사후 위험(sample-conditional pointwise posterior risk)을 통해 불확실성을 정의한다. 이 정의는 확률론적 불확실성 개념과 위험 기반 불확실성 개념을 통합한다. 최신 불확실성 분리 방법들을 평가하기 위해, 주로 사후 위험으로 정의된 정답 불확실성 및 흔히 사용되는 대안적 불확실성 정의들과 추정치를 직접 비교하는 프레임워크를 개발한다. 실험 결과, Spectral-normalized Neural Gaussian Processes와 Variational Latent Gaussian Processes가 정답 불확실성을 가장 근접하게 복원하는 반면, 대부분의 방법은 사후 위험보다 사후 분산을 더 밀접하게 추적하여 예측기의 바이어스를 놓치는 것으로 나타났다. 방법론의 순위 비교를 넘어, 추정된 우발적 불확실성과 인식론적 불확실성이 얼마나 강하게 얽혀 있는지, 그리고 불확실성의 품질이 모델링 선택에 얼마나 민감한지 조사하여 불확실성 분리를 위한 실용적인 지침을 제시한다. 추가적인 방법 개발 및 검증을 지원하기 위해, 사후 분포가 알려져 있어 정답 불확실성 계산이 가능한 13개의 준합성(semi-synthetic) UCI/OpenML 데이터셋을 공개한다. 코드와 데이터는 논문 채택 시 공개될 예정이다.
Riesz 커널 Stein 변분 경사하강법: 재정규화 엔트로피와 장시간 입자 극한
Riesz-Kernel Stein Variational Gradient Descent: Renormalized Entropy and Long-Time Particle Limits
Stein 변분 경사하강법(SVGD)은 결정론적 커널화 동역학을 통해 상호작용하는 입자들을 목표 분포로 수송한다. 특이 Riesz 커널은 정량적인 모집단 수준의 수렴을 제공할 수 있어 매력적이지만, 유한 입자 수준에서는 대응하는 Stein 에너지가 무한 자기 상호작용을 갖는다. 우리는 자기 상호작용을 제거한 주기적 Riesz SVGD를 연구하고, 다중 입자·장시간 샘플링 정리를 증명한다. 특이 Stein 에너지가 국소 적분 가능한 전체 구간에서, 입자당 초기 상대 엔트로피에 대한 균일 상한 하에서, 시간 평균 경험적 측도 법칙은 입자 수와 발산하는 평균화 시간 구간이 무한대로 갈수록 목표에서의 점질량 \(δ_π\)로 약수렴한다. 또한 유한 상대 엔트로피를 갖는 불변 입자 법칙이 유도하는 경험적 측도 법칙이 균일 엔트로피 상한 없이 \(δ_π\)로 약수렴함을 보인다. 로그 특이 임계값 아래에서는 명시적 대수적 유한 입자 오차 상한을 얻는다. 이러한 결과는 매끄러운 커널 SVGD에 대한 공동 엔트로피 접근법을 특이 상호작용으로 확장한다.
스코어 매칭을 통한 베이지안 실험 설계
Bayesian Experimental Design via Score Matching
베이지안 실험 설계(BED)에 대한 정책 기반 접근법은 이전에 수집된 데이터를 바탕으로 지능적인 설계 결정을 적응적으로 내리는 심층 정책 네트워크의 학습을 가능하게 한다. 그러나 이러한 정책의 학습은 기대 정보 이득(EIG)의 이중 난해성(double intractability)이라는 근본적인 문제로 인해 제약을 받는 경우가 많다. 이로 인해 정책 자체의 최적화에 투자할 수 있는 노력을 제한하는, 비용이 크거나 복잡한 근사 방법이 요구된다. 이를 해결하기 위해, 우리는 EIG의 이중 난해성을 정책 학습으로부터 분리할 수 있음을 보인다. 구체적으로, 사용되는 정책에 독립적인 스코어 매칭 문제를 먼저 풀고, 학습된 스코어 근사를 활용하여 단일 난해한(singly intractable) 방식으로 정책을 학습한다. 이를 통해 핵심적인 곱셈적 비용이 덧셈적 비용으로 전환되고, 정책 학습 자체의 계산 부담이 경감되어, 아키텍처 탐색, 하이퍼파라미터 튜닝, 또는 지역 최적해 회피 등 정책을 여러 번 학습해야 하는 경우에 훨씬 저렴하게 학습할 수 있다. 실험에서는 가능도 평가에서 곱셈적 비용을 유발하지 않고 여러 경쟁력 있는 정책을 학습하였으며, 하이퍼파라미터 또는 아키텍처 탐색 없이도 최적의 정책을 선택할 수 있어 성능을 향상시킬 수 있음을 보였다.
GradInf: 확률적 추론으로서의 그래디언트 추정
GradInf: Gradient Estimation as Probabilistic Inference
그래디언트 추정(gradient estimation)—확률적 프로그램의 기댓값에 대한 그래디언트를 계산하는 과제—은 과학 컴퓨팅 분야에서 다양하게 응용되지만, 고차원 적분, 이산 확률적 선택, 복잡한 확률적 의존성 등의 문제로 인해 매우 어려운 것으로 알려져 있다. 이 논문은 확률적 프로그램에 대한 건전하고 효율적인 그래디언트 추정기를 개발하는 새로운 접근법인 그래디언트 추론(gradient inference)을 소개한다. 그래디언트 추론은 그래디언트 추정 문제를 밀접하게 관련된 확률적 추론(probabilistic inference) 문제로 공식적으로 환원하는 것에 기반하며, 이 추론 문제의 해를 미분하여 그래디언트 추정기를 얻는다. 이 추론 문제는 두 가지 강력한 통계적 연산—커플링(coupling)과 인수분해(factorization)—을 입력 확률적 프로그램에 적용함으로써 도출된다. 이러한 환원을 통해 확률적 추론 알고리즘의 풍부한 도구 모음을 활용하여 기존 방법을 확장하고 개선하는 새로운 그래디언트 추정기를 설계할 수 있다. 우리는 그래디언트 추론의 건전하고 자동화된 구현을 지원하는 확률적 프로그래밍 시스템인 GradInf를 소개한다. GradInf는 고차 확률적 프로그램에 대한 커플링 및 인수분해를 위한 프로그래밍 가능한 소스-투-소스 변환(source-to-source transformation)을 핵심으로 하며, 그 건전성은 표시적 의미론(denotational semantics)의 관점에서 증명된다. 개발의 핵심은 확률적 프로그램 내의 확률적 선택이 분해되어 부분 평가될 수 있도록 정보 흐름 타이핑(information-flow typing)을 활용하는 것이며, 이는 정교한 확률적 추론 알고리즘을 적용하는 능력을 향상시킨다. 결과 시스템은 실무자에게 그래디언트 추정기를 설계하기 위한 원칙적인 프레임워크를 제공한다. 우리는 GradInf를 여러 도전적인 사례 연구에 적용하여, 이 시스템이 문헌의 저명한 그래디언트 추정기들을 표현할 수 있으며 기존 최고 기준선을 능가하는 새로운 최첨단 추정기의 구성을 가능하게 함을 보인다.
Deep Gaussian Processes on Directed Acyclic Graphs
제약 조건 하의 확률론적 수치해석: 선형 부등식 제약 조건 하의 선형 편미분방정식을 위한 가우시안 프로세스 솔버
Constrained Probabilistic Numerics: Gaussian Process Solvers for Linear PDEs under Linear Inequality Constraints
선형 편미분방정식(PDE)을 위한 가우시안 프로세스(Gaussian process) 솔버는 점 추정치 대신 사후확률을 반환하지만, PDE 잔차, 경계 데이터, 측정값과 같은 등식 정보에 대해서만 조건부화(conditioning)를 수행합니다. 그러나 관심을 두는 많은 해는 비음수성(nonnegativity), 단조성(monotonicity), 무차익(absence of arbitrage)을 포함한 부등식 제약을 따르며, 등식 조건부화만으로는 이를 강제할 수 없습니다. 본 연구에서는 가우시안 프로세스 사전확률을 선형 등식 관측값과 유한차원 부등식 사건에 결합하여 조건부화하는 것이, 해 공간 상의 보렐 측도(Borel measure) 관점에서 순차적으로 조건부화하는 것과 동등함을 증명합니다. 따라서 물리 정보가 반영된(physics-informed) 사후확률은 가상 지점에서의 부등식 업데이트를 위한 유효한 사전확률이 됩니다. 결합 법칙은 비가우시안(non-Gaussian)이지만 절단 정규분포(truncated-Gaussian) 모멘트를 통해 계산 가능하며, PDE 조건부화와 부등식 업데이트 모두 수정할 필요가 없습니다. 본 연구진은 포아송(Poisson) 벤치마크, 옵션 가격 표면, 대기질 필드에서 이 구성을 평가했습니다. 불완전한 경계 데이터 조건에서, 단조성 제약 조건은 2차원 포아송 재구성의 오차를 $63\%$ 낮췄습니다. 20개의 호가만 남기도록 축소한 실제 S&P 500 옵션 체인에서, 무차익 제약 조건은 홀드아웃 외삽 오차를 $22\%$ 줄였고 캘린더 차익 비율을 $10\%$에서 $1\%$로 낮췄습니다. 네 가지 실제 대기질 스냅샷에서는, 관측소 수가 가장 희소할 때 비음수성 제약이 가우시안 모멘트 기반 음수 꼬리 프록시(sub-zero-tail proxy)를 $74\%$ 감소시켰습니다. 평균 정확도 및 제약 진단 수치의 변화는 데이터 체제에 따라 다르게 나타났습니다. 등식 사후확률 하에서 노이즈가 포함된 가상 제약 사건의 확률은 업데이트 전 지정된 경계와의 일치도를 측정합니다. 이러한 구성은 허용 가능성(admissibility)을 사후 처리 단계에서 확률론적 PDE 솔버를 위한 조건부 정보로 전환합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
Short paper for the Joint Meeting SIS-FENStatS 2026, Rome, June 22-25, 2026