arXiv:2505.21468v2 cs.LG

인과적 사후 확률 추정

Causal Posterior Estimation

Simon Dirmeier, Antonietta Mira

제출 2025-05-27

한국어 초록

본 논문에서는 가능도 함수(likelihood function)의 계산이 다루기 힘들거나(intractable) 연산 비용이 많이 들지만 매개변수 값이 주어졌을 때 출력을 생성하는 것은 간단한 시뮬레이터 모델을 위한 새로운 베이지안 추론(Bayesian inference) 방법인 인과적 사후 확률 추정(Causal Posterior Estimation, CPE)을 제시합니다. CPE는 플로우 매칭(flow matching)을 사용하여 사후 분포(posterior distribution)를 근사하는 동시에, 모델의 그래피컬 표현으로 유도되는 조건부 의존성 구조를 신경망 아키텍처에 직접 통합합니다. 광범위한 실험을 통해 이러한 조건부 의존성을 데이터로부터 학습하도록 요구하는 대신 신경망에 하드코딩함으로써, CPE가 최첨단(SOTA) 베이스라인과 대등하거나 이를 능가하는 매우 정확한 사후 추론을 달성할 수 있음을 입증합니다.

원문 초록

We present Causal Posterior Estimation (CPE), a novel method for Bayesian inference in simulator models, where evaluating the likelihood function is intractable or computationally expensive, but generating outputs given parameter values is straightforward. CPE approximates the posterior distribution using flow matching while directly incorporating the conditional dependence structure induced by the model's graphical representation into the neural network architecture. Across extensive experiments, we demonstrate that hard-coding these conditional dependencies into the network, rather than requiring them to be learned from data, enables CPE to achieve highly accurate posterior inference that matches or outperforms state-of-the-art baselines.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2505.21468v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02260v2cs.AI공통 태그 Density Estimation, flow matching

MintFlow: 제약 조건 기반 플로우 매칭을 위한 최소 궤적 개입

MintFlow: Minimal Trajectory Intervention for Constrained Flow Matching

플로우 매칭(Flow matching) 모델은 생성 모델링에서 뛰어난 성능을 보이며, 수많은 다운스트림 응용 분야에서는 생성된 샘플이 관측된 측정값이나 물리 법칙과 같은 규정된 제약 조건을 만족하도록 요구합니다. 그러나 기존의 제약 조건 기반 샘플러는 흔히 상충 관계(trade-off)에 직면합니다. 즉, 제약 조건을 강제하면 사전학습된 데이터 분포로부터 샘플이 크게 벗어날 수 있습니다. 이러한 상충 관계를 해결하기 위해, 본 논문에서는 사전학습된 플로우 궤적에 대한 최소한의 개입으로 제약 조건 강제를 공식화하는 학습 불필요(training-free) 제약 조건 기반 샘플링 프레임워크인 MintFlow를 제안합니다. MintFlow는 사전학습된 플로우 필드 하에서 이후의 상태 변화가 목표 제약 조건을 만족하도록 중간 플로우 상태의 최소 섭동(perturbation)을 탐색합니다. 사전학습된 플로우 필드를 변경하지 않고 유지하면서 플로우 상태를 최소한으로 섭동시킴으로써, MintFlow는 사전학습된 분포로부터의 불필요한 이탈을 최소화하면서 제약 조건을 강제합니다. 또한 수반 공식화(adjoint formulation)를 통해 이 섭동에 대한 닫힌 형식 표현(closed-form expression)을 도출하여 비용이 많이 드는 반복적 최적화를 배제합니다. 나아가 MintFlow는 필요한 섭동 크기와 잔여 플로우에 의한 증폭 사이의 균형을 맞추기 위해 개입 시점을 적응적으로 선택합니다. 생성형 비전 및 물리 시스템 모델링의 다양한 태스크 전반에 걸쳐, MintFlow는 경쟁력 있는 수준으로 제약 조건을 만족하는 동시에 최신 제약 조건 기반 기법들보다 사전학습된 생성 분포를 훨씬 더 잘 보존합니다.

arXiv:2610.13397v1stat.ML공통 태그 Bayesian Inference, Density Estimation

모델 프리 베이지안 클러스터링 및 다봉 사후분포 요약

Model-free Bayesian Clustering and Multimodal Posterior Summarisation

본 논문에서는 예측 베이지안(predictive Bayesian) 관점에서 클러스터링에 대한 마팅게일 사후분포(martingale posterior)를 구성하는 모델 프리(model-free) 노이즈 인식 베이지안 클러스터링 프레임워크를 개발합니다. 이 방법은 명시적인 가능도(likelihood)-사전분포 모델 명시, 비용이 큰 MCMC 샘플링, 모드 탐색적 변분 근사를 피하는 동시에 불규칙한 클러스터 형태를 수용하고 사후분포 표본의 병렬 생성을 가능하게 합니다. 고차원 노이즈 인식 클러스터링에 대한 사후분포를 해석하기 위해 와서스테인(Wasserstein) 유형의 요약 방법을 도입합니다. 새로운 노이즈 인식 손실(loss)을 활용하여 대규모 사후분포 표본 집합을 소수의 가중치 기반 대표 집합으로 압축함으로써 서로 다른 클러스터 구조와 노이즈 할당을 포착합니다. 또한 밀도 수준의 불확실성을 주변화(marginalize)하여 특정 선택에 의존하지 않도록 합니다. 제안된 손실의 이론적 성질과 수준 주변화 사후분포 근사에 대한 보장을 규명합니다. 실험 결과는 클러스터링 및 노이즈 불확실성을 포착하는 데 있어 본 프레임워크의 효과성을 입증합니다.

arXiv:2610.13812v1cs.LG공통 태그 Bayesian Inference, flow matching

정확한 가우시안 조건화를 통한 확산 및 흐름 기반 사후 샘플링 포괄

Spanning Diffusion and Flow-based Posterior Sampling via Exact Gaussian Conditioning

흐름 매칭(flow-matching) 및 확산 모델(diffusion model)은 선형 역문제(linear inverse problem)의 사전확률(prior)로 점점 더 많이 활용되고 있으나, 대부분의 방법은 특정 궤적 사전확률 클래스에만 맞춤화되어 있습니다. 플러그 앤 플레이(plug-and-play) 방식들이 제안되었지만, 이들은 유도된 궤적의 상관관계를 암묵적으로 해제하여 데이터가 희소할 때 성능이 저하될 수 있는 넓은 사전확률을 형성합니다. 본 연구에서는 흐름, 확산 및 탈상관된 사전확률을 일반화하는 상관 매개변수 $β$와 경로 분포가 얼마나 강하게 적용되는지를 제어하는 신뢰도 매개변수 $κ$로 색인화된 범용 플러그 앤 플레이 방법인 $β$-Flow를 제안합니다. 각 단계는 노이즈 제거 네트워크의 단 한 번의 순전파 평가만을 필요로 하며, 이후 가우시안 조건화 단계가 이어집니다. 이 조건화 단계는 네트워크 그래디언트에 의존하지 않는 정확한 칼만 업데이트(Kalman update)입니다. 우리는 기존의 많은 가이드 샘플러들이 칼만 이득 대신 서로 다른 궤적 사전확률과 연산자를 암묵적으로 사용하는 본 방법의 인스턴스 또는 근사치로 해석될 수 있음을 보여줍니다. 이러한 관점에서 우리는 암묵적 편향 및 가정의 측면에서 방법들의 정성적 비교를 제공합니다. 또한 4개 데이터셋에 걸친 7개의 역문제에서 PSNR 및 SSIM 기준으로 일관되게 최고 수준(SOTA)의 성능을 달성함을 입증합니다. 아울러 관측 정보가 적을 때는 높은 신뢰도의 강한 상관관계(엄격한 사전확률)가 가장 효과적이며, 관측 정보가 많을 때는 낮은 상관관계가 선호된다는 점을 보여줌으로써 베이즈 추론(Bayesian inference)에서 사전확률과 가능도(likelihood)의 상호보완적 역할을 반영하는 이러한 사전확률 제어의 유용성을 입증합니다.

arXiv:2610.02245v1astro-ph.IM공통 태그 Bayesian Inference, flow matching

누락된 시뮬레이터가 아닌 누락된 잠재 변수: 실제 JWST 대기 회수를 위한 반지름 증강 추론

A Missing Latent, Not a Missing Simulator: Radius-Augmented Inference for Real JWST Retrieval

복사 전달 시뮬레이터를 기반으로 학습된 분할 상환 시뮬레이션 기반 추론(SBI)은 제임스 웹 우주망원경(JWST)의 합성 스펙트럼에서 외계 행성 대기를 정확하게 복원하지만, 실제 축소된(reduced) 스펙트럼에서는 붕괴합니다. 실제 WASP-39b 데이터에서 플로우 사후확률이 붕괴하였으며(중요도 샘플링 유효 표본 크기(ESS) = 1, 최적 적합 \c{hi}2/N = 301), 이러한 실패는 대개 순방향 모델의 물리학적 결함 탓으로 여겨집니다. 그러나 중첩 샘플링(nested sampling)을 통해 이러한 요인들(온도 그래디언트, SO2 불투명도, 고충실도 불투명도 세트)을 먼저 배제하더라도 적합도는 변하지 않았으며, 이는 붕괴의 원인이 시뮬레이터의 오지정(misspecification)이 아니라 누락된 잠재 변수인 행성 반지름에 있음을 의미합니다. 이를 해결하기 위해 본 연구에서는 중요도 샘플링과 최적 수송 맵을 사용하여 독립적인 중첩 샘플링 참조에 맞춰 보정된 반지름 증강 플로우 매칭 사후확률인 MIRAGE를 구축했습니다. 이를 통해 실제 WASP-39b에 대해 물리적이고 기존 문헌과 일치하는 대기 회수 결과를 얻었습니다(\c{hi}2/N이 301에서 0.06으로 개선). 동일한 기법이 두 개의 장비와 세 개의 실제 JWST 대상에 걸쳐 변경 없이 전이되었으며, 여기에는 원시 MAST(Mikulski Archive for Space Telescopes) 데이터로부터 종단간(end-to-end) 직접 축소한 단일 스펙트럼도 포함됩니다. 이 교훈은 여러 분야에 걸쳐 적용될 수 있는데, 시뮬레이터가 인코딩하지만 추론 과정에서 생략된 잠재 변수가 모델 오지정으로 오인될 수 있다는 점을 보여줍니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.