arXiv:2611.21286v1 stat.ML

압축 시뮬레이션 기반 추론: 저차원 스케치로 대규모 데이터의 사후분포를 추정하는 신경망

Compressed Simulation-Based Inference: Neural Posterior Estimation for Massive Data via Low-Dimensional Sketches

Michael Wieck-Sosa, Cosma Rohilla Shalizi

제출 2026-11-16

한국어 초록

신경 사후분포 추정(NPE)은 널리 쓰이는 베이지안 시뮬레이션 기반 추론(SBI) 방법이다. 시뮬레이션으로 얻은 데이터와 매개변수의 쌍으로 신경망을 학습해, 사용자가 선택한 사전분포를 전제로 사후분포를 근사한다. 관측값의 차원이 높으면 차원의 저주 때문에, NPE는 일반적으로 전체 데이터셋을 조건으로 삼는 대신 사용자가 고르거나 학습으로 얻은 요약 통계량을 조건으로 매개변수의 밀도를 근사한다. 두 접근에는 모두 어려움이 있다. 복잡한 모델의 요약 통계량을 직접 설계하려면 연구자의 많은 노력이 필요하고, 대규모 데이터셋에서 이를 학습하면 계산 비용이 지나치게 높을 수 있다. 본 연구는 이러한 문제를 해결하기 위해 데이터의 저차원 스케치를 조건으로 매개변수의 밀도를 근사한다. 매개변수가 $p$차원인 모델에서 사후분포의 일관성을 확보하는 데 무작위 스케치 $2p+1$개만 필요함을 보인다. 최신 NPE 임베딩 신경망과 비교한 결과, 제안한 방법은 가장 성능이 높은 임베딩 신경망과 같은 수준의 성능을 내면서 계산 효율을 높였다.

원문 초록

Neural posterior estimation (NPE) is a popular Bayesian simulation-based inference (SBI) approach that uses neural networks trained on simulated data--parameter pairs to approximate the posterior given a user-chosen prior. For high-dimensional observations, NPE methods typically approximate the conditional density of the parameter given a user-chosen or learned summary statistic, rather than the entire dataset, due to the curse of dimensionality. However, both approaches face challenges: hand-crafting good summaries for complex models requires considerable effort from scientists, while learning them from massive datasets can be prohibitively computationally expensive. To address these challenges, we propose approximating the conditional density of a parameter given low-dimensional sketches of the data. We show that, for a model with a $p$-dimensional parameter, only $2p+1$ random sketches are needed for posterior consistency. We compare with state-of-the-art embedding networks for NPE, and we find that our method \emph{matches} the best embedding network's performance while \emph{increasing computational efficiency}.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.21286v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.