arXiv:2606.30489v1 stat.ML

Factorizable Normalizing Flows for parameter-dependent density morphing

Davide Valsecchi, Mauro Donegà, Rainer Wallny

제출 2026-06-29

원문 초록

Normalizing Flows excel at modeling a single fixed density, yet many problems across the sciences, such as high energy physics, instead require modeling how that density deforms as a function of continuous parameters: the strength of a physical effect, a calibration constant, or a source of systematic uncertainty. Learning a separate flow for every parameter configuration quickly becomes intractable, since the number of joint settings grows exponentially with the number of parameters. We introduce Factorizable Normalizing Flows (FNFs), which represent the parameter-dependent density as a fixed, high-fidelity flow for a reference configuration composed with a learnable transformation that is polynomial in the parameters and factorized over them. This structure has a practical consequence: each parameter's effect is learned in isolation, from samples in which that parameter alone is varied. The combined response of many parameters is then recovered by summation at inference, without ever sampling their combinatorially large joint space. On a controlled problem with two interpretable deformations applied jointly to the data, the learned transformation reproduces the true deformations and matches the optimal likelihood, while optional interaction terms capture residual correlations when several parameters vary strongly at once. The resulting model is interpretable, scales linearly with the number of parameters, and keeps the likelihood tractable. This provides a general tool for any inference workflow requiring continuous density morphing, and directly enables the next generation of unbinned likelihood fits in high energy physics.

요약

Factorizable Normalizing Flows(FNF)는 물리학 등 과학 분야에서 연속적인 파라미터에 따라 확률 밀도가 변형되는 문제를 다루기 위해, 기준 분포를 위한 고정 플로우와 파라미터에 대해 다항식이며 인수분해(factorized)된 학습 가능 변환을 결합한 구조를 제안한다. 각 파라미터의 효과를 독립적으로 학습하고 추론 시 합산으로 결합함으로써 결합 파라미터 공간의 지수적 탐색 없이 선형 확장성과 해석 가능성을 유지하며, 고에너지 물리학의 비구간(unbinned) 우도 피팅에 직접 적용 가능함을 실험으로 검증했다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.30489v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.03809v1cs.LG공통 태그 Bayesian Inference, Density Estimation, normalizing flows

Stable Global Weighting of Flow Mixtures using Simplex Exponential Moving Average

정규화 플로우(Normalising flows)는 근사 추론을 위한 강력한 변분 패밀리를 제공하지만, 개별 아키텍처는 이질적인 사후 분포 기하에 대해 일반화하지 못하는 경우가 많다. 본 연구에서는 혼합 기반 플로우 공식화를 재검토하고, 단순체 지수 이동 평균(Simplex Exponential Moving Average, sEMA) 업데이트에 기반한 안정적 전역 가중치 메커니즘을 갖춘 2단계 프레임워크인 AMF-VI-sEMA를 소개한다. 1단계에서는 이질적인 전문가 집합(RealNVP, MAF, RBIG)을 독립적으로 학습하여 서로 다른 구조적 체계에 특화시킨다. 2단계에서는 전문가 파라미터를 고정한 채, 평균 로그-우도의 온도 제어 소프트맥스를 통해 전역 혼합 가중치를 학습하고, 확률 단순체 위에서 부드러운 EMA 업데이트를 적용한다. 이 설계는 샘플별 게이팅이나 가중치에 대한 그래디언트 역전파 없이도 적응적으로 용량을 재분배하면서 컴포넌트 붕괴를 방지하는, 다루기 쉽고 데이터에 무관한 게이팅 메커니즘을 만들어낸다. 우리는 열 가지 사후 벤치마크에서 프레임워크를 평가한다: 6개의 정형화된 2D 합성 패밀리(Banana, X-Shaped, Bimodal, Multimodal, Two-moons, Rings)와 4개의 실제/저차원 베이지안 타겟(BLR, BPR, Weibull, Real-GMM2)이며, 더 강력한 기준선(NICE, ResFlow, EM-Mixing)과 비교한다. 종합적인 평가는 NLL, KL 발산, Wasserstein-2 거리, MMD를 포함하며, 혼합 동역학, 하이퍼파라미터 민감도, 시드 교차 견고성에 대한 진단도 함께 수행한다. 실험적으로, AMF-VI-sEMA는 전작인 AMF-VI 대비 일관된 NLL 개선을 달성하고, 단일 플로우 기준선의 치명적 전송 실패를 회피하면서, 최소한의 계산 오버헤드로 안정적인 가중치 궤적($N_{\mathrm{eff}}{>}1.4$, 모든 데이터셋)을 유지한다.

arXiv:2607.03904v1cs.LG공통 태그 Bayesian Inference, Density Estimation, normalizing flows

물리 정보 기반 인코딩과 시뮬레이션 기반 추론을 갖춘 트랜스포머를 이용한 펄서 타이밍 배열 데이터에서의 이심 쌍성 블랙홀 강건 검출

Transformers with Physics-Informed Encodings and Simulation-Based Inference for Robust Detection of Eccentric Binary Black Holes in Pulsar Timing Array Data

펄서 타이밍 배열(PTA)은 나노헤르츠 중력파(GW)를 관측할 수 있는 독보적인 창을 제공하지만, 잡음이 많은 장기선 타이밍 잔차에서 천체물리학적 매개변수를 추출하는 작업은 매개변수 공간의 고차원성, 복잡하고 상관된 잡음 모델, 반복적인 가능도 평가의 계산 비용으로 인해 전통적인 베이즈 기법으로는 계산적으로 매우 까다롭다. 우리는 PTA 데이터에서 상대론적 궤도를 도는 이심 쌍성 블랙홀을 효율적으로 추론하기 위해 물리 정보 기반 위치 인코딩 프레임워크를 갖춘 트랜스포머를 소개한다. 우리의 접근법은 구조적 위치 인코딩을 통해 해석적 중력파 위상 진화를 모델에 직접 내재시킴으로써, 네트워크가 원시 PTA 타이밍 잔차로부터 물리적으로 의미 있는 표현을 학습할 수 있도록 한다. 이어서 이산 및 연속 조건부 정규화 흐름을 포함한 생성 모델을 활용하여 시뮬레이션 기반 추론 프레임워크 내에서 사후 분포를 추론한다. 다양한 신호 대 잡음비 범위에 걸쳐, 제안된 방법은 물리 불가지론적 기준선 대비 향상된 정확도, 더 선명한 사후 분포, 빠른 추론을 달성한다. 결정론적 백색 잡음 신호를 대상으로 제시되었지만, 모듈식 프레임워크는 적색 잡음 및 추가 성분을 포함하는 현실적인 PTA 분석으로 손쉽게 일반화된다. 본 연구는 차세대 PTA 데이터셋을 위한 기존 추론 파이프라인의 확장 가능한 대안으로서 물리 인식 심층 학습 모델의 잠재력을 부각시킨다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.