PyTorchKR Papers

최신 논문

총 30편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.17413v3cs.LG

라플라스 근사와 정규화 흐름을 활용한 심층 학습을 통한 OCO-2 스펙트럼에서의 대기 CO2 상각 확률적 검색

Amortized Probabilistic Retrieval of Atmospheric CO2 from OCO-2 Spectra Using Deep Learning with Laplace Approximations and Normalizing Flows

Space-based monitoring of atmospheric carbon dioxide (CO$_2$) constrains the global carbon budget. NASA's Orbiting Carbon Observatory-2 (OCO-2) estimates column-averaged dry-air mole fractions of CO$_2$ (XCO$_2$) from high-resolution spectra, but operational retrievals are computationally expensive and impose stringent Gaussianity assumptions on the retrieved posterior. We present a deep learning framework that addresses both through amortized probabilistic inference. Lacking ground truth for real observations, we train and evaluate on a high-fidelity OCO-2 simulation ensemble with calibrated forward-model errors, comparing against the version-10 operational full-physics retrieval, without its bias correction, on the same radiances. Our architecture encodes each spectral band separately and estimates posteriors of the full CO$_2$ column, or summaries thereof, with Laplace approximations and conditional normalizing flows. Once trained, inference costs milliseconds per sounding rather than minutes. Trained on simulations that explicitly include forward-model discrepancy, our retrievals are more accurate than the operational one for XCO$_2$ on both data partitions we consider, and competitive on profiles. The flow represents asymmetric posteriors that a Gaussian cannot, a gain attributable to shape rather than scale, and its advantage in predictive density persists where its accuracy advantage does not. These results are established on a land-only ensemble against one configuration of the operational algorithm. On held-out reference soundings and two unseen months the XCO$_2$ and density advantages persist. For XCO$_2$, coverage is near nominal on February data and, though below nominal on the unseen months, remains far closer to it than the operational retrieval's.

arXiv:2605.18267v5cs.CV

SRC-Flow: 컴팩트한 의미 표현이 정규화 흐름 기반 이미지 생성을 가능하게 한다

SRC-Flow: Compact Semantic Representations Enable Normalizing Flows for Image Generation

Normalizing flows (NFs) provide exact likelihoods and deterministic invertible sampling, but have historically lagged behind diffusion models for large-scale image generation. We identify a key obstacle: NFs are required to learn a single invertible transport over the full ambient space, making them highly sensitive to high-dimensional representations. This leads to a semantic-capacity mismatch in modern visual representation spaces, where semantic information is compact but encoded in overcomplete features. We propose SRC-Flow, which introduces a Semantic Representation Compressor (SRC) to compact high-dimensional RAE features into a low-dimensional semantic space before flow modeling and preserve reconstruction through the frozen RAE decoder. This compact space reduces the modeling burden of NFs and enables effective likelihood-based generation in semantic representation space. We further adopt constant noise regularization tailored to the fixed unconditional bijection learned by flows. On ImageNet 256x256 and 512x512, SRC-Flow achieves state-of-the-art generation quality among normalizing flow methods, with gFID scores of 1.65 and 2.07 under classifier-free guidance, while retaining exact likelihood computation in the compact semantic representation space and deterministic invertible sampling at the flow level. Codes and models will be released in the future.

arXiv:2610.13656v1stat.ML

비가우시안 공간 장을 위한 확장 가능한 희소 자기회귀 변분 추론

Scalable Sparse Autoregressive Variational Inference for Non-Gaussian Spatial Fields

잠재 장 모델(Latent field model)은 공간 통계학에서 필수적이지만, 가우시안 프로세스(GP) 사전을 사용하더라도 가능도(likelihood)가 비가우시안(non-Gaussian)일 때마다 잠재 장의 사후 분포는 해석적으로 다루기 어렵습니다. 기존의 근사 기법들은 대규모 비가우시안 데이터셋에 적용하기에 너무 느리거나 지나치게 제약적입니다. 본 논문에서는 변분 족(variational family) 내에서 사전 분포의 희소 최근접 이웃 자기회귀 구조를 반영하고, 표현력을 위해 정규화 흐름(normalizing flow) 조건부 분포를 사용하며, 단일 공유 신경 조건화기(neural conditioner)를 통해 모든 변분 파라미터를 상각(amortize)하는 확장 가능한 변분 추론(variational inference) 프레임워크를 제안합니다. 축소된 조상 집합을 활용한 이중 확률적 최적화(doubly stochastic optimization)를 통해 반복(iteration)당 다항 로그 복잡도를 달성합니다.

arXiv:2610.10870v1stat.ML

분산 감소를 적용한 변환 기반 샘플러

Transformed Samplers with Variance Reduction

마르코프 연쇄 몬테카를로(MCMC) 방법은 복잡한 확률 분포에서 기댓값을 계산하기 위한 표준적인 도구입니다. 제어 변량(control variate)은 이를 통해 얻은 추정치의 분산을 줄여주지만, 좋은 제어 변량을 얻으려면 샘플러의 포아송 방정식(Poisson equation)을 풀어야 하며 이는 닫힌 형태의 해(closed-form solution)를 갖는 경우가 드뭅니다. 단순한 참조 밀도(reference density) 상에서 샘플러의 커널(kernel)에 대한 스펙트럼 분해(spectral decomposition)가 알려져 있을 때는 정확한 해를 구할 수 있습니다. 본 연구에서는 학습된 변수 변환(change of variables)을 통해 이러한 해를 일반적인 목표 분포로 확장합니다. 목표 분포가 잠재 공간(latent space)에서 참조 분포와 가까워지도록 정규화 흐름(normalizing flow)과 같은 전단사 함수(bijection)를 학습시키며, 마르코프 커널과 해당 포아송 해가 임의의 전단사 함수에 의해 변환됨을 보입니다. 이어 이러한 샘플러를 잠재 공간에서 실행하면 명시적인 제어 변량이 도출되며, 사상(map)과 목표 분포에 대한 온건한 꼬리 조건(mild tail conditions) 하에서 추정량의 일치성(consistency)이 보장됩니다. 흐름(flow) 기반의 중요도 샘플링(IS)은 동일한 구조의 극한 사례(limiting case)이며, 제어 변량은 이 경우에도 동일하게 적용됩니다. 합성 목표 분포 및 실제 사후 분포(posterior)를 대상으로 한 실험을 통해 본 절차를 최신 샘플러 및 제어 변량과 비교합니다.

arXiv:2512.00665v2stat.ML

역혼합 플로우를 위한 자급자족 독립 성분 분석

Self-sufficient Independent Component Analysis for Demixing Flows

본 연구에서는 비선형 독립 성분 분석(ICA)을 사용하여 데이터로부터 얽힘이 풀린(disentangled) 신호를 학습하는 문제를 다룬다. 자기지도학습(self-supervised learning)의 발전에 착안하여, 우리는 '자급자족적(self-sufficient)' 신호를 학습할 것을 제안한다. 즉, 복원된 신호의 나머지 값들이 주어졌을 때 다른 신호들을 관찰하더라도 결측값의 조건부 분포가 변하지 않아야 한다는 것이다. 우리는 이 문제를 조건부 KL 발산(KL divergence) 최소화 문제로 정식화한다. 제안하는 알고리즘은 모수적 소스 밀도(parametric source densities)나 관측 가능도(observation likelihood)를 규정하지 않는다는 점에서 사전 분포 무관(prior-free) 및 가능도 무관(likelihood-free) 방식이다. KL 발산 최소화 문제를 해결하기 위해, 각 반복(iteration)마다 역혼합 플로우(de-mixing flow) 모델을 학습하는 순차적 알고리즘을 제안하며, 정확한 속도 및 모집단 투영 조건을 갖춘 이상적인 바세르슈타인 그래디언트 플로우(Wasserstein-gradient-flow) 변형에 대해 총 상관(total correlation)의 국소적 감소를 증명한다. 이 접근 방식은 KL 발산 최소화 시 흔히 발생하는 문제인 불안정한 적대적 학습을 완전히 피한다. 토이 데이터셋과 실제 데이터셋에 대한 실험을 통해 제안 방법의 효과성을 입증한다.

arXiv:2609.03193v2cond-mat.stat-mech

원자 수준 열역학 지형의 생성형 중첩 샘플링

Generative Nested Sampling of Atomistic Thermodynamic Landscapes

중첩 샘플링(Nested sampling, NS)은 단 한 번의 시뮬레이션을 통해 원자계의 열역학적 특성을 규명할 수 있지만, 가능도(likelihood) 제약 앙상블(ensemble) 내에서 워커 간의 상관성을 해소하기 위해 필요한 마르코프 체인 업데이트로 인해 실제 적용 범위가 제한된다. 흐름 기반(flow-based) NS는 중력파(GW) 추론(inference)에서 이러한 병목 현상을 완화했으나, 이를 원자계로 확장하는 것은 단순한 응용 분야 변경 이상의 과제를 수반한다. 차원이 유사한 GW150914 계열 쌍성 블랙홀 가능도와 8개 입자 2차원 레너드-존스(LJ) 계를 비교함으로써, 본 연구는 두 지형이 근본적으로 다름을 규명한다. 즉, 원자계의 다봉성(multimodality)은 강한 충돌 벽으로 분리된 입자 치환에 의해 발생하는 이산적이고 조합론적인 형태이며 좌표 결합이 조밀하고 집단적인 반면, GW 사후확률은 매끄러운 축퇴와 국소화된 매개변수(parameter) 결합을 보인다. 이러한 진단을 바탕으로 본 연구는 NS 에너지 경계를 조건으로 취하고 최근 라이브 셋의 슬라이딩 윈도우에서 학습(training)되는 단일 조건부 정규화 흐름(normalizing flow)인 NS-Flows를 제안한다. 이는 중요도 가중 기각 리샘플링으로 보정된 직접 병렬 샘플 추출을 통해 MCMC를 대체한다. 라이브 셋이 데이터를 자체 일관적으로 공급하므로, 구조화된 사전분포나 기존 데이터셋(dataset) 없이도 흐름 모델을 학습할 수 있다. 주기적 경계 조건을 갖는 LJ 디스크 시스템에서 본 알고리즘은 에너지 계산 횟수를 두 자릿수(100배)가량 절감하고 실제 실행 시간(wall-clock time)을 약 30% 단축하며, 포텐셜 계산 비용이 커질수록 이러한 이점은 더욱 두드러진다. 나아가 흐름 모델의 생성 효율은 물리적 진단 지표로도 기능한다. 어닐링 궤적을 따라 비단조적으로 변하고 밀집된 무질서 영역에서 가장 낮게 나타나며, 학습 윈도우에 걸친 타깃 이동 및 제약 앙상블 내부의 모드 복잡도와 함께 정량적으로 포착된다. 이는 사전분포-타깃 간 분리가 아닌 액체 유사 앙상블이 현행 흐름 아키텍처의 주된 난제임을 보여준다.

arXiv:2606.01954v3cs.LG

함수 공간 변분 추론을 위한 흐름 변환 암시적 프로세스

Flow-Transformed Implicit Processes for Function-Space Variational Inference

암시적 프로세스(implicit process) 사전확률은 유연한 생성 메커니즘을 통해 함수에 대한 분포를 정의하므로, 베이지안 함수 공간 모델링에 매력적인 선택지입니다. 그러나 이러한 사전확률이 유도하는 함수 공간 분포는 일반적으로 닫힌 형식(closed form)으로 제공되지 않기 때문에 사후 추론(posterior inference)을 수행하기가 어렵습니다. 한 가지 실용적인 전략은 표본 추출된 유한한 함수 집합을 사용하여 사전확률을 근사한 다음, 사후 함수를 이러한 표본들의 학습된 조합으로 표현하는 것입니다. 기존 접근 방식들은 일반적으로 결합 가중치에 가우시안 변분 분포를 부여합니다. 이러한 방식은 다루기 쉽지만(tractable), 특히 실제 사후확률이 비대칭이거나 꼬리가 두껍거나(heavy-tailed) 다봉(multimodal) 형태일 때 표현할 수 있는 사후 불확실성의 형태를 제한합니다. 본 연구에서는 이러한 유한 차원 함수 공간 근사의 표현력을 더욱 높이는 변분 추론(variational inference) 방법인 흐름 변환 암시적 프로세스(Flow-Transformed Implicit Processes, FTIP)를 제안합니다. FTIP는 결합 가중치에 가우시안 분포를 사용하는 대신, 정규화 흐름(normalizing flow)을 사용하여 더욱 풍부한 변분 분포를 정의합니다. 이를 통해 다루기 쉬운 최적화를 유지하면서 함수에 대한 유연한 사후 분포를 유도합니다. 본 연구는 블랙박스 알파(Black-Box α) 목적 함수를 사용하여 모델을 학습시킴으로써, 질량 포괄(mass-covering) 및 모드 탐색(mode-seeking) 변분 거동을 비교할 수 있도록 합니다. 실험 결과, FTIP는 가우시안 계수 근사가 매끄럽게 뭉개거나 붕괴시키는 경향이 있는 함수 공간 내의 비대칭 및 다봉 사후 구조를 효과적으로 포착함을 보여줍니다.

arXiv:2609.24204v1cs.CV

SAFe: 이상 인식 분할을 위한 세그먼트 유도 특징 밀도 집계

SAFe: Segment-guided Aggregation of Feature Densities for Anomaly-aware Segmentation

시각 분할 시스템은 실제 배포 시 학습 분포 밖의 객체를 만나며, 지각 단계에서 장면 파싱(scene parsing)에 의존하는 신뢰할 수 있는 자율 시스템을 저해한다. 최근 많은 방법은 자기지도(self-supervised) 파운데이션 모델로 이상 이미지 영역에서 낮은 가능도를 내는 밀도 추정기(density estimator)를 학습하는 방식으로 이를 다룬다. 유망하지만, 이러한 방법은 특징 의미론이 빈약하거나 공간적 일관성이 부족해, 둘 다 중요한 후속 의사결정을 훼손한다. 우리는 자기지도 표현 위의 클래스 조건부 밀도 추정에 기반한 생성적 방법인 SAFe로 이 문제를 해결한다. SAFe는 고정(frozen) DINOv3 특징 위에서 클래스 조건부 정규화 가능도 추정치를 산출하는 경량 정규화 흐름(normalizing flow)을 학습한다. 전역 의미론과 국소 디테일을 모두 포착하기 위해 트랜스포머 특징의 밀도 추정과 다중 스케일 합성곱 특징에 대한 밀도 점수를 결합한다. SAM3에 기반한 방법 독립적 후처리 단계를 도입하여, 위치별 가능도를 공간적으로 일관된 세그먼트로 연결하고 거짓 양성을 억제하며, 재학습 없이 인스턴스 수준 이상 탐지를 가능하게 한다. 후처리는 유사도 기반 응집적 클러스터링(agglomerative clustering)으로 이상 객체들 가운데 새로운 범주를 추가로 구분한다. SAFe는 PANIC, OoDIS, SMIYC ObstacleTrack에서 새로운 최고 성능(state of the art)을 달성하고 ISSU 벤치마크에서도 강한 성능을 보인다.

arXiv:2512.16607v3stat.ML

비정질 입자 시스템을 위한 볼츠만 생성기

Boltzmann generators for amorphous particle systems

열역학적 평형 상태의 구성(configuration)을 샘플링하는 것은 통계물리학의 오랜 난제이다. 볼츠만 생성기(Boltzmann generator)는 생성 모델을 활용하여 독립적인 구성을 제안한 뒤, 정확한 가능도(likelihood) 평가를 이용한 중요도 샘플링(importance sampling)을 통해 가중치를 재조정함으로써 이 문제를 해결한다. 연속 정규화 흐름(continuous normalizing flow) 및 플로우 매칭(flow matching)에 기반한 최근의 볼츠만 생성기는 입자계와 생체 분자에서 상당한 성공을 거두었다. 그러나 이러한 접근법은 평형 샘플링이 극도로 느린 것으로 악명 높은 비정질 재료(유리)로 확장되지 못했다. 무질서한 구조로 인해 비정질 재료의 불변성(invariance)과 기하학적 제약 조건은 결정이나 생체 분자와 달라 기존 생성 모델을 직접 적용하기 어렵다. 본 논문에서는 필요한 등변성(equivariance)을 리만 확률적 보간(Riemannian stochastic interpolant)에 직접 구축하여 비정질 재료에 특화된 볼츠만 생성기를 개발한다. 제안하는 프레임워크는 등변 그래프 신경망(equivariant graph neural network)을 활용하여 주기적 경계 조건(periodic boundary condition)과 입자 대칭성을 반영한다. 수치 실험을 통해 물리적 대칭성을 강제하는 것이 볼츠만 생성기의 정확도를 크게 향상시킴을 입증하는 한편, 연속 흐름 공식화의 본질적인 한계도 규명한다. 즉, 가능도 적분 과정에서 누적된 수치 오차로 인해 시간 가역성(time-reversibility)이 깨지고 엄밀한 열역학적 재가중이 저해된다는 점이다. 이러한 결과는 통계역학 분야에서 연속 흐름 생성 모델이 직면한 근본적인 과제를 드러내며, 엄밀한 열역학적 일관성을 보존하는 대안적 접근 방식의 필요성을 시사한다.

arXiv:2606.26687v3cs.CV

DeCoFlow: 연속 이상 탐지를 위한 정규화 흐름의 구조적 분해

DeCoFlow: Structural Decomposition of Normalizing Flows for Continual Anomaly Detection

과거 데이터 없이 새 제품 카테고리가 순차 등장하는 산업 환경의 연속 이상 탐지에서, 정규화 흐름(NF)의 아핀 결합 서브넷을 고정 공용 베이스와 과제별 저랭크(low-rank) 어댑터로 분해해 업데이트를 격리하는 DeCoFlow를 제안한다. Task-Specific Alignment, Auxiliary Coupling Layers, Tail-Aware Loss로 고정 베이스의 경직성을 보완해 MVTec-AD 98.40%, VisA 93.00% 이미지 수준 AUROC를 달성하고, 과제당 2.27M 매개변수로 올바른 라우팅 하 매개변수 수준 제로 망각을 유지한다.

arXiv:2607.23026v1cs.LG

올인원: 평균장 게임 설계로서의 생성 모델링

All in One: Generative Modeling as Mean-Field Game Design

평균장 게임(MFG)은 연속 시간 생성 모델링에 대한 통합적 관점을 제공한다. 하나의 변분 문제의 특수 사례로서 Continuous Normalizing Flows, OT-Flow, Score-based Models, Schrödinger Bridges 등 12개의 주요 모델을 환원하는 비용 튜플(cost tuple)을 통해 말이다. 그러나 이 공간의 두 차원은 전혀 탐색되지 않은 채 남아 있다. 상호작용 항 $\mathcal{I}$는 많은 기존 모델에서 0으로 설정되어 있고, 풍부한 MFG 솔버(solver) 계열은 생성 모델링에 적용된 적이 없다. 우리는 MFGLab이라는 오픈 소스 PyTorch 라이브러리로 두 공백을 모두 해소한다. 이 라이브러리의 주요 API는 비용 튜플이며, 12개 모델 모두 네 개의 조합 가능한 비용 함수로 지정되고, 학습 루프, log-야코비안, 역 ODE 샘플러는 자동으로 공유된다. 또한 모드 커버리지(mode coverage)를 장려하기 위해 미분 가능한 엔트로피 함수형(differentiable entropy functional)을 사용하는 새로운 비용 설계 DI-Flow를 제안하고, 확률적 역학(stochastic dynamics) 행에서 신경망 학습을 상당히 능가하는 학습 기반 MFG 솔버를 제공한다. 두 개의 2차원 벤치마크에서의 실험은 통합 API가 수작업 구현 대비 손실 없이 동등함을 확인한다.

arXiv:2505.19619v3cs.LG

SESaMo: 정규화 흐름을 위한 대칭 강제 확률적 변조

SESaMo: Symmetry-Enforcing Stochastic Modulation for Normalizing Flows

심층 생성 모델은 물리학부터 화학까지 다양한 분야에서 최근 큰 주목을 받고 있으며, 정규화되지 않은 볼츠만 유사 분포로부터 샘플링하는 것은 근본적인 과제이다. 특히 자기회귀 모델과 정규화 흐름(normalizing flows)은 폐쌤 형태의 확률 밀도를 제공할 수 있다는 매력적인 특성으로 두드러지게 되었다. 또한 대칭과 같은 사전 지식을 심층 신경망에 통합하면 학습 성능을 크게 향상시킬 수 있다는 것은 잘 알려져 있다. 이러한 맥락에서 최근 연구는 대칭 등변 생성 모델(symmetry-equivariant generative models) 개발에 집중하여 놀라운 결과를 달성했다. 이러한 기반 위에서 본 논문은 대칭 강제 확률적 변조(Symmetry-Enforcing Stochastic Modulation, SESaMo)를 제안한다. 등변 정규화 흐름과 유사하게 SESaMo는 확률적 변조(stochastic modulation)라는 새로운 기법을 통해 정규화 흐름에 귀납적 편향(예: 대칭)을 통합할 수 있게 한다. 이 접근법은 생성 모델의 유연성을 향상시켜 다양한 정확한 대칭과 깨진 대칭(broken symmetries)을 효과적으로 학습할 수 있게 한다. 수치 실험에서 SESaMo를 8-가우시안 혼합 모델 및 $φ^4$ 이론과 허버드 모델(Hubbard model)과 같은 물리적으로 관련 있는 장 이론을 포함한 다양한 시나리오에서 벤치마크했다.

arXiv:2607.14710v1cs.CV

자율주행에서 조강도(BEV) 세그멘테이션을 위한 변분 추론

Variational Inference for Bird's Eye View Segmentation in Autonomous Driving

조강도(BEV)는 자율주행에서 환경 인식을 위한 핵심 접근법으로 부상했으며, 차량을 위한 통합된 공간 표현을 제공한다. 그럼에도 불구하고 BEV가 자율주행 고유의 과제를 해결하는 데 중요함에도, 다중 카메라 센서로부터의 데이터를 효과적으로 융합하고 복잡한 외부 주행 환경에서 동작하는 것은 여전히 상당한 난제로 남아 있다. 이 문제를 완화하기 위해, 우리는 BEV 세그멘테이션 문제를 변분 추론 프레임워크 안에서 재구성한다. 본 논문에서는 BEV 세그멘테이션을 위한 새로운 트랜스포머 기반 변분 flow 변환 네트워크를 제안하며, 이를 TVB라고 부른다. 우리 아키텍처는 사후 BEV 감독을 활용하여 학습 동안 다중 카메라 뷰에서 통합된 표준(canonical) BEV 맵으로의 매핑을 암묵적으로 학습한다. TVB는 조건부 변분 오토인코더(CVAE)를 백본으로 사용하며 다수의 BEV 맵 후보를 생성한다. 생성된 BEV 맵의 현실성을 높이기 위해, 맵 생성 과정에 정규화 흐름(normalizing flow)을 통합하여 더 복잡하고 표현력 있는 확률 분포를 구성할 수 있게 한다. 또한, 어텐션 메커니즘을 활용하여 다수의 BEV 맵 후보를 적응적으로 통합하는 BEV-어텐션 융합(BAF) 모듈을 설계한다. nuScenes와 OPV2V 데이터셋 모두에서 평가한 실험 결과는, 제안 방법이 다중 카메라 뷰 BEV 세그멘테이션과 차선 환경 인식에서 우수한 성능을 달성함을 보여준다.

arXiv:2607.13703v1cs.LG

데이터 기반 UAV 제어를 위한 조건부 가역 신경망: 2차원 개념 검증

Conditional Invertible Neural Networks for Data-Driven UAV Control: A 2-D Proof of Concept

우리는 멀티로터 제어를 위한 확률적 역동역학(inverse-dynamics) 모델로서 조건부 가역 신경망(conditional invertible neural networks, cINN)을 조사한다. 평면 X8 공축(coaxial) 멀티콥터에 대해, 유리-이차(rational-quadratic) 스플라인 결합(rational-quadratic spline coupling)과 가역 선형 혼합(invertible linear mixing)을 사용하여 점진적 비선형 동적 역행(incremental nonlinear dynamic inversion, INDI) 교사로부터 $p(u \mid s_t, c_t)$를 학습한다. 개루프 재현에서는 $R^2 = 0.944$, 평균 CRPS 0.0915, 로그 확률 오차 상관 $ρ= -0.60$에 이른다. 15개의 폐루프 시나리오에서 위치 RMSE는 INDI와 일치한다(9.7 vs. 9.5 m), 47%가 추적을 허용 가능한 수준으로 수행하며, 실패는 공격적인 스텝 하에서의 자세 발산과 고주파 참조 하에서의 위상 지연으로 구분되어 명령 대역폭과 데이터 커버리지를 지배적 실패 메커니즘으로 분리한다.

arXiv:2510.07732v2stat.CO

회전된 평균장 변분 추론과 반복적 가우시안화

Rotated Mean-Field Variational Inference and Iterative Gaussianization

비정규화 밀도로부터의 샘플링 문제를 해결하기 위해, 회전된 좌표계에서 평균장 변분 추론(MFVI)을 반복 적용하는 iterative Gaussianization 알고리즘을 제안하며, 목표 분포의 스코어 함수를 활용한 relative score PCA로 최적 회전을 선택한다. 베이즈 사후 샘플링 실험에서 기존 MFVI 대비 크게 향상된 성능을 보이며, 기존 normalizing flow 기반 변분 근사보다 낮은 계산 비용으로 정확한 근사를 달성한다.

arXiv:2412.16416v2math.NA

수송 준-몬테카를로

Transport Quasi-Monte Carlo

정규화 흐름(normalizing flows)에서 영감을 받아 단위 초입방체의 균등 분포를 일반적인 목표 분포로 변환하는 수송 맵(transport map)을 학습하여 준-몬테카를로(QMC) 방법을 비정규화 밀도를 가진 복잡한 분포에도 적용할 수 있도록 한다. 제안된 수송 QMC 추정기는 이론적으로 표준 몬테카를로 대비 빠른 수렴 속도를 보장하며, 베이즈 추론 실험에서 그 효과가 확인되었다.

arXiv:2607.07855v1cs.LG

NFTR: 증명 가능한 모드 평균화에서 오프라인 목표 조건부 강화학습의 측지선 서브골 선택까지

NFTR: From Provable Mode-Averaging to Geodesic Subgoal Selection in Offline Goal-Conditioned RL

오프라인 목표 조건부 강화학습(GCRL)에서 HIQL의 낙관적 바이어스와 가우시안 모드 붕괴 문제를 해결하기 위해, 조건부 정규화 흐름(Normalizing Flow)으로 다중 모드 서브골 분포를 모델링하고 삼각 슬랙 재가중치(Triangle-slack Reweighting)로 기하학적으로 비일관된 서브골을 필터링하는 NFTR을 제안한다. NFTR은 가우시안 붕괴를 이론적으로 회피함을 증명하며 OGBench의 확률론적·스티칭·조작 태스크에서 HIQL 대비 성능을 크게 향상시킨다.

arXiv:2607.03904v1cs.LG

물리 정보 기반 인코딩과 시뮬레이션 기반 추론을 갖춘 트랜스포머를 이용한 펄서 타이밍 배열 데이터에서의 이심 쌍성 블랙홀 강건 검출

Transformers with Physics-Informed Encodings and Simulation-Based Inference for Robust Detection of Eccentric Binary Black Holes in Pulsar Timing Array Data

펄서 타이밍 배열(PTA) 데이터에서 이심 쌍성 블랙홀의 천체물리학적 매개변수를 효율적으로 추론하기 위해, 중력파(GW) 위상 진화를 위치 인코딩에 직접 내재시킨 물리 정보 기반 트랜스포머(Transformer)와 정규화 흐름(normalizing flow) 기반 시뮬레이션-기반 추론(SBI) 프레임워크를 제안한다. 제안된 방법은 다양한 신호 대 잡음비 환경에서 물리 불가지론적 기준선 대비 향상된 정확도, 더 선명한 사후 분포, 빠른 추론을 달성하며 차세대 PTA 분석을 위한 확장 가능한 대안임을 보인다.

arXiv:2607.03809v1cs.LG

Stable Global Weighting of Flow Mixtures using Simplex Exponential Moving Average

이질적인 사후 분포 기하에 단일 정규화 플로우(Normalising Flow)가 일반화하지 못하는 문제를 해결하기 위해, AMF-VI-sEMA는 RealNVP, MAF, RBIG 전문가를 독립적으로 학습한 뒤 단순체 지수 이동 평균(sEMA) 기반의 전역 가중치 메커니즘으로 혼합 가중치를 안정적으로 적응시키는 2단계 프레임워크를 제안한다. 10개의 사후 벤치마크 평가에서 선행 모델 AMF-VI 대비 일관된 NLL 개선을 달성하고, 컴포넌트 붕괴 없이 안정적인 가중치 궤적($N_{\mathrm{eff}}{>}1.4$)을 유지함을 실증적으로 보인다.

arXiv:2606.00684v2eess.AS

Local Diagnostics of Continuous Normalizing Flow for Out-of-Distribution Detection

연속 정규화 흐름(CNF)이 다른 심층 생성 모델(DGM)과 마찬가지로 분포 외(OOD) 샘플에 높은 가능도(likelihood)를 잘못 부여하는 "가능도 역설" 문제를 해결하기 위해, 고차원 표현 공간의 부분 공간에 라그랑주 서브-플로우(LSF) 프레임워크를 제안하여 맥락 정보와 분리된 국소 밀도를 추정한다. 속도 필드 궤적 기반의 기하학적 진단 신호를 설계해 제로샷 음소 수준 발음 오류 검출 벤치마크에서 가능도 기반 방법보다 우수한 성능을 입증한다.