부분적이고 잡음이 섞인 관측이 주어지는 동적 시스템의 베이즈 필터링(Bayesian filtering)은 온라인 방식으로 관측치에 따른 시스템 상태의 시변 조건부 분포를 추론하는 것을 목표로 합니다. 이러한 베이즈 필터링 분포는 지도학습의 타깃으로 직접 주어지는 경우가 거의 없습니다. 그러나 예측 모델을 활용하여 합성 궤적과 이에 대응하는 합성 관측치를 생성할 수 있는 경우가 많습니다. 본 연구에서는 오직 합성 궤적만을 사용하여 학습되는 앙상블 자료 동화(data assimilation) 기법인 적합 점수 앙상블 필터(PSEF)를 소개합니다. 분석 단계는 순열 동변성(permutation-equivariant)을 갖는 트랜스포머 기반 사상으로 표현됩니다. 학습은 전체 확률 분포에 걸쳐 확률적 정확도에 보상을 부여하도록 엄밀한 적합 점수 규칙(strictly proper scoring rules)에 기반하며, 본 연구의 구현에서는 에너지 점수(energy score)가 사용됩니다. 실현가능성(realizability) 가정 하에서, 모집단 평균장(mean-field) 목적 함수는 실제 베이즈 필터링 분포에 의해 최소화됩니다. 제안하는 방법론은 앙상블 크기에 따른 미세조정을 전제로, 서로 다른 앙상블 크기 간에 동일하게 학습된 파라미터를 공유할 수 있도록 합니다. 수치 실험 결과, 학습된 필터는 강한 비가우시안성 및 다봉(multi-modal) 사후 분포를 포함하는 까다로운 필터링 분포를 정확하게 근사하며, 고전적 기법이나 평균제곱오차(MSE) 목적 함수를 사용하는 학습 기반 기법보다 자료 동화 작업에서 더 뛰어난 성능을 달성함을 보여줍니다.
데이터 동화(Data assimilation, DA)는 잡음이 있고 부분적인 관측값으로부터 진화하는 동적 시스템의 상태를 추정하며, 과학 시뮬레이션뿐만 아니라 기상 및 기후 과학 분야에서 널리 활용됩니다. 실제로 필터링 방식은 프레임 간 전이 모델에 의존합니다. 그러나 이러한 모델은 실제 기상 데이터처럼 관측값이 더 높은 차원의 잠재 상태 중 일부 단면만을 구성하는 비마르코프(non-Markovian) 특성을 가질 때 취약하며, 긴 시간 지평(horizon)에 걸쳐 오차가 누적되는 경향이 있습니다. 동시에, 기존의 학습 기반 DA 방식은 일반적으로 필터링(초단기 예보, 실시간 예측)이나 평활화(소급 재분석) 중 단일 체계에만 특화되어 있어, 본래 공유되어야 할 사전 분포(prior)가 응용별 파이프라인으로 분리되는 문제가 있습니다. 이러한 두 가지 문제를 해결하기 위해, 본 논문에서는 통합적이고 강건한 DA 프레임워크인 ForcingDAS를 제안합니다. 각 프레임에 독립적인 노이즈 수준을 할당하는 확산 포싱(Diffusion Forcing)을 기반으로 구축된 ForcingDAS는 프레임 간 전이 대신 결합 궤적 사전 분포를 학습합니다. 이를 통해 긴 시간 지평의 시간적 의존성을 포착하고 오차 누적을 줄일 수 있습니다. 또한, 한 번 학습된 동일한 모델이 추론(inference) 시점에 필터링부터 평활화까지의 전체 스펙트럼을 포괄합니다. 구체적으로 재학습 없이 추론 스케줄 조정만으로 초단기 예보(nowcasting), 고정 지연 평활화(fixed-lag smoothing), 배치(batch) 재분석을 선택할 수 있습니다. 2D 나비에-스토크스(Navier-Stokes) 와도, 강수 초단기 예보, 전 지구 대기 상태 추정에서 ForcingDAS를 평가했습니다. 모든 설정에서 단일 모델(model)이 개별 체계에 특화된 학습 기반 및 고전적 베이스라인과 경쟁력이 있거나 이를 능가했으며, 특히 실제 기상 벤치마크에서 가장 큰 성능 향상을 보였습니다.
데이터 동화(data assimilation)는 부분적이고 잡음이 있는 관측으로부터 동역학적 상태를 추정한다. 기존의 고전적 앙상블 필터는 효율적이지만, 유한 표본 공분산과 아핀 가우시안 분포로 인해 분석 갱신이 제한된다. 본 논문에서는 조건부 플로우 매칭(conditional flow matching)을 사용하여 예측 앙상블을 고전적 기준선 필터로부터 분석 앙상블로 수송하는 Flow Ensemble Filter(FlowEF)를 제안한다. FlowEF는 학습 시에는 국소화된 가우시안 소스를 사용하고, 배포 시에는 기준선 필터의 예측 앙상블 구성원을 수송하며, 속도장(velocity field)을 해당 기준선 필터의 앙상블과 관측값에 조건화한다. 따라서 제안한 모델은 각 기준선 앙상블을 독립적으로 매핑하면서도 비선형 갱신을 학습한다. 희소하게 관측되는 동역학계에서 FlowEF는 네 가지 고전적 앙상블 필터 모두에 비해 결정론적 지표와 확률론적 지표를 모두 개선한다. 또한 최신 생성형 데이터 동화 모델 중에서도 가장 우수한 성능을 달성한다.
많은 물리적 데이터 동화(DA) 워크플로는 물리 상태 변수에 대한 비가우시안 사후분포를 표현하고, 고차원 시뮬레이터로 확장 가능하며, 관측 구간만으로 학습하고, 주어진 시뮬레이터 보정과 호환되는 스무딩 방법을 요구한다. 본 논문은 이러한 주어진-시뮬레이터 DA 체계를 위해 설계된 시뮬레이터 보존 상환(amortized) 스무더인 PR-Smoother를 제안한다. 핵심 설계 원칙은 증거 하한(evidence lower bound)과 변분(variational) 계열 모두에서 주어진 시뮬레이터를 명시적으로 유지하는 것이다. 대체 역학이나 학습된 궤적 사전(prior)을 학습하는 대신, PR-Smoother는 주어진 롤아웃 주변에서 미래 조건(future-conditioned) 보정만을 학습한다. 이를 통해 물리 궤적에 대한 명시적 비가우시안 스무딩 분포를 얻으며, 관측만으로 상태, 매개변수, 센서 바이어스의 공동 학습을 지원한다. 변분 계열은 결정론적 한계와 선형-가우시안 한계에서 정확한 스무더를 포함한다. 실험적으로 PR-Smoother는 4차원 Lorenz-96에서 다중모드 사후분포를 포착하고, 40차원 Lorenz-96에서 모호한 비선형 관측과 과정 노이즈(process noise) 하에서도 정확도를 유지하며, 16,384차원 Kolmogorov flow에서 상태-매개변수-바이어스 공동 추론으로 확장된다.
데이터 동화(Data assimilation)는 관측 데이터를 기반으로 복잡한 동적 시스템의 상태를 추론(inference)하는 것을 목표로 합니다. 그러나 고차원 및 희소 관측 조건에서는 비선형 또는 비단사(non-injective) 관측 연산자로 인해 유도되는 다봉(multimodal) 사후확률을 정확하게 추론하는 것이 여전히 주요한 과제로 남아 있습니다. 앙상블(ensemble) 필터는 고차원으로 확장 가능하지만 제한적인 분포 가정에 얽매여 있으며, 무학습(training-free) 생성형 필터(예: EnSF, EnFF)는 이러한 한계를 완화하지만 희소 관측 상황에서 구조적 오류를 유발하고 정보 전파를 저해할 수 있습니다. 이러한 문제를 해결하기 위해, 우리는 무학습 방식의 점근적으로 정확한 사후 수송(posterior transport) 방법을 제안합니다. 먼저, 예측 교차 공분산(cross-covariance)을 흐름 기반(flow-based) 수송에 임베딩하여 비가우시안(non-Gaussian) 사후 구조를 보존하면서 관측되지 않은 상태를 정확하게 복원하는 공분산 인식(covariance-aware) 사후 수송 체계를 설계합니다. 나아가, 이 방법은 다루기 쉬운 관측 적응형 제안 분포와 사후 보정을 결합하여 비선형 사후 분포의 정확한 근사를 보장합니다. 마지막으로, 우리는 해당 사후 흐름 이론을 정립하고, 이를 통해 유한 앙상블 대리 모델 대비 제안된 방법의 점근적 정확성과 바서슈타인(Wasserstein) 오차 한계를 도출합니다. Double-Well, Lorenz-96, 그리고 Kolmogorov 흐름에 대한 실험은 제안된 방법이 복잡한 사후 구조를 포착하고 희소, 비선형, 비단사 관측 조건에서도 정확성을 유지함을 보여줍니다. 특히 희소 비단사 설정에서는 최고 성능의 기준선(baseline) 대비 RMSE를 56% 감소시킵니다.
필터링과 자료 동화(data assimilation)를 위한 최적 운송 기반 알고리즘 일부에 대해 추정 오차를 체계적으로 분석한다. 이 과정에서 시뮬레이션 기반 추론(simulation-based inference) 맥락에서 등장하는 조건부 브르니에 맵(conditional Brenier maps)의 경우로, 기존 브르니에 맵 오차 분석을 확장한다. 이어서 이러한 결과를 필터링 시나리오에 적용하여 Al-Jarrah et al. (2024, ICML)의 최적 운송 필터링 알고리즘을 분석한다. 해당 알고리즘의 확장과 함께 다양한 비가우스(non-Gaussian) 및 고차원 예제에 대한 수치 벤치마크를 제시하여 그 효과와 실용적 잠재력을 보여준다.
희소 센서 데이터만으로 도시 내 고해상도 바람장을 재구성하기 위해, GenDA는 CFD 시뮬레이션으로 학습된 다중 스케일 그래프 기반 확산 모델에 분류기 없는 가이던스(classifier-free guidance)를 적용하여 기하학 인식 사전 분포와 센서 관측 제약을 결합하는 생성적 데이터 동화(data assimilation) 프레임워크를 제안한다. 지도 학습 GNN 및 고전적 저차원 데이터 동화 기법 대비 RRMSE를 25~57% 감소시키고 SSIM을 23~33% 향상시켰으며, 재학습 없이 학습에 포함되지 않은 메시 기하구조와 센서 배치에도 일반화됨을 실제 영국 브리스톨 도시 RANS 시뮬레이션으로 검증하였다.
에너지 소비의 정확한 추정과 예측은 전력계통 운영, 계획, 수요 측면 관리에 중요하다. 그러나 실제로는 완전하고 시의적절한 측정값이 항상 제공되지 않을 수 있으며, 관측 데이터는 부분적이거나 노이즈가 있거나 지연될 수 있다. 이는 진화하는 소비 상태를 예측하기 위한 학습 기반 예측 모델과, 순차적 예측 보정을 위한 데이터 동화 방법의 사용을 동기 부여한다. 본 연구에서는 실제 에너지 소비 데이터에 대한 고차원 데이터 동화 문제를 다룬다. 순방향 예측은 사전학습된 블랙박스 시공간 예측 모델에 의해 제공되며, 필터링 절차에서 상태 전파기(state propagator)로 취급된다. 우리는 부분적이고 노이즈가 있는 관측을 동화하고 시간에 따른 예측 궤적을 보정하기 위해 앙상블 Score Filter(EnSF)를 사용한다. EnSF는 필터링 분포를 근사하기 위해 score 기반 확산 모델을 사용하며, 폐형 score 표현과 Monte Carlo 근사를 통해 동화 과정에서 신경망 score 모델의 재학습을 피한다. 수치 실험 결과, 학습된 예측 모델의 개루프(open-loop) 전파는 장기 구간에서 신뢰성을 잃을 수 있음을 보여주며, EnSF 기반 보정은 상태 추정을 실질적으로 개선한다. 앙상블 Kalman Filter(EnKF)와의 비교에서 EnSF가 본 연구에서 고려한 비선형 관측 설정 하에서 더 강한 보정을 제공함을 추가로 보여준다.
수치 기상 예측과 데이터 동화(data assimilation)에서 컨포멀 예측(conformal prediction, CP)을 대류 과정을 모방한 1차원 수정 천수 모델에 적용해 표준 CP, 정규화 CP, 컨포멀화된 분위수 회귀(CQR)의 커버리지·구간 길이·구간 점수 등을 평가하고 앙상블 스프레드 등 전통적 앙상블 기반 측도와 비교했다. CP 섭동을 데이터 동화 주기에 통합하는 방안도 함께 검토했으며, 결과는 각 방법의 강점과 한계를 드러내며 단순화된 대기 모델에서 CP가 기존 앙상블 기반 불확실성 정량화를 보완할 수 있음을 보여준다.
데이터 동화(DA)는 노이즈가 섞인 관측값으로부터 동적 시스템의 상태를 추정합니다. 앙상블 스코어 필터(EnSF)와 같은 최신 생성 모델은 고차원 비선형 설정에서 DA를 개선하지만 계산 비용이 많이 듭니다. 우리는 샘플링을 가속화하고 플로우 설계에 유연성을 제공하는, 학습(training)이 필요 없는 Flow Matching(FM) 기반 프레임워크인 앙상블 플로우 필터(EnFF)를 소개합니다. EnFF는 주변 플로우 필드에 대한 몬테카를로 추정기, 관측값 동화를 위한 국소화된 가이던스(guidance), 그리고 베이지안 DA 공식을 활용하는 새로운 플로우 경로를 사용합니다. 이는 부트스트랩 입자 필터(bootstrap particle filter) 및 앙상블 칼만 필터(ensemble Kalman filter)와 같은 고전적인 필터를 일반화합니다. 고차원 벤치마크에 대한 실험은 EnFF의 개선된 비용-정확도 트레이드오프와 확장성을 입증하며, 효율적이고 확장 가능한 DA를 위한 FM의 잠재력을 강조합니다. 코드는 https://github.com/Utah-Math-Data-Science/Data-Assimilation-Flow-Matching 에서 확인할 수 있습니다.
부분 관측 고차원 비선형 시스템에서 비가우스 사후 분포를 특성화하는 것은 데이터 동화에서 여전히 근본적인 과제이다. 앙상블 칼만 필터는 강하게 비가우스인 사후 분포에 대해 부정확할 수 있는 가우스 근사에 의존하는 반면, 파티클 필터는 심각한 확장성 한계에 직면한다. 최근 점수 기반 생성적 접근법은 사후 분포 특성화를 개선하지만, 일반적으로 정답 사후 샘플을 갖춘 지도 학습을 요구하며, 이는 대부분의 실용적 응용에서 이용할 수 없다. 우리는 조건부 가우스 대리 모델링, 비지도 점수 학습, 생성적 샘플링을 통합하는 확장 가능한 프레임워크인 $Ω$(Operator-based Mixture Ensemble for Generative Assimilation, 생성적 동화를 위한 연산자 기반 혼합 앙상블)를 제안한다. 조건부 가우스 대리 모델은 미해결 변수에 대해 닫힌 형태의 조건부 사후 분포를 허용하면서 비선형 비가우스 기준선 근사를 제공한다. 첫째, $Ω$는 이러한 닫힌 형태의 조건부 분포를 활용하여 고차원 미관측 성분을 해석적으로 복원함으로써 계산 비용을 줄이고 차원의 저주를 완화한다. 둘째, $Ω$는 앙상블 궤적만을 사용한 노이즈 제거 점수 매칭(denoising score matching)을 통해 해석적 기준선을 넘어서는 잔차 불일치만을 학습하여, 정답 사후 샘플의 필요성을 없애고 학습 부담을 크게 줄인다. 셋째, $Ω$는 가우스 혼합 표현을 통해 관측 변수와 미관측 변수 모두의 완전한 비가우스 사후 분포를 재구성하여 다중 모드, 비대칭, heavy-tailed 통계량을 포착한다. 마지막으로, $Ω$는 annealed Langevin 샘pling을 사용하여 앙상블 구성원을 기준선에서 목표 사후 분포를 향해 반복적으로 정제한다. $Ω$는 간헐성과 극한 사건을 갖는 여러 난류 모델에서 검증되었으며, 사후 분포 정확도를 일관되게 향상시킨다.
충격파와 같은 불연속성을 가진 유동에서 앙상블 칼만 필터(EnKF)가 발생시키는 인공적인 진동 문제를 해결하기 위해, 학습된 저차원 잠재 공간에서 업데이트를 수행하는 특징 보존 잠재-EnKF를 제안한다. 희소하고 잡음이 있는 관측 환경에서 수행된 수치 실험을 통해, 제안된 방법이 인공적인 진동 없이 충격파와 접촉 불연속성을 정확하게 복원함을 입증했다.
전통적인 산불 모델은 경직되고 저차원인 매개변수와 정적인 연료 지도에 의존하여 빈번하게 화재 확산을 과소 예측합니다. 이러한 약점을 해결하기 위해, 우리는 JAX로 구현된 하이브리드 딥러닝 매개변수화 확률적 세포 오토마타(CA) 프레임워크를 소개합니다. 우리의 접근 방식은 화재 확산 확률, 바람 정렬, 경사 영향을 제어하는 공간적으로 변하는 매개변수를 동적으로 생성하기 위해 다중 스케일 합성곱 신경망(CNN)을 사용합니다. 이 하이브리드 설계는 기본이 되는 3상태 세포 오토마타의 물리적 해석 가능성을 보존하면서 복잡하고 비선형적인 환경 상호작용을 포착합니다. JAX 구현은 하드웨어 가속과 그래디언트 기반 매개변수 보정을 가능하게 합니다. 미국 서부의 6개 대규모 산불에 대해 평가한 결과, 모델은 관측된 외곽선에 점진적으로 적합되는 10일 데이터 동화 기간 이후 72시간 예측 기간 동안 IoU > 0.6을 유지했습니다. 결과적으로 도출된 예측은 해당 관측치에 이미 내재된 진압 체제 하에서의 화재 성장에 대한 조건부 투영입니다.
사차원 변분 자료동화(4DVAR)는 수치 일기 예측의 핵심이지만, 목적 함수의 비볼록성으로 인해 계산 비용이 크고 초기화에 민감하다. 우리는 시공간 상태를 신경망으로 매개변수화된 연속 함수로 표현하는 신경 필드 기반 4DVAR 재공식화를 제안한다. 매개변수 공간에서의 최적화가 신경 필드의 스펙트럴 바이어스를 활용하여, 명시적인 배경 오차 공분산 정보 없이도 상태 추정을 안정화하고 허위 고주파 진동을 억제하는 암시적 정규화기 역할을 한다는 것을 보여준다. 또한 전체 시공간 궤적을 매개변수화함으로써, 본 프레임워크는 시간 병렬 최적화를 가능하게 하고 물리 정보 손실(physics-informed losses)을 통해 물리적 제약을 직접 통합한다. 2D Kolmogorov flow와 3D Taylor-Green vortex를 포함한 카오스 벤치마크 평가에서, 신경 재매개변수화가 고전적 4DVAR보다 더 정확한 초기 조건을 생성함을 보여준다. 분리형 신경 아키텍처(SPINNs)와 결합하면 상당한 속도 향상을 달성한다. 많은 머신러닝 접근법과 달리, 본 프레임워크는 정답(ground-truth) 학습 데이터가 필요 없어 운영 자료동화를 위한 견고하고 확장 가능한 대안을 제공한다.