arXiv:2606.19562v1 cs.LG

결합 유동 및 수송을 위한 과학적 기계 학습의 발전

Advances in Scientific Machine Learning for Coupled Fluid Flow and Transport

Gabriel F. Barros, Rômulo M. Silva, Alvaro L. G. A. Coutinho

제출 2026-06-17

한국어 초록

이 장에서는 비압축성 나비에-스토크(Navier-Stokes) 방정식과 스칼라 수송 방정식으로 지배되는 결합 유동 및 수송 현상을 모델링하기 위한 과학적 기계 학습(SciML)의 최신 발전 사항을 검토합니다. 혼탁류(turbidity currents)나 열 대류(thermal convection)와 같은 응용 분야에서 발견되는 이러한 시스템들은 강력한 비선형 결합과 다중 스케일(multiscale) 거동을 특징으로 하여, 고충실도(high-fidelity) 시뮬레이션에 높은 계산 비용이 듭니다. 이를 해결하기 위해 이 장에서는 효율적인 대리 모델(surrogate model)을 구축하기 위한 최첨단 SciML 방법들을 조사합니다. 여기에는 특이값 분해(Singular Value Decomposition)에 기반한 선형 차수 축소 기법(예: 동적 모드 분해(Dynamic Mode Decomposition))과 물리 정보 신경망(Physics-Informed Neural Networks, PINNs) 및 $β$-변이형 오토인코더($β$-Variational Autoencoders, $β$-VAEs)와 같은 비선형 신경망(neural network) 접근 방식이 포함됩니다. 먼저 적응형 메시 세분화/조잡화(Adaptive Mesh Refinement/Coarsening, AMR/C) 및 과학적 부동소수점 데이터 압축을 포함하여, 이러한 모델들을 고성능 컴퓨팅(High Performance Computing, HPC) 전략과 결합한 저자들의 연구 내용을 다룹니다. 그 다음 PINNs를 통한 혼탁류(turbidity currents)의 대리 모델링과 $β$-VAEs를 사용하여 열 유동(thermal flows)에서 분리된(disentangled) 비선형 모드를 추출하는 두 가지 새로운 기여를 제시합니다. 락-익스체인지 유동(lock-exchange flows) 및 레일리-베나르 대류(Rayleigh-Bénard convection)를 포함한 지배 방정식과 대표적인 벤치마크(benchmark)가 이러한 방법론들을 예시로 보여줍니다. 이 장은 결합 유동의 수학적 및 물리적 기초와 최첨단 모델링의 계산적 측면을 모두 다루고 있어 의도적으로 길게 작성되었습니다. 전반적으로, 고려된 특정 데이터 체제(data regimes) 및 모델링 가정 내에서 SciML이 복잡한 결합 시스템에 대해 전체 차수 시뮬레이션(full-order simulations)에 비해 계산 비용을 상당히 줄이면서도 빠르고 정확한 근사를 어떻게 가능하게 하는지 보여줍니다. 실시간 예측 및 불확실성 정량화(uncertainty quantification)와 같은 더 광범위한 기능들은 여전히 활발한 연구 방향이며, 그 실현 가능성은 당면한 문제에 크게 좌우됩니다.

원문 초록

This chapter reviews recent advances in Scientific Machine Learning (SciML) for modeling coupled fluid flow and transport phenomena governed by the incompressible Navier-Stokes and scalar transport equations. Such systems, found in applications like turbidity currents and thermal convection, feature strong nonlinear coupling and multiscale behavior that make high-fidelity simulations computationally expensive. To address this, the chapter surveys state-of-the-art SciML methods for building efficient surrogate models, including linear reduced-order techniques based on Singular Value Decomposition (such as Dynamic Mode Decomposition) and nonlinear neural network approaches like Physics-Informed Neural Networks (PINNs) and $β$-Variational Autoencoders ($β$-VAEs). It first covers the authors' work combining these models with High Performance Computing strategies, including Adaptive Mesh Refinement/Coarsening (AMR/C) and scientific floating-point data compression. It then presents two new contributions: surrogate modeling of turbidity currents via PINNs, and the extraction of disentangled nonlinear modes from thermal flows using $β$-VAEs. Governing equations and representative benchmarks, including lock-exchange flows and Rayleigh-Bénard convection, illustrate these methodologies. The chapter is intentionally long, covering both the mathematical and physical foundations of coupled fluid flow and the computational aspects of state-of-the-art modeling. Overall, it demonstrates how SciML enables fast, accurate approximations of complex coupled systems within the specific data regimes and modeling assumptions considered, while substantially reducing computational cost relative to full-order simulations. Broader capabilities such as real-time prediction and uncertainty quantification remain active research directions whose feasibility depends strongly on the problem at hand.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.19562v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21688v1physics.flu-dyn공통 태그 scientific machine learning, fluid dynamics

복잡한 유체 흐름을 위한 설명 가능한 양자 압축 기계학습

Explainable quantum-compressed machine learning for complex fluid flows

물리 시스템의 기계학습 서로게이트(surrogate)는 역설에 직면한다. 복잡한 비선형 흐름을 포착하기 위한 표현력(expressivity)의 한계에 부딪히는 설명 가능한 모델과 달리, 표현력이 풍부한 딥 서로게이트는 학습된 역학을 블랙박스로 만드는 대규모 매개변수화(parameterisation)를 통해서만 고충실도(high-fidelity) 시뮬레이션과 일치한다. 여기서 우리는 유체 흐름 서로게이트의 잠재 전파자(latent propagator)를 $524{,}288$개의 학습 가능 매개변수에서 최대 $8$개로 압축하여 이 긴장을 해소하는 양자 압축 기계학습(quantum-compressed machine learning, QCML)을 제안한다. 이 매개변수 축소는 학습된 역학 법칙을 블랙박스 신경망이 아닌 물리적 구성 관계(constitutive relation)의 매개변수 규모로 끌어내려, 표현력을 희생하지 않으면서 서로게이트를 직접 해석 가능하고 제어 가능하게 만든다. 압축은 잠재 스펙트럼을 구성상 정확히 단위원(unit circle)으로 제약하는 유니터리 전파자(unitary propagator)를 갖는 구조화된 양자 회로(structured quantum circuit)로 실현되며, 자기회귀(autoregressive) 롤아웃에서 지수적 오차 증가를 선형 누적으로 대체한다. 고전적 정규화(normalization)는 이 제약을 근사할 뿐이다. 단위성(unitarity)을 향해 페널티가 부과된 양자 영감의 고전적 기준선조차 난류 채널 흐름(turbulent channel flow)에서 하나의 Lyapunov 시간 이내에 붕괴하는 반면, QCML은 전체 롤아웃 동안 안정적으로 유지된다. 회로를 매개변수화하는 공유 위상(phase) 및 결합(coupling) 각도는 모드 주파수(modal frequencies) 및 모드 간 상호작용(inter-mode interactions)에 직접 대응하여, 학습된 역학에 스펙트럼 공간(spectral space)에서의 물리적 해석을 부여한다. 두 개의 환자 특이적(patient-specific) 심혈관 벤치마크(benchmark)에서, 구조화된 QCML 전파자는 표면 압력 스펙트럼(surface pressure spectra), 압력 강하(pressure drop), 벽면 전단 응력(wall shear stress)에 대해 고전적 대응물과 동일한 예측 정확도를 달성한다. 이 결과는 QCML을 과학적 기계학습(scientific machine learning)의 실용적 구성 요소로 확립하고, 실세계 예측에서의 실용적 양자 이점(practical quantum advantage)을 향한 구체적 기여로 제시한다.

arXiv:2607.13042v1cs.LG공통 태그 scientific machine learning, physics-informed neural networks

기초부터의 자동 미분: PyTorch가 물리 정보 신경망에서 기울기를 계산하는 방법

Automatic Differentiation from Scratch: How PyTorch Computes Gradients in Physics-Informed Neural Networks

본 논문은 PyTorch의 자동 미분(AD) 엔진이 물리 정보 신경망(PINN) 학습을 위해 기울기를 계산하는 과정을 명시적인 수치 값과 함께 추적한다 — 이 설정은 두 단계의 미분을 필요로 한다: 신경망을 통해 물리 도함수 $\hat{y}'(t)=d\hat{y}/dt$를 계산하는 것, 그리고 $\hat{y}'(t)$에 의존하는 손실의 매개변수 기울기 $\nabla_θL$를 계산하는 것. 1-3-3-1 다층 퍼셉트론과 초기값 문제 $y'(t)+y(t)=0$, $y(0)=1$을 사용하여, 모든 노드에서 전체 파이프라인을 추적한다: 순전파 동안 구성되는 계산 그래프, 단일 패스로 22개의 모든 매개변수 기울기를 계산하는 역방향 역전파, 그리고 \texttt{create\_graph=True}가 물리 정보 잔차를 통한 올바른 미분을 가능하게 하는 그래프 위 그래프 메커니즘. 모든 adjoint 값은 Tahimi (2026)의 수기 유도와 대조하여 검증되며, $P/Q$ 민감도 프레임워크와 PyTorch 자동 미분 엔진이 사용하는 벡터-야코비안 곱을 연결한다.

arXiv:2607.09684v1cs.LG공통 태그 scientific machine learning, physics-informed neural networks

야생의 SciML: 구조적 사전지식이 도움이 될 때와 해가 될 때에 대한 진단 연구

SciML in the Wild: A Diagnostic Study of When Structural Priors Help and When They Hurt

신경 상미분방정식(Neural Ordinary Differential Equations, NODEs), 물리 정보 신경망(Physics-Informed Neural Networks, PINNs), 보편 미분방정식(Universal Differential Equations, UDEs)과 같은 과학적 기계학습(Scientific Machine Learning, SciML) 방법론은 구조적 사전지식이 신뢰할 수 있는 지배 방정식을 반영할 때 가장 효과적이다. 본 연구는 이 가정이 위반될 경우 어떤 일이 발생하는지를 탐구한다. 거시경제 예측을 스트레스 테스트 도메인으로 활용하여, 희소한 연간 데이터, 다중 시간적 분할, 5개의 랜덤 시드를 사용해 23개국을 대상으로 ARIMA, LSTM, NODE, PINN, UDE 등 5가지 모델 패밀리를 평가하였다. 실험 결과, 평가된 모델 중 어느 것도 일관되게 강력한 예측 성능을 달성하지 못하였으며, 이는 저빈도 거시경제 예측의 어려움을 부각시킨다. 그러나 명확한 상대적 위계가 나타났는데, 덜 제약된 모델, 특히 ARIMA와 NODE가 PINN 및 UDE와 같이 휴리스틱 사전지식으로 더 강하게 제약된 모델을 일관되게 능가하였다. 우리는 이를 SciML의 기각으로 해석하지 않고, 구조적 사전지식이 데이터 생성 과정과 일치하지 않을 때 잘못된 정규화기(misregularizer)로 작용할 수 있다는 진단적 결과로 해석한다. 사전지식 불일치(prior misalignment), 체제 전환(regime shifts), 구조적 단절(structural breaks), 최적화 불안정성을 포함한 실패 양상을 식별하고, SciML 실무자들이 더 많은 구조가 유익하다고 가정하기에 앞서 구조가 실제로 도움이 되는지를 검증해야 한다고 주장한다.

arXiv:2607.11310v1cs.LG공통 태그 scientific machine learning, physics-informed neural networks

SPARC-Net: 강성 및 충격파 지배적 편미분방정식을 위한 스펙트럼, 인과성 인식, 하드 제약 물리 정보 아키텍처

SPARC-Net: A Spectral, Causality-Aware, and Hard-Constrained Physics-Informed Architecture for Stiff and Shock-Dominated Partial Differential Equations

물리 정보 신경망(Physics-Informed Neural Networks, PINNs)은 편미분방정식(PDE)을 푸는 무격자 접근법을 제공하지만, 강성 및 충격파 지배적 문제에서 심각한 성능 저하를 겪는다. 이러한 문제에서는 작은 PDE 잔차가 전역적으로 부정확한 해에 대응할 수 있다. 우리는 이러한 실패가 다중 원인에서 비롯됨을 보인다: (i) 급격한 특징에 대한 스펙트럼 바이어스, (ii) 불균형한 다항 최적화와 손실 가중치 붕괴, (iii) 시간적 인과성 위반, (iv) 해상도가 낮은 콜로케이션의 동시적 상호작용이 그 원인이다. 우리는 이 네 가지 병리를 공동으로 해결하는 통합 아키텍처 및 학습 프레임워크인 SPARC-Net을 제안한다. SPARC-Net은 학습 가능한 스펙트럼 게이트를 갖춘 적응형 다중 스케일 스펙트럼 인코더, 게이트 잔차 백본, 적응형 활성화 함수, 그리고 초기 및 경계 조건을 정확히 강제하는 하드 제약 출력 앙자츠(ansatz)를 활용하여 손실 가중치 붕괴를 구조적으로 제거한다. 학습에는 안정화된 그래디언트 노름 손실 균형 조정, 하한이 설정된 인과성 존중 잔차 가중치, 그리고 잔차 기반 적응적 콜로케이션(RAD)이 사용된다. 점성 Burgers', Allen-Cahn, 대류(beta=30), 반응의 네 가지 표준 벤치마크에 걸쳐 정확한 해석 해 및 고차 스펙트럼 참조 해와 비교 검증한 결과, SPARC-Net은 기본 PINNs 대비 상당한 개선을 달성한다: 상대 L2 오차가 Burgers'에서 1.47e-1에서 1.14e-1로(22% 감소), Allen-Cahn에서 9.93e-1에서 5.78e-2로(94% 감소), 반응 방정식에서 9.82e-1에서 3.54e-3으로(100% 감소) 줄어든다. 쌍곡선 수송을 위한 특성 좌표 인코더는 대류 오차를 5.14e-1에서 9.88e-5로 추가 감소시킨다(100% 감소). 우리는 5개 시드의 평균 ± 표준편차 오차, Wilcoxon 유의성 검정, 완전한 절제 연구(ablation studies), 하이퍼파라미터 민감도 분석, 2D 열방정식으로의 확장, 그리고 매개변수 매칭 기준선과의 비교 결과를 보고한다.

arXiv:2609.38840v3cs.LG공통 태그 Dimensionality Reduction

scTrilemma: 단일 세포 표현 학습에서 정체성, 불변성, 충실도의 균형 잡기

scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning

단일 세포 RNA 시퀀싱(single-cell RNA-seq) 표현 학습은 근본적으로 레이블이 없습니다(label-free). 즉, 세포 정체성(cell identity), 상태(state), 맥락(context)이 고정된 학습(training) 목표가 아니므로, 무엇이 신호(signal)이고 방해 요인(nuisance)인지는 분석 목적에 따라 달라집니다. 따라서 단일 표현은 생물학적 정체성과 상태를 보존하고, 방해 요인이 되는 맥락에 강건해야 하며, 유전자 발현 분석에 필요한 유전자 수준의 변이를 유지해야 합니다. 본 연구에서는 이 세 가지 요구 사항을 '표현 트릴레마(representation trilemma)'라고 부릅니다. 이 문제를 해결하기 위해, 모든 발현 기반 변이를 하나의 임베딩(embedding)으로 강제 통과시키는 대신 임베딩, 디코더, 사전 분포(prior)로 라우팅하는 잠재 병목 VAE인 scTrilemma를 소개합니다. scTrilemma는 단일 재구성 목표 아래에서 대상 어노테이션이나 보조 표현 손실 없이, 발현량에 따라 유전자 토큰을 게이팅하고, 세포 표현을 디코더로 라우팅하며, 레이블이 지정되지 않은 유사 벌크(pseudo-bulk) 맥락에 따라 사전 분포를 조건화합니다. 연속적인 CZ CELLxGENE Census 릴리스에 대한 릴리스 기반 제로샷(zero-shot) 평가에서, scTrilemma는 세 가지 요구 사항을 동시에 모두 선도하며 여러 질병 환경 전반에 걸쳐 생물학적 상태, 차등 발현(differential-expression) 및 경로(pathway) 구조를 보존합니다. 잠재 변수 개입(latent intervention) 실험은 다른 요구 사항에 거의 영향을 주지 않고 맥락을 제거할 수 있음을 추가로 보여주며, 정체성과 충실도 간의 관계만이 상충 관계(tension)로 남음을 입증합니다. 코드는 https://github.com/yunhak0/scTrilemma 에서 공개적으로 이용 가능합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.