계수를 모르는 고차원 완전 비선형 포물선형 편미분방정식(PDE)을 시뮬레이터 궤적과 점별 함수 평가만으로 푸는 0차 미분(ZOD) 기반 딥러닝 방법을 제안하며, 교란 Monte Carlo 궤적에서 유도한 ZOD로 기울기와 Hessian 타깃을 만들어 표현 후 학습(representing-then-learning) 방식으로 해와 1·2차 미분을 함께 학습한다. 자동 미분이나 연산자 정보 없이도 적용 가능하며, Sobolev 공간에서 비점근 오차와 표본 복잡도를 이론적으로 분석하고 중·고차원 수치 실험에서 경쟁력 있는 성능을 보였다.
보존 법칙, Hamiltonian 형식, 대칭과 같은 물리 구조 사전정보(prior)는 올바를 때 과학적 기계학습(scientific machine learning)을 개선할 수 있지만, 잘못 명시되면 예측을 악화시킬 수 있다. 기존 방법은 보통 선택된 구조를 강제하거나 부드러운 페널티를 조정하지만, 사전정보를 부과할지 여부, 얼마나 강하게 부과할지, 어떤 사전정보를 사용할지, 후보 법칙의 어떤 부분집합이 성립하는지를 결정하는 보정된 규칙 없이 수행한다. 우리는 이 문제를 비제약 추정량(unconstrained estimator)의 구조 위반 블록에 대한 수축(shrinkage)으로 다루는 폐형식(closed-form) 프레임워크인 SPADE(Structure-Prior Adaptive Decision Estimation)를 제안한다. SPADE는 하나의 정확한 명세 검정(specification test)과 하나의 추정량(estimand)을 사용한다. 검정은 데이터가 사전정보를 뒷받침하는지 결정하고, Stein-불편 James-Stein 수축은 $O(σ^2/n)$ 오라클 보장으로 강제 강도를 설정하며, 게이트(gate)는 검정이 이를 인증할 때만 하드 사전정보에 확정(commit)한다. 동일한 검정은 비중첩 제약 패밀리에서 부분집합 발견을 위한 일관된 중첩 구조 선택과 Benjamini-Hochberg 통제를 제공한다. 선형 부분공간 사전정보, 저수지 보존 법칙, Duffing 역학에 대한 비선형 Hamiltonian 사전정보에 걸쳐 SPADE는 오라클을 추적하고, 신경망 기준선(baseline)을 능가하며, 올바른 사전정보 regret을 $10.3\%$에서 $2.6\%$로 줄이고, 풀이 횟수의 $1/71$로 교차 검증(cross-validation)과 일치하며, 정확한 구조를 $100\%$ 정확도로 선택하고, 통제된 false relaxation으로 부분 법칙을 복원한다.
장경간 도로 교량은 차량 하중 하에서 고도로 국소화된 구조 응답을 보이며, 이로 인해 영향면 생성 및 구조적 디지털 트윈과 같은 응용 분야에서 반복적인 유한요소(FE) 해석의 계산 비용이 높아집니다. 기존의 과학적 기계 학습(SciML) 접근 방식은 이러한 국소화된 응답을 정확하게 포착하는 데 어려움을 겪습니다. 이러한 문제를 해결하기 위해 본 연구는 대규모 교량 시스템에서의 국소화된 구조 응답 예측을 위해 적응형 트렁크 DeepONet을 제안합니다. 이 프레임워크는 KNN 전략을 사용하여 하중 종속 학습 도메인을 동적으로 구성함으로써, 네트워크가 구조 영향 영역에 집중할 수 있도록 합니다. 트렁크 네트워크는 하중과 구조 노드 사이의 기하학적 관계를 인코딩하는 거리 인식 특징을 사용하여 추가로 향상됩니다. 강성 정보 슈어 보체(Schur complement) 공식을 통해 물리 기반 전체장 재구성이 통합되어, 적응형 노드에서의 예측을 전체 구조 도메인으로 확장할 수 있습니다. 확장 가능한 학습을 가능하게 하기 위해, 지배적인 전역 거동을 보존하면서 계산 비용을 획기적으로 줄이는 축소 차수 등가 쉘 모델을 사용하여 응답 데이터를 생성합니다. 제안된 프레임워크는 벤치마크 교량 모델과 실제 무사파(Mussafah) 교량 모두에서 검증되었습니다. 결과에 따르면 해당 방법은 상대 오차 5% 미만으로 FEM 수준의 정확도를 달성하면서, 전체 응답 평가 시간(전체장 재구성 포함)을 약 60배 단축합니다. 후처리 재구성 단계를 제외하면 AD-DeepONet 추론은 FEM보다 최대 4자릿수 더 빠릅니다. 또한, 이 프레임워크는 임의의 차량 하중 구성 하에서 전체장 응답, 영향선 및 영향면의 빠른 생성을 가능하게 하여, 대규모 교량 해석 및 디지털 트윈 응용 분야에서 강력한 잠재력을 보여줍니다.
편미분 방정식(PDEs)은 복잡한 물리, 생물, 공학 시스템을 모델링하는 데 중추적인 역할을 합니다. 전통적인 수치 솔버는 견고하지만 메쉬 의존성으로 인해 과도한 계산 비용이 드는 경우가 많은 반면, 최근의 물리 정보 신경망(PINNs)은 메쉬 프리(mesh-free) 대안을 제공하지만 종종 느린 수렴과 최적화 불안정성 문제를 겪습니다. 이러한 격차를 해소하기 위해 본 논문은 Physics-Informed Broad Learning System (PIBLS)를 제안합니다. PIBLS는 편미분 방정식 풀이를 직접적인 최소제곱 최적화로 재구성하는 새로운 역전파 없는(backpropagation-free) 프레임워크입니다. 우리는 이 프레임워크 내의 알고리즘을 개선하여 비선형 편미분 방정식을 효율적으로 처리할 수 있도록 했으며, 이러한 방정식에 대한 PIBLS의 범용 근사 성질을 확립하는 엄밀한 수학적 증명을 제공합니다. 선형 및 비선형 편미분 방정식에 대한 실험 결과, PIBLS는 기존 PINNs보다 1~3자릿수(orders of magnitude) 더 빠르면서도 훨씬 높은 해 정확도를 달성하는 것으로 나타났습니다. 이 프레임워크는 과학적 기계 학습을 위한 계산 효율적인 패러다임을 제공하며, 실시간 시뮬레이션 및 설계 최적화 작업을 위한 실용적이고 고속인 대안을 제공합니다.
이 장에서는 비압축성 나비에-스토크(Navier-Stokes) 방정식과 스칼라 수송 방정식으로 지배되는 결합 유동 및 수송 현상을 모델링하기 위한 과학적 기계 학습(SciML)의 최신 발전 사항을 검토합니다. 혼탁류(turbidity currents)나 열 대류(thermal convection)와 같은 응용 분야에서 발견되는 이러한 시스템들은 강력한 비선형 결합과 다중 스케일(multiscale) 거동을 특징으로 하여, 고충실도(high-fidelity) 시뮬레이션에 높은 계산 비용이 듭니다. 이를 해결하기 위해 이 장에서는 효율적인 대리 모델(surrogate model)을 구축하기 위한 최첨단 SciML 방법들을 조사합니다. 여기에는 특이값 분해(Singular Value Decomposition)에 기반한 선형 차수 축소 기법(예: 동적 모드 분해(Dynamic Mode Decomposition))과 물리 정보 신경망(Physics-Informed Neural Networks, PINNs) 및 $β$-변이형 오토인코더($β$-Variational Autoencoders, $β$-VAEs)와 같은 비선형 신경망(neural network) 접근 방식이 포함됩니다. 먼저 적응형 메시 세분화/조잡화(Adaptive Mesh Refinement/Coarsening, AMR/C) 및 과학적 부동소수점 데이터 압축을 포함하여, 이러한 모델들을 고성능 컴퓨팅(High Performance Computing, HPC) 전략과 결합한 저자들의 연구 내용을 다룹니다. 그 다음 PINNs를 통한 혼탁류(turbidity currents)의 대리 모델링과 $β$-VAEs를 사용하여 열 유동(thermal flows)에서 분리된(disentangled) 비선형 모드를 추출하는 두 가지 새로운 기여를 제시합니다. 락-익스체인지 유동(lock-exchange flows) 및 레일리-베나르 대류(Rayleigh-Bénard convection)를 포함한 지배 방정식과 대표적인 벤치마크(benchmark)가 이러한 방법론들을 예시로 보여줍니다. 이 장은 결합 유동의 수학적 및 물리적 기초와 최첨단 모델링의 계산적 측면을 모두 다루고 있어 의도적으로 길게 작성되었습니다. 전반적으로, 고려된 특정 데이터 체제(data regimes) 및 모델링 가정 내에서 SciML이 복잡한 결합 시스템에 대해 전체 차수 시뮬레이션(full-order simulations)에 비해 계산 비용을 상당히 줄이면서도 빠르고 정확한 근사를 어떻게 가능하게 하는지 보여줍니다. 실시간 예측 및 불확실성 정량화(uncertainty quantification)와 같은 더 광범위한 기능들은 여전히 활발한 연구 방향이며, 그 실현 가능성은 당면한 문제에 크게 좌우됩니다.
과학적 기계학습(SciML)은 복잡한 물리 시스템의 시뮬레이션을 가속화하는 유망한 접근법으로 부상했으나, 비선형적이고 이력 의존적인 문제에 대해 물리적으로 일관성 있고 일반화 가능한 예측을 달성하는 것은 여전히 핵심 과제로 남아 있다. 본 연구에서는 효율적이고 일반화 가능한 페이즈 필드 파괴 모델링을 위한 하이브리드 GNN-FEM 프레임워크를 제안한다. 페이즈 필드 접근법은 복잡한 균열 진전 시뮬레이션을 위한 강건한 변분 프레임워크를 제공하지만, 증분 유한요소 절차 내에서 연성된 비선형 이력 의존적 시스템을 풀어야 하므로 높은 계산 비용이 실용적 적용을 제한한다. 이 과제를 해결하기 위해, 그래프 신경망(GNN) 대리 모델을 기존의 교번 기법에 통합하여 각 하중 증분에서의 페이즈 필드 갱신을 대체하면서도, 역학적 평형과 경계 조건을 강제하기 위한 FEM 기반 변위 해석기를 유지한다. 증분 해 구조를 보존함으로써, 이 프레임워크는 대리 모델이 전체 해 궤적을 근사할 필요 없이 이력 의존적 파괴 진전과 일관성을 유지한다. 이러한 선택적 대리 전략은 전체 파괴 과정을 학습하기 위한 무차별적 데이터 생성에 의존하기보다, 물리적으로 의미 있고 증분 구조를 갖는 학습 목표의 식별을 강조한다. 제안된 프레임워크는 무차원 특징 설계, 메시 기반 도메인에서의 그래프 기반 공식화, 그리고 지배 페이즈 필드 방정식으로부터 유도된 물리 정보 기반 손실을 통해 다양한 기하학적 형상, 하중 조건, 재료 특성, 이산화 방식에 걸쳐 강한 일반화 성능을 달성한다. 수치 실험을 통해 하이브리드 접근법이 기존 FEM 대비 정확도를 유지하면서 계산 비용을 절감하고, 다양한 문제 설정에서 강건한 예측 성능을 보임을 입증한다.
과학적 기계학습(SciML) 대리 모델은 비용이 많이 드는 시뮬레이션을 근사하지만, 임의의 입력에 대한 정확한 예상 출력을 얻을 수 없습니다(오라클 문제). 메타모픽 테스트는 실행 간의 관계를 검사하지만, 후보 관계가 자동으로 유효한 것은 아닙니다. 선행 조건, 출력 매핑, 그리고 점수 연산자의 수치적 하한(numerical floor)이 위반 여부가 의미 있는지를 결정합니다. 우리는 후보 메타모픽 관계(MR)를 도메인 유효성에 대해 선별하고, SciML 대리 모델을 위한 실행 가능하며 오라클이 없는 테스트 자산으로 전환하는 방법을 연구합니다. 우리는 (i) 허용 오차(tolerance)가 연산자의 수치적 하한보다 크고 선행 조건이 충족될 때만 후보를 승인하는 도메인 유효성 루브릭, (ii) 소스 케이스, 변환, 메트릭, 허용 오차, 유형화된 관계 수준 판정을 기록하는 MR-카드 실행 가능 자산 형식, 그리고 (iii) 추적 가능한 아티팩트에 모든 결과를 바인딩하는 클레임 원장(ledger)을 갖춘 MeshGraphNets 실린더 유동 대리 모델에 대한 사례 연구 프로토콜을 제안합니다. MeshGraphNets 체크포인트에서 노드 순열은 기계 정밀도로 유지되고, mirror-y는 정확한 대칭이 아니라 제한된 분포 외(OOD) 스트레스 발견이며, 절대 보존은 연기되는 동안 참조 상대적 가드(guard)는 통과합니다. 동일한 판독 결과는 홀드아웃 궤적, 체크포인트 명단, 3개의 추가 아키텍처 및 PhysicsNeMo 전반에 걸쳐 유지됩니다. 두 번째 CFD 작업(압축성 에어포일)에서 술어(predicate)는 물리적 근거로 비압축성 연속성을 거부하며, 이는 고정된 체크리스트를 실행하는 것이 아니라 도메인 유효성에 대해 추론함을 보여줍니다. 두 번째 PDE 계열에서 FNO Burgers 및 열 대리 모델은 전체 승인/거부/실행 판정을 수행합니다. 이 증거는 두 개의 CFD 작업과 두 번째 PDE 계열에 걸쳐 있으며, 모델 수준 위반을 도메인 외 적용과 분리하는 후보 MR에서 감사 가능한 SciML 테스트 자산으로의 유효성 인식 브리지를 뒷받침합니다.
최근 과학 기계 학습(scientific machine learning)의 발전은 편미분 방정식(PDEs)에 대한 준실시간 해법을 제공하지만, 현대의 검증(verification) 및 확인(validation)을 지원하는 기존 시뮬레이터의 이론적 기초가 부족합니다. 본 연구에서는 구조 보존형 실시간 대리 모델 역할을 하는 데이터 기반 차수 축소 모델(reduced-order models)을 구축합니다. 특히, 물리적 보존 구조를 부과하는 외적 미적분학(exterior calculus)이 상태-플럭스 관계의 불확실성에 대한 가우시안 프로세스(GP) 표현을 구축하는 데 사용하는 위상적 구조를 드러낸다는 점이 주목됩니다. 이는 궁극적으로 사후 불확실성에 대한 닫힌 형식의 식을 갖는 관심 양(quantities of interest)에 대한 디리클레-노이만 맵(Dirichlet-to-Neumann map)을 산출합니다. 구체적으로, 우리는 경량 트랜스포머(transformer)에 의해 규정된 기존 라비아르-토마스(Raviart--Thomas) 및 $dgP_0$ 요소의 구조 보존형 $H(\mathrm{div})$-$L^2$ 부분 공간을 제안합니다. 이 부분 공간과 일치하는 차수 축소 역학은 GP가 부피 간 플럭스를 설명하는 보존 법칙을 제시함으로써 학습됩니다. 이 작업은 혼합 유한 요소법(FEM) 공간과 GP 회귀 간의 새로운 인터페이스에 기반합니다. 학습(training)을 최적 회복 문제(ORP)로 제시할 때, 결과적인 GP 회귀는 보존 구조를 부과하는 등식 제약 조건이 있는 최적화 문제로 작성될 수 있으며, 이는 빠른 슈어 보수(Schur-complement) 학습 전략에 적합합니다. 그런 다음 학습된 모델은 지정된 디리클레 데이터(Dirichlet data)에 의해 구동되는 경계 플럭스에 대한 닫힌 형식의 추정기를 사용하여 실시간으로 해결할 수 있습니다. 본 논문은 불확실성 정량화를 지원하기 위한 선형 범함수에 대한 RKHS(재생 커널 힐베르트 공간) 사후 오차 한계를 포함하며, 오차 추정에 대한 대리 모델로서 사후 분포의 정확도를 입증하는 수치 실험도 포함합니다.
전산 물리학(computational physics)에서 생성 모델(generative model)의 신뢰할 수 있는 외삽(extrapolation)은 여전히 핵심적인 과제로 남아 있습니다. 시간, 매개변수, 또는 형상의 유한한 범위에서 학습된 모델은 학습 분포(training distribution) 외부에서 물리적으로 일관되지 않은 예측을 생성할 수 있기 때문입니다. 본 연구에서는 최소 작용 원리 기반 디퓨전(Least-Action-Principle-Guided Diffusion, LAPG)을 소개합니다. 이 프레임워크는 학습(training) 시 부과되는 제약 조건에만 의존하는 대신, 추론(inference) 과정에서 물리적 일관성을 보장합니다. 이 방법은 조건부 점수 기반 디퓨전 모델(conditional score-based diffusion model)과 작용(action)에서 유도된 물리적 가이던스 점수(physical guidance score)를 결합합니다. 첫 번째 단계에서 학습된 점수 모델은 분포 내(in-distribution) 제안을 생성하고, 두 번째 단계에서 작용 기반 변분 사전(action-based variational prior)이 이 제안을 목표 분포 외(out-of-distribution) 조건으로 정제(refine)합니다. 이러한 정식화는 최소 작용 원리를 미분 가능한 추론 시점 보정 메커니즘으로 변환하며, 종종 경험적 손실(loss) 균형 조정을 요구하는 점별(pointwise) 잔차 페널티에 대한 대안을 제공합니다. 자유 낙하, 보존적 및 소산적 스프링-질점 역학, 상호작용하는 점 와류, 매개변수화된 익형 주변의 포텐셜 유동을 포함한 대표적인 상미분 방정식 및 편미분 방정식 시스템에서 LAPG를 평가했습니다. 시간, 매개변수, 형상 외삽 테스트 결과, LAPG는 학습 시점 물리 정보 기반 베이스라인(baseline)과 비교하여 위상 드리프트(phase drift)를 줄이고, 소산 감쇠를 보존하며, 와류 운동을 포착하고, 익형 유동의 양력 응답을 개선했습니다.
좌표 네트워크에서의 전이는 흔히 warm-start 이득으로 측정되지만, 그 이득이 소스 특이적 구조를 반영하는지 아니면 일반적인 가중치 재사용을 반영하는지는 덜 분명하다. 우리는 통제된 해석 테스트, 2D 뚜껑 구동 공동(lid-driven-cavity) Navier-Stokes 벤치마크, 열 방정식, 점성 Burgers, focusing cubic NLS에 대한 1D PDE 기준해 스위트를 사용하여 SIREN, 렐루(ReLU) MLP, Fourier 특징 MLP의 세 가지 암시적 신경 표현(INR) 계열에 걸쳐 이 질문을 조사한다. 해석 테스트는 독립 시드 무작위 대조군을 사용하고, PDE 벤치마크는 동일 계열의 대체 소스 대조군과 보조 ablation을 사용한다. 여러 설정에 걸쳐 전이 크기와 전이 특이성은 뚜렷하게 구분된다. 10-시드 통제 1D 기하 테스트에서 Fourier 특징은 가장 큰 구조적 전이($33.1\times$)를 보였고, 그다음이 SIREN($23.0\times$), 렐루($10.7\times$)였지만, 렐루는 훨씬 더 선택적이다: 무작위 대조군 전이는 렐루에서 $0.41\times$인 반면 SIREN에서는 $14.24\times$이다. 통제된 2-매개변수 1D 계열에서 순위는 바뀐다: 기본 설정에서 렐루가 구조적-대조 분리를 가장 뚜렷하게 보이는 반면, Fourier 특징은 대역폭 재조정 후에만 개선된다. Navier-Stokes와 더 넓은 1D PDE 스위트에서 단일 아키텍처가 모든 방정식을 지배하지는 않지만, 동일한 패턴은 유지된다: SIREN은 흔히 가중치를 광범위하게 재사용하는 반면, 렐루와(일부 방정식에서는) Fourier 특징은 더 소스 선택적이다. 정적 진단은 여전히 약하며, 휴리스틱 스케일링 법칙 $A_{\text{transfer}} \propto 1/Δt^2$는 구현된 1D 감사에서 기각된다. 이러한 결과는 전이 특이성을 좌표 네트워크에 대한 유용한 진단 지표로 자리매김하며, 과학 기계학습(scientific machine learning)에서 아키텍처 선택은 전이 크기만으로가 아니라 명시적 통제 조건 하에서 평가되어야 함을 시사한다.