동적 모델링을 위한 확률적 신경망에 선형 등식 제약 조건 내재화
Embedding Linear Equality Constraints in Probabilistic Neural Networks for Dynamic Modelling
한국어 초록
기계학습 모델은 화학 공정 시스템 모델링에 점점 더 많이 사용되고 있지만, 원칙적인 불확실성 정량화와 물리적 제약을 강제하는 메커니즘이 종종 부족하다. 우리는 주어진 허용 오차 내에서 선형 등식 제약 조건의 만족을 보장하면서 우연적 불확실성(aleatoric uncertainty)을 포착하는 확률적 신경망 프레임워크를 제안한다. 최신(state-of-the-art) 방법들과 비교할 때, 우리의 공식화는 축소된 데이터에서 예측 정확도, 불확실성 보정, 제약 준수 측면에서 개선된 성능을 보여준다. 또한 대규모 데이터 체제에서 평가할 때 경쟁력 있는 성능을 보이면서 학습 시간이 훨씬 더 빠르다. 우리는 이를 두 건의 배치 리액터 사례 연구에서 질량 수지를 강제하는 조건 하에 평가했다.
원문 초록
Machine learning models are increasingly used to model chemical process systems, yet they often lack principled uncertainty quantification and mechanisms to enforce physical constraints. We propose a probabilistic neural network framework that guarantees satisfaction of linear equality constraints within a given tolerance, while capturing aleatoric uncertainty. Compared to state-of-the-art methods, our formulation demonstrates improved predictive accuracy, uncertainty calibration, and adherence to constraints on reduced data. It also demonstrates competitive performance, but with significantly faster training times when evaluated on large data regimes. We evaluated this on two batch reactor case studies, enforcing mass balances.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.21728v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
머신러닝을 활용한 재귀적 상태 추정에서 근사 솔버의 수리 가능성
Repairability of Inexact Solvers in Recursive State Estimation with Machine Learning
재귀적 상태 추정은 종종 피드백 루프 안에서 근사적인 수치 해를 실행하며, 국소적으로 매우 정확한 단계가 전체적으로 더 나은 결과를 보장하지는 않는다. 고정된 선형 Kalman 모델에 대해, 규정된 부분공간과 노름 예산 내 보정이 국소 허용 가능성 허용 오차를 충족할 수 있는 조건을 특성화하고, 실제로 실행된 결함이 유한 구간 공분산 응답에 미치는 영향을 분석한다. 구현된 공분산에 대한 정확한 이득(gain)을 중심으로 각 결함을 두면 현재 솔브 오류와 상속된 이득 드리프트를 분리할 수 있다. 정확한 잔차-드리프트 항등식을 전개하면 2차 응답을 넘어 상반되는 4차 기여가 드러난다. 혁신(innovation) 공분산 팽창은 양의 방향으로, 국소 이득 재최적화는 음의 방향으로 작용한다. 일치하는 초기화 하에서, 고정 구간에서 유계 결함 열에 대해 균일한 절대 6차 나머지 상한은 2차 과소 또는 과대 예측에 대한 충분 조건을 제공한다. 머신러닝은 유계 보정을 제안하고, 학습기에 독립적인 잔차 증명서(residual certificate)와 검증된 폴백(fallback)이 기준 추정기를 바꾸지 않은 채 고전 및 양자 후보의 실행을 관장한다. 전력망 허용 오차 연구에서, 학습된 보정은 동일한 잔차 증명서 하에서 보정되지 않은 솔브에 비해 폴백 없이 배포할 때 최소 �共轭梯度(conjugate-gradient) 반복 횟수를 낮춘다. 변분 양자 선형 솔버와 어닐링 기반 이진 인코딩으로 재구성된 이득은 초전도 하드웨어上的 소규모 단말 측정과 양자 어닐러(quantum annealer)上的 샘pling을 거쳐 동일한 인터페이스로 실행된다. 국소 수리 가능성을 비선형 오류 전파와 연결함으로써, 이 프레임워크는 독립적 인증과 유한 구간 응답을 통해 근사 솔버와 학습된 보정을 평가하며, 하이브리드 양자-고전 계산 연구를 위한 실용적 토대를 제공한다.
복소 Helmholtz 파동장을 위한 연산자 정보 가우시안 프로세스: 합성 벤치마크에서 생체 뇌 탄성영상까지
Operator-Informed Gaussian Processes for Complex Helmholtz Wavefields: From Synthetic Benchmarks to In Vivo Brain Elastography
Helmholtz 방정식은 시간-조화 파동 전파를 지배하며, 감쇠 매질에서는 복소 탄성 계수로 인해 파수의 제곱 $κ^2$가 복소수가 된다. 희소하고 노이즈가 많은 데이터로부터 이러한 장을 추론하려면 자신의 불확실성까지 정량화하는 솔버가 필요하다. 물리 정보 가우시안 프로세스(GP) 회귀는 해에 대한 사후분포를 반환함으로써 이를 제공하지만, 연산자 조건 공식화는 거의 전적으로 실수값 장에 대해서만 개발되어 왔다. 우리는 복소 연산자를 등가의 결합된 실수 블록으로 실수화(realify)함으로써 연산자 정보 GP 회귀를 복소값 Helmholtz 문제로 확장하고, 이를 통해 표준 실수값 GP 조건화로 추론을 가능하게 한다. 이 구성은 적절한(proper) 대각 사전분포부터 공영역화(coregionalized) 및 다중 스케일 변형까지 일련의 사전분포를 허용하며, PDE 잔차와 경계 trace에 조건을 건다. 1차원에서 3차원까지의 벤치마크 문제에서, 이 솔버는 훨씬 작은 내부 제약 예산(interior-constraint budget)으로 유한차분법 및 신경망 베이스라인과 경쟁력을 보인다. 그러한 확정적 베이스라인과 달리, 점 추정이 아니라 복소 파동장에 대한 사후분포를 반환한다. 생체(in vivo) 뇌 자기공명 탄성영상에 적용하면, 적절한 다중 스케일 사전분포가 전단 curl 장을 측정값과 상관계수 0.77로 재구성하여 0.75 목표를 넘는다. 이 성능 향상은 실수-허수 결합이 아니라 다중 스케일 커널에서 비롯된다. 또한 모델 불일치(model mismatch)에 의해 설정된 저주파 정확도 상한과 아직 보정되지 않은 사후 불확실성을 확인한다. 따라서 보정된 불확실성은 감쇠 매질에서 확률적 파동장 추론을 위한 핵심 다음 단계로 부상한다.
상태 추정을 위한 생성형 베이지안 필터링
Generative Bayesian Filtering for State Estimation
동적 시스템의 상태는 시간에 따라 진화하며, 관측 가능한 행동을 지배하는 여러 잠재 모드 사이를 전환한다. 필터링 방법은 관측으로부터 잠재 상태를 추론한다. 칼만 필터(Kalman filter)를 포함한 고전적 필터링 접근법은 일반적으로 선형-가우스(linear-Gaussian) 모델과 같은 단순한 관측 모델에 의존하며, 이는 고차원 센서 신호에서 점점 더 비선형적이고 이질적인(heterogeneous) 패턴을 특성화하는 데 한계가 있다. 이 도전에 대응하기 위해, 우리는 제한적인 관측 모델을 조건부 변분 오토인코더(CVAE)로 매개변수화된 사전학습(pre-trained) 조건부 생성 모델로 대체하는 필터링 프레임워크인 생성형 베이지안 필터링(Generative Bayesian Filtering, GBF)을 제안한다. 온라인 추론(inference)을 위해 GBF는 베이지안 예측-갱신 재귀를 수행하며, 여기서 측정 갱신(measurement update)은 동역학적 사전(dynamical prior)과 CVAE 유도 가능도(likelihood)를 결합하는 사후 샘플링 문제로 공식화된다. 그 결과 필터링 문제는 스코어 기반(score-based) 샘플링 문제로 변환되며, 이는 생성 모델의 유연성과 앙상블(ensembling)의 불확실성 정량화(uncertainty quantification) 능력을 자연스럽게 계승한다. 합성 데이터셋(dataset)과 제조 시스템 모니터링 및 부정맥 진단(arrhythmia diagnosis)을 포함한 실세계 응용에 대한 실험은 GBF가 기준선(baseline) 접근법 대비 상태 추정 정확도와 견고성(robustness)을 향상시킴을 보여준다.
인식론적 불확실성 평가: OOD 탐지와 능동 학습을 넘어서
Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning
연속적 라벨 이동 하에서의 컨포멀 베이즈: 민감도 분석과 정확한 타당성의 한계
Conformal Bayes under Continuous Label Shift: Sensitivity Analysis and the Limits of Exact Validity
운동 상상 전기뇌파의 피험자 간 분류를 위한 베이지안 완전 풀링
Bayesian Complete-Pooling in Cross-Subject Classification for Motor Imagery Electroencephalogram
토론
이 논문과 연결된 포럼 글이 아직 없습니다.