arXiv:2304.09376

Physical Knowledge Enhanced Deep Neural Network for Sea Surface Temperature Prediction

Yuxin Meng, Feng Gao, Eric Rigall, Ran Dong, Junyu Dong, Qian Du

제출 2023-04-19

원문 초록

Traditionally, numerical models have been deployed in oceanography studies to simulate ocean dynamics by representing physical equations. However, many factors pertaining to ocean dynamics seem to be ill-defined. We argue that transferring physical knowledge from observed data could further improve the accuracy of numerical models when predicting Sea Surface Temperature (SST). Recently, the advances in earth observation technologies have yielded a monumental growth of data. Consequently, it is imperative to explore ways in which to improve and supplement numerical models utilizing the ever-increasing amounts of historical observational data. To this end, we introduce a method for SST prediction that transfers physical knowledge from historical observations to numerical models. Specifically, we use a combination of an encoder and a generative adversarial network (GAN) to capture physical knowledge from the observed data. The numerical model data is then fed into the pre-trained model to generate physics-enhanced data, which can then be used for SST prediction. Experimental results demonstrate that the proposed method considerably enhances SST prediction performance when compared to several state-of-the-art baselines.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23427v3cs.CV공통 태그 Earth Observation

RSPDBench: 물리적으로 근거한 원격탐사 제품 열화 하에서 지구관측 과업에 대한 비전 파운데이션 모델 벤치마킹

RSPDBench: Benchmarking Vision Foundation Models on Earth Observation Tasks Under Physically Grounded Remote-Sensing Product Degradations

지구 관측(EO)을 위한 비전 파운데이션 모델은 보통 깨끗한 벤치마크에서 평가되지만, 실제 운영되는 EO 산출물은 모델에 도달하기 전에 이미 공간적, 방사측정적, 정렬, 잡음, 조화 결함을 포함할 수 있다. 일반적인 이미지 손상이나 광범위한 도메인 이동은 이러한 산출물 수준의 실패를 분리해 내지 못한다. 우리는 물리적 근거에 기반한 원격탐사 산출물 열화 벤치마크인 \textbf{RSPDBench}를 소개한다. 이는 다섯 개의 EO 데이터셋에서 기본 열화와 복합 산출물 체인 하에 일곱 개의 파운데이션 모델 항목과 두 개의 지도 학습 기준선을 평가한다. 열화 파라미터는 공개된 Sentinel-2 및 Landsat~8 사양을 따르며, Sentinel-2의 쌍을 이루는 $10\,\mathrm{m}$ 및 $20\,\mathrm{m}$ 근적외선 밴드와 대조하여 검증된다. 우리는 각 모델을 자체 고유 프로토콜로 평가하고, 견고성을 자체 깨끗한 기준선으로부터의 하락폭으로 측정한다. 분석 결과 열화 민감도가 강하게 구조화되어 있음이 드러난다. (i) 해상도 조건부 인코더는 해상도 손실에 가장 견고하지만 위성 산출물의 방사측정 이득에는 가장 민감하고, (ii) 동일한 물리적 결함이 한 모델에는 해가 되고 다른 모델에는 도움이 될 수 있으며, (iii) 해상도 손실과 방사측정 이득에서의 모델 순위는 대체로 뒤바뀐다. 복합 체인은 가장 강한 단일 구성요소보다 최대 $38$ 퍼센트포인트의 추가 하락을 일으킨다. m-BigEarthNet에서 열화된 뷰로 프로브를 재학습하면 잡음 및 조화 손실의 약 75\%가 제거되지만, 해상도 손실은 여전히 깨끗한 점수의 약 20\%를 잃게 한다. 따라서 EO 견고성은 깨끗한 정확도나 일반적인 섭동만으로가 아니라 원격탐사 산출물의 구조화된 결함에 대해 측정되어야 한다. 코드: https://github.com/Tanjim131/RSPDBench

arXiv:2609.27144v2cs.LG공통 태그 Prediction

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2610.13608v1eess.AS공통 태그 Generative Adversarial Network

적대적 학습을 통한 연속 SPL 제어 기반 음성 강도 변환

Vocal Intensity Conversion with Continuous SPL Control via Adversarial Training

음성 강도 변환(vocal intensity conversion)은 녹음된 발화의 내용과 화자 정체성(speaker identity)을 보존하면서, 단순히 진폭을 스케일링하는 것이 아니라 해당 발화를 다른 음성 강도로 렌더링한다. 기존 시스템은 참조 발화(reference utterance) 또는 몇 가지 불연속적인 범주를 통해 강도를 제어한다. 대신, 우리는 연속적인 dB 스케일 상의 임의의 목표 음압 레벨(sound pressure level, SPL)로 변환을 제어한다. 병렬 데이터 없이 조건부 순환 일관성 생성적 적대 신경망(conditional cycle-consistent GAN)으로 학습된 경량 변환기(converter)는 고정된(frozen) 음성 인코더의 특징(feature)을 변환하며, 이로부터 사전학습된 보코더(vocoder)가 음성을 재합성한다. 우리는 로그-멜 스펙트로그램(log-mel spectrogram), WavLM, SpeechTokenizer 세 가지 표현(representation)을 비교하고, 보정된(calibrated) 코퍼스 상에서 달성된 강도 변화를 목표 강도 변화와 비교하여 측정하는 객관적 프로토콜을 도입한다. WavLM을 사용할 경우, 변환기는 목표 강도 변화의 83%를 달성하는 것으로 측정되었으며, 기본 주파수(fundamental frequency) 또한 이동시킨다. 지각 평가(perceptual evaluation)는 진폭이 정규화된(amplitude-normalized) 자극(stimuli)에서 지각된 음성 강도가 목표 레벨에 따라 증가함을 확인한다.

arXiv:2610.10897v1cs.LG공통 태그 Generative Adversarial Network

Gen-PINNs: 편미분 방정식 해결을 위한 생성적 적대 물리 정보 신경망

Gen-PINNs: Generative Adversarial Physics Informed Neural Networks for solving partial differential equations

물리 정보 신경망(PINNs)은 머신러닝을 사용하여 편미분 방정식(PDEs)을 해결하는 데 널리 사용되는 데이터 프리(data-free) 방법입니다. 최근 생성적 적대 신경망(GANs)의 발전과 함께 적대적 학습은 복잡한 데이터 기반 문제를 모델링하는 데 강력한 성능을 보여주었으나, 결정론적 물리 정보 기반 PDE 해법에서 GAN의 활용은 여전히 제한적입니다. 본 연구에서는 먼저 스펙트럼 바이어스(spectral bias), 손실 불균형(loss imbalance), 옵티마이저 정체(optimizer stagnation)를 포함하여 PDE 해결을 위한 표준 PINN의 한계점을 식별합니다. 그런 다음 급격한 전선(sharp front) 또는 충격파 전선(shock-front) 거동을 보이는 PDE의 데이터 프리 솔루션을 개선하도록 설계된 통합 결정론적 잔차-적대적 프레임워크인 생성적 적대 물리 정보 신경망(Gen-PINNs)을 제안합니다. 생성자(generator)는 동적으로 가중치가 부여된 물리 정보 손실 요소를 사용하여 기저 PDE 해를 학습하며, 별도의 판별자(discriminators)는 이상적인 무잔차(zero-residual) 상태에 대해 상호보완적인 PDE 잔차 특성을 평가합니다. 나아가 본 프레임워크는 고주파 공간 성분을 분해하기 위한 푸리에 표현(Fourier representation), 주파수 의존적 해 오차를 정량화하기 위한 정규직교 스펙트럼 진단(orthonormal spectral diagnostic), 물리, 초기 조건, 경계 조건 및 적대적 손실 목적을 위한 수정된 그래디언트 기반 동적 가중치 시스템 등 여러 방법론적 구성 요소를 개발하고 적용합니다. Gen-PINNs는 버거스(Burgers), 앨런-칸(Allen-Cahn), 쿠라모토-시바신스키(Kuramoto-Sivashinsky) 방정식을 포함한 비선형 및 고차 PDE에 대해 표준 PINN과 비교 검증되었습니다. 연구 결과는 급격한 전선, 강체(stiff) 및 고차 PDE 솔루션 전반에서 정확도와 수렴의 상당한 개선을 보여주며, 까다로운 비선형 PDE를 해결하기 위한 효과적인 접근 방식으로서 결정론적 잔차-적대적 학습의 잠재력을 강조합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.