비선형 동역학 시스템 모델링을 위한 주파수 영역 Neural ODE
Frequency-Domain Neural ODEs for Modeling Non-Linear Dynamical Systems
한국어 초록
Neural Ordinary Differential Equations (NODE)와 같은 표준 연속 깊이 모델은 이산 시간 단계 대신 연속 벡터 필드를 학습함으로써 물리 시스템 모델링에 상당한 이점을 제공한다. 그러나 복잡한 동역학 시스템에 적용할 때 표준 NODE는 고도로 비선형인 동역학을 다루는 데 자주 어려움을 겪는다. 본 논문은 Fast Fourier Transform (FFT)을 사용하여 연속 시간 동역학을 주파수 영역으로 투영하는 아키텍처인 Frequency-domain Neural ODE (FNODE)를 조사한다. 주파수 영역에서 동작함으로써, 해당 모델은 동역학 시스템에 대한 더 나은 일반화를 제공한다. 이 아키텍처는 Lotka-Volterra 모델, 강제 Duffing 진동자, Van der Pol 진동자, Lorenz 시스템이라는 네 가지 서로 다른 동역학 시스템에 대해, 구체적으로 Gated Recurrent Unit (GRU)와 Long Short-Term Memory (LSTM) 같은 이산 모델 및 Augmented Neural ODE (ANODE)를 포함한 다른 연속 깊이 변형과 비교하여 실증적으로 평가된다. 일반화와 견고성을 엄밀히 평가하기 위해, 커리큘럼 학습과 앙상블 학습을 사용하여 서로 다른 앙상블 모델들에 걸쳐 신뢰 구간을 추정함으로써 모델의 수렴을 평가한다. 실증 결과는 FNODE 아키텍처가 뛰어난 수렴 안정성을 보이면서 더 나은 일반화를 달성함을 보여준다.
원문 초록
Standard continuous-depth models, such as Neural Ordinary Differential Equations (NODEs), offer significant advantages in modeling physical systems by learning continuous vector fields rather than discrete temporal steps. However, when applied to complex dynamical systems, standard NODEs frequently struggle with highly nonlinear dynamics. This paper investigates the Frequency-domain Neural ODE (FNODE), an architecture that projects continuous temporal dynamics into the frequency domain using the Fast Fourier Transform (FFT). By operating in the frequency domain, the model provides better generalization to the dynamical system. The architecture is empirically evaluated against discrete models, specifically Gated Recurrent Units (GRUs) and Long Short-Term Memory (LSTMs), and other continuous-depth variants, including Augmented Neural ODE (ANODE), across four distinct dynamical systems: the Lotka-Volterra model, the forced Duffing oscillator, the Van der Pol oscillator, and the Lorenz system. To rigorously assess generalization and robustness, curriculum and ensemble learning are used to evaluate the model's convergence by estimating confidence intervals across different ensemble models. The empirical results demonstrate that the FNODE architecture achieves better generalization while exhibiting remarkable convergence stability.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.22075v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
FREESIA: 표현력 있고 확장 가능한 데이터 동화를 위한 공분산 인식 사후 수송
FREESIA: Covariance-Aware Posterior Transport for Expressive and Scalable Data Assimilation
데이터 동화(Data assimilation)는 관측 데이터를 기반으로 복잡한 동적 시스템의 상태를 추론(inference)하는 것을 목표로 합니다. 그러나 고차원 및 희소 관측 조건에서는 비선형 또는 비단사(non-injective) 관측 연산자로 인해 유도되는 다봉(multimodal) 사후확률을 정확하게 추론하는 것이 여전히 주요한 과제로 남아 있습니다. 앙상블(ensemble) 필터는 고차원으로 확장 가능하지만 제한적인 분포 가정에 얽매여 있으며, 무학습(training-free) 생성형 필터(예: EnSF, EnFF)는 이러한 한계를 완화하지만 희소 관측 상황에서 구조적 오류를 유발하고 정보 전파를 저해할 수 있습니다. 이러한 문제를 해결하기 위해, 우리는 무학습 방식의 점근적으로 정확한 사후 수송(posterior transport) 방법을 제안합니다. 먼저, 예측 교차 공분산(cross-covariance)을 흐름 기반(flow-based) 수송에 임베딩하여 비가우시안(non-Gaussian) 사후 구조를 보존하면서 관측되지 않은 상태를 정확하게 복원하는 공분산 인식(covariance-aware) 사후 수송 체계를 설계합니다. 나아가, 이 방법은 다루기 쉬운 관측 적응형 제안 분포와 사후 보정을 결합하여 비선형 사후 분포의 정확한 근사를 보장합니다. 마지막으로, 우리는 해당 사후 흐름 이론을 정립하고, 이를 통해 유한 앙상블 대리 모델 대비 제안된 방법의 점근적 정확성과 바서슈타인(Wasserstein) 오차 한계를 도출합니다. Double-Well, Lorenz-96, 그리고 Kolmogorov 흐름에 대한 실험은 제안된 방법이 복잡한 사후 구조를 포착하고 희소, 비선형, 비단사 관측 조건에서도 정확성을 유지함을 보여줍니다. 특히 희소 비단사 설정에서는 최고 성능의 기준선(baseline) 대비 RMSE를 56% 감소시킵니다.
상태 추정을 위한 생성형 베이지안 필터링
Generative Bayesian Filtering for State Estimation
동적 시스템의 상태는 시간에 따라 진화하며, 관측 가능한 행동을 지배하는 여러 잠재 모드 사이를 전환한다. 필터링 방법은 관측으로부터 잠재 상태를 추론한다. 칼만 필터(Kalman filter)를 포함한 고전적 필터링 접근법은 일반적으로 선형-가우스(linear-Gaussian) 모델과 같은 단순한 관측 모델에 의존하며, 이는 고차원 센서 신호에서 점점 더 비선형적이고 이질적인(heterogeneous) 패턴을 특성화하는 데 한계가 있다. 이 도전에 대응하기 위해, 우리는 제한적인 관측 모델을 조건부 변분 오토인코더(CVAE)로 매개변수화된 사전학습(pre-trained) 조건부 생성 모델로 대체하는 필터링 프레임워크인 생성형 베이지안 필터링(Generative Bayesian Filtering, GBF)을 제안한다. 온라인 추론(inference)을 위해 GBF는 베이지안 예측-갱신 재귀를 수행하며, 여기서 측정 갱신(measurement update)은 동역학적 사전(dynamical prior)과 CVAE 유도 가능도(likelihood)를 결합하는 사후 샘플링 문제로 공식화된다. 그 결과 필터링 문제는 스코어 기반(score-based) 샘플링 문제로 변환되며, 이는 생성 모델의 유연성과 앙상블(ensembling)의 불확실성 정량화(uncertainty quantification) 능력을 자연스럽게 계승한다. 합성 데이터셋(dataset)과 제조 시스템 모니터링 및 부정맥 진단(arrhythmia diagnosis)을 포함한 실세계 응용에 대한 실험은 GBF가 기준선(baseline) 접근법 대비 상태 추정 정확도와 견고성(robustness)을 향상시킴을 보여준다.
TopTimeNet: 위상학적으로 보조된 시계열 분류 모델
TopTimeNet: Topologically-assisted time-series classification model
시계열에서 주기적 역학과 혼돈 역학을 구별하는 것은 물리학과 공학 모두에서 근본적인 과제입니다. 그러나 엔드투엔드(end-to-end) 학습 기반 아키텍처는 상당한 비용을 들여 데이터로부터 표현과 결정 경계를 모두 찾아내야 합니다. 본 연구에서는 이러한 작업을 분리하는 TopTimeNet을 소개합니다. 고정된 비학습 단계에서 타켄스 지연 임베딩(Takens delay embeddings) 및 지속성 호몰로지(persistent homology)를 통해 $42$차원의 기하학적·위상수학적 기술자를 추출하고, 경량 학습 가능 단계에서 분류를 수행합니다. $49$개의 비선형 동역학계로 구성된 벤치마크에서, $1{,}638$개의 매개변수를 갖는 구성은 $33$배 더 많은 학습 가능한 매개변수를 갖는 구성의 평균 정확도와 일치합니다. 또한, 이 접근법은 세 자리에서 네 자리 수(orders of magnitude)만큼 더 적은 학습 가능 매개변수를 요구하면서도 합성곱 신경망(CNN)에 필적하는 평균 정확도를 제공하고 수렴된 트랜스포머 모델의 평균 성능을 능가합니다. 견고성 또한 노이즈가 유입되는 위치에 크게 좌우됩니다. TopTimeNet은 사전 계산된 특징에 대한 섭동에는 완만하게 저하되지만, 원시 신호에 노이즈가 유입되어 전체 특징 추출 파이프라인이 재계산될 때는 급격히 저하되므로, 사전 계산된 특징의 섭동에 대한 견고성이 원시 신호부터 예측까지 이어지는 전체 파이프라인의 견고성을 의미하지는 않음을 보여줍니다. 이러한 결과는 고정된 기하학적 및 위상수학적 특징 구성을 경량 판별 단계와 분리함으로써 실질적으로 훨씬 적은 학습 가능 매개변수로도 대등한 분류 정확도를 달성할 수 있음을 보여줍니다.
TinyUDE: 리-테일러 제트 매칭을 통한 마이크로컨트롤러 기반의 솔버 없는 범용 미분 방정식
TinyUDE: Solver-Free Universal Differential Equations on Microcontrollers via Lie-Taylor Jet Matching
범용 미분 방정식(UDE) 학습(training)은 전통적으로 수치적 ODE 솔버를 통한 역전파에 의존하므로, 엣지 마이크로컨트롤러의 성능을 크게 초과하는 메모리 사용량을 발생시킵니다. 본 논문에서는 관측된 시스템 상태의 1차 및 2차 시간 도함수(derivative)에 하이브리드 벡터장을 직접 피팅하는 솔버 없는(solver-free) 학습 프레임워크인 리-테일러 제트 매칭(Lie-Taylor jet matching)을 제시합니다. 절단된 리-테일러 제트(truncated Lie-Taylor jet)인 이러한 도함수는 사비츠키-골레이(Savitzky-Golay) 필터링을 통해 온디바이스에서 온라인으로 추정되며, 자동 미분 소프트웨어 없이도 완전한 해석적 그래디언트를 생성합니다. 본 연구는 동일한 동역학, 노이즈 모델, 네트워크 아키텍처 및 평가 지표를 공유하는 기존 기준선(baseline)(고정 스텝 RK4 적분, 다중 슈팅, 정확한 이산 수반 변수법, Adam)과 비교하여 솔버를 제거하는 것이 정확도를 저하시키는지 평가합니다. 단순한 도함수 매칭은 센서 노이즈 환경에서 성능이 저하되지만, 본 연구의 노이즈 적응형 메커니즘인 전비율 위상 천이 샘플링, 레저버 버퍼, 가중치(weight) 평균화를 적용한 코사인 어닐링 최적화(optimization), 온디바이스 노이즈 추정, 다항식 미스핏 품질 게이팅을 통해 이러한 격차를 해소하고 역전시킵니다. 감쇠 진자 및 혼돈 이중 진자 실험에서, 제안하는 방법은 동일한 데이터 윈도우에서 기준선 정확도와 일치하거나 이를 능가하며 모델링되지 않은 감쇠 계수를 복원합니다. 0%에서 5%까지의 노이즈 수준 전반에서, 수 메가바이트의 솔버 테이프와 비교해 108 kB의 정적 메모리 내에서 기준선의 0.65배에 해당하는 기하평균 상대 필드 오차를 달성합니다. ESP32 마이크로컨트롤러에서의 온디바이스 실행은 61.3 kB의 정적 메모리와 업데이트당 7.24 ms(25 Hz에서 18.1% 듀티 사이클) 내에서 0.0020의 필드 오차에 도달하고 감쇠 계수를 c = 0.400(실제값 0.400)으로 복원하여, 수치 솔버 없이도 실시간 온디바이스 학습이 실현 가능함을 입증합니다.
산일 시스템을 위한 데이터 기반 이산 시간 딥 순환 신경망 기반 모델링
Data-driven discrete-time deep recurrent neural network-based modeling for dissipative systems
물리 인공지능(Physical AI)은 실세계의 동역학을 더 잘 이해하고 예측하며 제어하는 AI 시스템을 개발하는 데 기여하며 점점 더 많은 주목을 받고 있습니다. 이를 달성하기 위해서는 높은 예측 정확도를 달성할 뿐만 아니라 동역학 시스템의 근본적인 물리적 특성을 보존하는 AI 모델이 필요합니다. 본 논문에서는 구조적 가중치 제약과 전용 학습 알고리즘을 통해 안정성 및 에너지 산일(energy dissipation)과 관련된 핵심 특성인 산일성(dissipativity)을 명시적으로 강제하는 딥 이산 시간 산일 순환 신경망(DissipNet)을 제안합니다. 구조적 설계에 의해, 제안된 신경망은 고유한 안정성을 보존하면서 산일 동역학을 학습할 수 있으며, 이는 랴푸노프 이론(Lyapunov theory)을 사용하여 엄밀하게 분석됩니다. 지배 방정식을 학습 손실에 반영하지만 산일성이나 수동성(passivity)과 같은 내부 해석적 특성의 보존을 보장하지 않는 물리 정보 신경망(PINN)과 달리, 본 접근 방식은 모델 수준에서 안정성에 대한 명시적인 보장을 제공합니다. 우리는 여러 모델링 응용 사례를 통해 제안된 방법의 효과를 입증하고, 나이브 순환 신경망(RNN) 및 PINN 기반 모델과 성능을 비교합니다.
머신러닝을 활용한 재귀적 상태 추정에서 근사 솔버의 수리 가능성
Repairability of Inexact Solvers in Recursive State Estimation with Machine Learning
재귀적 상태 추정은 종종 피드백 루프 안에서 근사적인 수치 해를 실행하며, 국소적으로 매우 정확한 단계가 전체적으로 더 나은 결과를 보장하지는 않는다. 고정된 선형 Kalman 모델에 대해, 규정된 부분공간과 노름 예산 내 보정이 국소 허용 가능성 허용 오차를 충족할 수 있는 조건을 특성화하고, 실제로 실행된 결함이 유한 구간 공분산 응답에 미치는 영향을 분석한다. 구현된 공분산에 대한 정확한 이득(gain)을 중심으로 각 결함을 두면 현재 솔브 오류와 상속된 이득 드리프트를 분리할 수 있다. 정확한 잔차-드리프트 항등식을 전개하면 2차 응답을 넘어 상반되는 4차 기여가 드러난다. 혁신(innovation) 공분산 팽창은 양의 방향으로, 국소 이득 재최적화는 음의 방향으로 작용한다. 일치하는 초기화 하에서, 고정 구간에서 유계 결함 열에 대해 균일한 절대 6차 나머지 상한은 2차 과소 또는 과대 예측에 대한 충분 조건을 제공한다. 머신러닝은 유계 보정을 제안하고, 학습기에 독립적인 잔차 증명서(residual certificate)와 검증된 폴백(fallback)이 기준 추정기를 바꾸지 않은 채 고전 및 양자 후보의 실행을 관장한다. 전력망 허용 오차 연구에서, 학습된 보정은 동일한 잔차 증명서 하에서 보정되지 않은 솔브에 비해 폴백 없이 배포할 때 최소 �共轭梯度(conjugate-gradient) 반복 횟수를 낮춘다. 변분 양자 선형 솔버와 어닐링 기반 이진 인코딩으로 재구성된 이득은 초전도 하드웨어上的 소규모 단말 측정과 양자 어닐러(quantum annealer)上的 샘pling을 거쳐 동일한 인터페이스로 실행된다. 국소 수리 가능성을 비선형 오류 전파와 연결함으로써, 이 프레임워크는 독립적 인증과 유한 구간 응답을 통해 근사 솔버와 학습된 보정을 평가하며, 하이브리드 양자-고전 계산 연구를 위한 실용적 토대를 제공한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.