arXiv:2606.11251v1 cs.LG

Mechanical Field Networks: 다변량 시스템을 위한 구조화된 신경망 역학

Mechanical Field Networks: Structured Neural Dynamics for Multivariate Systems

Xingji Cui

제출 2026-06-08

한국어 초록

많은 다변량 역학 시스템(dynamical systems)은 궤적(trajectories)을 통해서만 관측되며, 이로 인해 결합 역학(joint dynamics)을 지배하는 메커니즘은 숨겨져 있습니다. 기존 접근법은 해석 가능한 역학을 부과하거나 유연한 상태 전이를 학습할 수 있지만, 그 결과로 나타나는 상호작용 구조는 일반적으로 미리 지정되거나 학습된 역학 내에 암묵적으로 남겨집니다. 우리는 모든 변수를 공유 필드 상태(shared field state)로 표현하고 학습된 관계 법칙(relation law)을 통해 이 상태를 업데이트하는 순환 역학 모델(recurrent dynamical model)인 MF-Net을 소개합니다. 각 변수는 필드 성분(field component)을 가지며, 이 성분들은 학습 가능한 역학적 전이(mechanical transition)를 통해 공동으로 진화합니다. 여기서 역학적(mechanical)이라는 용어는 전이의 관계-운동(relation-to-motion) 조직을 의미하며, 학습된 관계는 필드 상태를 앞으로 이동시키는 상태 의존적 흐름(state-dependent flows), 필드 응답(field responses), 운동 경향성(motion tendencies)을 형성합니다. 결과적인 구조는 롤아웃(rollout) 자체의 일부입니다: 학습된 관계는 필드가 이동하는 방식에 영향을 미치며, 동일한 내부 양이 예측(forecasting)과 구조적 리드아웃(structural readout)을 모두 지원합니다. 법칙이 알려진 상호작용 시스템, 혼돈 벤치마크(chaotic benchmarks), 실제 신경 기록, 생태학적 시계열에 걸쳐, MF-Net은 검사 가능한 구조적 리드아웃을 유지하면서 경쟁력 있는 단기 및 중기 예측 성능을 달성합니다. 40차원 Lorenz-96 테스트베드에서 MF-Net은 8단계 $R^2$ 점수 $0.798\pm0.018$을 달성했습니다. 5개의 시드(seed)에 걸쳐, 학습된 관계 행렬은 국소/비국소 강도 비율이 $19.80\pm1.00$이고 정밀도@K(Precision@$K$)가 $1.000\pm0.000$인 국소 결합 지지(local coupling support)를 복원했습니다. MF-Net은 학습된 관계가 순방향 진화(forward evolution)를 통해 훈련되며, 실제 데이터에서는 적절한 관측 한계 하에서 기능적 예측 결합(functional predictive couplings)으로 해석되는 구조 가독형(structure-readable) 역학 모델링 프레임워크를 제공합니다.

원문 초록

Many multivariate dynamical systems are observed only through trajectories, leaving the mechanisms governing their joint dynamics hidden. Existing approaches can impose interpretable dynamics or learn flexible state transitions, yet the resulting interaction structure is typically either specified in advance or left implicit within the learned dynamics. We introduce MF-Net, a recurrent dynamical model that represents all variables in a shared field state and updates this state through a learned relation law. Each variable carries a field component, and these components evolve jointly through a learnable mechanical transition. Here, mechanical refers to the relation-to-motion organization of the transition, where learned relations shape state-dependent flows, field responses, and motion tendencies that move the field state forward. The resulting structure is part of the rollout itself: learned relations influence how the field moves, and the same internal quantities support both forecasting and structural readout. Across known-law interaction systems, chaotic benchmarks, real neural recordings, and ecological time series, MF-Net achieves competitive short- and medium-horizon forecasting while retaining inspectable structural readout. On the 40-dimensional Lorenz--96 testbed, MF-Net achieves an eight-step $R^2$ of $0.798\pm0.018$; across five seeds, its learned relation matrix recovers the local coupling support with a local/nonlocal strength ratio of $19.80\pm1.00$ and Precision@$K$ of $1.000\pm0.000$. MF-Net provides a structure-readable dynamical modeling framework in which learned relations are trained through forward evolution and, on real data, interpreted as functional predictive couplings under appropriate observational limits.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.11251v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.32652v2cs.AI공통 태그 Representation Learning, Time Series Forecasting, dynamical systems

기하학 기반 소프트 상태 추상화의 예측 한계 및 쿱만 폐포

Prediction Limits and Koopman Closure of Geometry-Induced Soft State Abstractions

소프트 상태 표현(soft state representation)은 각 상태에 합이 1인 음이 아닌 클래스 가중치 벡터를 할당합니다. 본 연구에서는 이러한 가중치의 구성과 상태 동역학이 선형 예측의 정확도를 어떻게 공동으로 결정하는지 조사합니다. 고정된 임의의 가측 표현(measurable representation)에 대해, 지정된 스펙트럼 노름(spectral norm) 한계를 가진 행렬들 중 모집단 최소 평균 제곱근 예측 오차에 대한 유한 표본 신뢰 하한을 유도합니다. 이 한계는 각 참조 클래스 내 후속 좌표의 변동과 소프트 입력이 제공할 수 있는 개선 정도를 비교합니다. 또한 예측 행렬을 적합하지 않고도 독립적인 평가 쌍으로부터 계산됩니다. 선택된 허용 오차를 초과하는 한계는 해당 행렬 클래스 전체에 대해 그 허용 오차를 배제하며, 0인 한계는 결론을 내릴 수 없음을 의미합니다. 커널 아핀 헐 머신(Kernel Affine Hull Machines)을 사용하여 구성된 좌표의 경우, 재구성 점수 마진이 참조 라벨과의 불일치를 제어하며 예측 오차 한계에 반영됩니다. 정확한 결정론적 선형 진화 하에서, 잉여 계수 벡터를 고려하여 쿱만(Koopman) 및 재생핵 힐베르트 공간(RKHS) 수반 해석도 확립합니다. 4개 상태 연구에서는 보고된 117,000개의 복제 데이터셋에 걸쳐 신뢰 하한을 해석적으로 알려진 최적값과 비교합니다. 그런 다음 파일럿 데이터에서 선택된 반데르폴(Van der Pol) 표현을 두 가지 전이 법칙 각각에 대해 32개의 독립적인 데이터셋에서 평가합니다. 보고된 한계는 적합된 행렬 노름에서는 양수이지만, 더 큰 노름 한계에서는 0이 될 수 있습니다. 추가적인 예측 연구를 통해 좌표 변동, 공통 예측 목표, 장기 시계(long-horizon) 오차를 검토합니다. 이러한 결과는 재구성 클래스와의 일치도, 달성 가능한 예측 정확도, 정확한 연산자 폐포(operator closure)를 구별합니다.

arXiv:2610.10850v2cs.LG공통 태그 Representation Learning, Time Series Analysis

유사한 예측 적합도와 상이한 잠재 동역학: 뇌 질환 맞춤형 모델에서 학습된 동역학적 구조 특성화

Similar Predictive Fit but Different Latent Dynamics: Characterizing Learned Dynamical Structure in Personalized Models of Brain Disorders

AI 모델이 임상 의사결정 및 맞춤형 치료로 나아감에 따라, 모델이 무엇을 학습하는지 이해하는 것은 단순한 예측 정확도를 넘어 매우 중요합니다. 본 연구에서는 예측 적합도가 유사하더라도 개인화된 잠재 동역학(latent dynamics)이 임상적으로 연관된 차이를 드러내는지 조사합니다. Temple University EEG Corpus(TUEG)로 사전학습된 경량 CNN-트랜스포머(Transformer) 뇌파(EEG) 파운데이션 모델을 사용하여 세그먼트 수준의 표현을 추출합니다. Temple University Epilepsy Corpus(TUEP)를 활용하여 표현들을 공유 잠재 상태 공간으로 매핑하고, 각 피험자에게 독립적으로 희소 다항 로지스틱 전이 분포(mLTD)를 적합하여 개인화된 전이 의존성 그래프 $W_n$을 얻습니다. 분석 대상은 $n{=}198$명의 피험자(뇌전증 99명 / 비뇌전증 99명)입니다. $k{=}4$에서 뇌전증 피험자는 훨씬 더 조밀한 학습된 의존성 구조를 나타내며($p{=}1.1\times10^{-7}$), $k{=}6$에서도 동일한 패턴을 보입니다(19.90 대 13.46; $p{=}5.2\times10^{-5}$). 그래프 유래 특징들은 5-겹 피험자별 교차 검증(cross-validation) 하에서 중간 수준의 집단 구별 능력을 제공합니다($k{=}4$에서 AUROC 0.68; $k{=}6$에서 0.65). 대조적으로, 홀드아웃 로그 가능도(log-likelihood)는 $k{=}4$에서 두 집단 간에 거의 동일하며($-0.992$ 대 $-0.991$; $p{=}0.95$), 다음 상태 예측 역시 유사하게 일치합니다(AUROC 0.855 대 0.861; $p{=}0.54$). 따라서 유사한 예측 적합도가 유사한 학습 동역학을 의미하지는 않습니다. 즉, 개인화된 모델이 학습한 내부 동역학 구조에는 상당한 차이가 있더라도, 두 집단은 대등한 수준으로 예측 가능할 수 있습니다. 이러한 차이는 개인화된 임상 모델에서 예측 성능과 함께 학습된 구조를 평가해야 할 필요성을 시사합니다.

arXiv:2610.15760v1cs.LG공통 태그 Time Series Analysis, Time Series Forecasting

학습 가능한 분해 및 다양체 역학을 활용한 쌍곡 시계열 예측

Hyperbolic Time Series Forecasting with Learnable Decomposition and Manifold Dynamics

다중 스케일(multiscale) 구조는 시계열 예측의 핵심입니다. 시간 신호는 천천히 변화하는 트렌드, 중간 수준의 계절적 패턴, 그리고 고주파수 잔차를 포함합니다. 기존 예측 모델은 이러한 다중 스케일 구조를 유클리드 공간에서 모델링하여, 구성 요소들 사이에 유도되는 순서를 표현하지 못합니다. 본 연구에서는 종속 분해(cascaded decomposition)가 구성 요소들을 고유 주파수에 따라 정렬하여 자연스러운 주파수 계층을 형성함을 확인했습니다. 이 계층 구조는 반경에 따라 표현 용량이 증가하고 중첩된 계층 구조를 자연스럽게 수용하는 쌍곡 공간(hyperbolic space)의 지수적 부피 증가 특성과 잘 부합합니다. 이에 따라 본 연구에서는 쌍곡 공간에서 작동하는 최초의 장기 시계열 예측(LTSF) 프레임워크인 HyperForecast를 제안합니다. HyperForecast는 원점 근처의 저주파수 성분부터 경계 근처의 고주파수 성분에 이르기까지 반지름 거리가 이러한 중첩 구조를 포착하도록, 분해된 시간 구간을 푸앵카레 공(Poincaré ball) 위에 임베딩합니다. 또한 측지선 속도(geodesic velocity)를 두 가지 다양체 역학(manifold dynamics) 변형을 통해 모델링합니다: (a) 푸앵카레 잔차 역학을 통한 자기회귀 예측, (b) 모든 미래 구간을 병렬로 예측하는 비자기회귀 예측입니다. HyperForecast는 11개 장기 예측 벤치마크 중 9개에서 기존 및 최고 수준(SOTA)의 베이스라인 모델을 일관되게 능가하며, 긴 예측 구간에서 평균 제곱 오차(MSE)를 최대 58%까지 낮췄습니다. 추가 분석을 통해 학습된 반경 임베딩이 주파수 계층을 성공적으로 복원하며, 쌍곡 기하학이 예측 성능에 실질적으로 기여함을 밝혔습니다.

arXiv:2610.13435v1cs.LG공통 태그 Representation Learning, Time Series Analysis

PPG-Bench: PPG 파운데이션 모델을 위한 통합 벤치마크

PPG-Bench: A Unified Benchmark for PPG Foundation Models

광용적맥파(Photoplethysmography, PPG)는 웨어러블 및 임상 기기에서 점점 더 대규모로 기록되고 있으며, 다양한 다운스트림 작업을 위한 재사용 가능한 표현을 계산하기 위해 점점 더 많은 PPG 파운데이션 모델(FM)이 개발되고 있다. 이러한 모델들은 서로 비교하기 어려운데, 평가마다 서로 다른 데이터셋, 작업 정의, 전처리, 다운스트림 헤드, 하이퍼파라미터 튜닝, 기준선을 사용하기 때문이다. 우리는 5개의 공개 PPG FM을 9개의 오픈 액세스 데이터셋과 심혈관 상태 추정, 활동, 수면, 스크리닝, 식별에 걸친 26개 작업에 대해 평가하는 통합 오픈소스 벤치마크인 PPG-Bench를 제시한다. 우리는 적응성이 점차 증가하는 네 가지 다운스트림 체제(선형 프로빙, 랜덤 포레스트, 고정된 MLP 프로브, 엔드-투-엔드 파인튜닝) 하에서 모델별 하이퍼파라미터 최적화와 피험자 분리 교차검증을 적용하여 모델을 평가한다. 우리는 또한 세 가지 대조군, 즉 무작위/상수 기준선, 결정론적 맥박률 변동성(pulse-rate-variability, PRV) 특징 집합, 범용 시계열 FM(MOMENT)과 비교하여 평가한다. 68개의 작업-체제 조합 전체에서 35.3%는 무작위/상수 기준선 대비 FM의 유의미한 이점을 보이지 않았으며, 83.8%에서는 어떤 PPG 전용 FM도 PRV와 MOMENT를 모두 능가하지 못했다. 또한 다운스트림 헤드의 용량을 추가하면 일반적으로 성능이 향상되지만, 모델이 무작위 수준/상수 수준에서 동작하는 경우에는 상당한 성능 저하를 유발할 수 있음을 발견했다. 따라서 현재의 PPG FM은 아직 PPG 신호에 대한 일반화되고 전이 가능한 표현을 제공한다고 주장할 수 없으며, 이 분야의 향후 평가에는 단순하고 학습되지 않은 대조군에 대한 검증이 포함되어야 한다. 벤치마크 코드와 추가 모델 평가 방법은 다음에서 확인할 수 있다 - https://github.com/mannas-ai/ppg-bench.

arXiv:2610.13676v1cs.LG공통 태그 Time Series Analysis, Time Series Forecasting

공변량 기반 시계열 파운데이션 모델에서의 캘린더 특성 인코딩에 관하여

On the Encoding of Calendar Features in Covariate-Informed Time Series Foundation Models

시계열 파운데이션 모델(TSFM)은 점점 더 공변량 지원을 제공하고 있으며, 캘린더 정보는 모든 시점에서 이용 가능하다는 점에서 실제로 가장 흔한 유형의 범주형 공변량이다. 그러나 이러한 특성이 어떻게 인코딩되는지는 사전학습된 모델이 추론 시점에 남겨둔 몇 가지 설계 선택 중 하나임에도 불구하고, 연구 대상이 아니라 구현상의 세부사항으로 취급되는 경우가 많다. 본 연구에서는 정보가 모델에 전달되는 방식이 TSFM의 예측 정확도에 상당한 영향을 미친다는 것을 보인다. 이를 위해 우리는 세 가지 전통적인 타겟 비의존적(target-agnostic) 표현(순서형, 원-핫, 주기형)과 네 가지 타겟 인코딩을 포함한 일곱 가지 캘린더 인코딩을, 여러 도메인의 9개 데이터셋에 대해 네 가지 최신 TSFM을 대상으로 제로샷 롤링 평가에서 체계적으로 비교한다. 이 9개 데이터셋은 주말과 공휴일과 같은 사회적 활동의 영향을 받으므로, 캘린더 정보가 예측에 특히 중요하다. 우리는 인코딩 선택이 모든 모델에서 예측 정확도에 영향을 미치며, 단일 모델 내에서 비공휴일에는 최대 9.9%, 공휴일에는 최대 83%의 MASE 차이가 발생함을 확인했다. 효과와 활용도는 모델 간에 상당히 다르다. 개선은 주로 공휴일 주변에 집중되는데, 이는 캘린더 정보가 타겟 이력(target history)으로부터는 얻을 수 없는 신호를 제공하기 때문이며, 일부 모델-인코딩 조합은 비공휴일 예측도 개선시킨다. SHAP 기반 기여도 분석은 자기회귀 성분에 대한 공변량의 기여를 규명하고, 일부 모델-인코딩 조합이 성능을 저하시키는 이유를 설명한다. 우리의 연구 결과는 공변량 기반 TSFM을 위한 현재의 벤치마크가 고정된 인코딩 전략을 강제함으로써 모델 비교를 왜곡할 수 있음을 시사한다.

arXiv:2609.30995v2cs.LG공통 태그 Representation Learning, Time Series Forecasting

기후 모델에서 강제력이 기온에 미치는 영향에 대한 계층적 인과 표상 학습

Learning Hierarchical Causal Representations of the Effects of Forcings on Temperature in Climate Models

머신러닝(ML) 에뮬레이터는 지구 시스템 모델(Earth System Models) 예측을 기반으로 학습(training)된 후 기후 변화 시나리오를 시뮬레이션할 수 있는 빠르고 비용 효율적인 방법을 제공합니다. 그러나 이러한 데이터 주도적 접근 방식의 블랙박스 특성은 출력값의 사용성과 신뢰성을 제한하며, 특히 인과적 귀인(causal attribution) 도구로서의 활용을 제한합니다. 본 연구에서는 최첨단 전지구 기후 모델의 해수면 온도 장에 적용되는 계층적 인과 표상 학습(hierarchical causal representation learning) 프레임워크를 개발합니다. 이전 연구 대비 주요 진보로서, 본 프레임워크는 내부 기후 변동성에서 발생하는 대기 역학적 상호작용과 대기 중 온실가스 및 에어로졸 농도 변화로 인한 강제 반응(forced responses)을 모두 명시적으로 모델링합니다. 미래 기후 변화 시나리오로 학습했을 때, 본 방법은 장기 전지구 평균 및 지역 기온 변화를 정확하게 예측하며, 미확인 시나리오에 대해 평가(evaluation)했을 때 온실가스 및 에어로졸 농도 섭동에 대해 물리적으로 현실적인 반응을 보여줍니다. 본 연구 결과는 기후 모델 에뮬레이션을 발전시키는 데 있어 인과 표상 학습 프레임워크의 잠재력을 강조합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.