PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.26421v2cs.LG

Otter Weather: 숙련되고 계산 효율적인 중기 기상 예측

Otter Weather: Skillful and Computationally Efficient Medium-Range Weather Forecasting

State-of-the-art medium-range AI weather models can outperform traditional Numerical Weather Prediction (NWP) but require massive training budgets. This restricts usage for under-resourced groups and severely limits fast model iteration. Here we develop Otter Weather, a highly efficient spatiotemporal forecasting model designed to democratise high-performance weather prediction with AI. Evaluated on ERA5 reanalysis data at 1.5{\deg} resolution using standard WeatherBench protocols, the Otter family significantly advances the skill-compute Pareto frontier. The deterministic version outperforms the best NWP baseline by 9.6% at a 24-hour lead time while requiring fewer than 3.5 A100-days for training. It provides a 2x efficiency gain over lightweight AI models and a 100-fold reduction in compute compared to resource-intensive frontier architectures. We extend these efficiency gains into probabilistic forecasting by training via the Continuous Ranked Probability Score (CRPS). Scaling to a larger architecture, Otter-XL achieves a 9.7% CRPS improvement over the IFS ENS baseline. This yields an almost two-fold increase in predictive skill over comparable lightweight models at similar compute budgets. Otter-XL also outperforms frontier architectures like GenCast by over 2%, while using an order of magnitude less compute. Finally, Otter is applied out-of-the-box to a complex acoustic scattering PDE task where it outperforms a state-of-the-art foundation modelling approach, suggesting that the advances made here might apply across a range of scientific domains.

arXiv:2605.25554v2cs.AI

PHGNet: 이종 시공간 예측을 위한 프로토타입 기반 초그래프 구축

PHGNet: Prototype-Guided Hypergraph Construction for Heterogeneous Spatiotemporal Forecasting

지능형 교통 시스템의 핵심 과제인 교통량 예측은 도시 교통 관리에서 결정적인 역할을 수행합니다. 정확한 교통량 예측은 복잡한 시공간적 의존성을 모델링하는 데 의존하지만, 교통 시스템 고유의 공간적 이질성으로 인해 이는 본질적으로 어려운 문제입니다. 상당한 발전에도 불구하고, 대부분의 기존 방법들은 여전히 쌍별(pairwise) 공간 의존성 모델링에 국한되어 있어 유사한 교통 패턴을 가진 노드 간의 동적인 고차 상호작용을 포착하기 어렵습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 프로토타입 기반 초그래프(hypergraph) 구축에 기반한 새로운 시공간 예측 프레임워크인 PHGNet을 제안합니다. PHGNet의 핵심에서는 패턴이 유사한 노드들을 하이퍼에지에 적응적으로 할당하여 시간에 따라 변하는 구조를 가진 고차 상호작용을 포착하도록 프로토타입 학습 메커니즘을 설계했습니다. 동적 초그래프 구축의 신뢰성을 향상시키기 위해, 시간 일관적인 특징을 추출하는 글로벌-로컬 노드 표현 모듈을 추가로 개발했습니다. 예측 단계에서는 효율적인 병렬 디코딩을 지원하면서도 예측 정확도를 높이기 위해 반복적 잔차 정제(iterative residual refinement)와 시간 쿼리 어텐션(Temporal Query Attention)을 도입했습니다. 여러 실제 데이터셋을 활용한 광범위한 실험을 통해 PHGNet이 최신 기법들(state-of-the-art)에 비해 우수한 예측 성능을 달성함을 입증했습니다.

arXiv:2608.20980v2cs.LG

시공간 예측 벤치마크 데이터셋 및 모델에 대한 비판적 감사

A Critical Audit of Spatiotemporal Forecasting Benchmark Datasets and Models

그래프 신경망(GNN)은 시공간 예측(spatiotemporal forecasting)에 일상적으로 활용되고 있으나, 널리 사용되는 벤치마크 데이터셋 전반에서 일관되지 않은 성능을 보입니다. 본 연구에서는 벤치마크의 품질과 이로부터 도출된 결론의 강건성(robustness)을 평가하기 위해 데이터셋 특성과 기준선 모델에 대한 감사를 수행합니다. 고전 통계 도구를 활용하여 벤치마크 내 시공간 시차 의존성(spatiotemporal lagged dependencies)을 특성화하고, 시간 차분(temporal differencing)이 이러한 관계를 어떻게 변화시키며 모델 순위에 어떠한 영향을 미치는지 조사합니다. 이를 바탕으로 시간 선형 기준선을 재평가한 결과, 여러 벤치마크에서 GNN의 겉보기 성능 향상이 크게 감소했으며 다른 벤치마크에서는 GNN을 능가하기도 했습니다. GNN이 선형적인 노드별 신호를 추출하는 데 어려움을 겪는다는 점에 착안하여, 자기회귀 잔차(autoregressive residuals)를 공급했을 때 특히 비교통(non-traffic) 벤치마크에서 GNN의 성능이 향상됨을 확인했습니다. 마지막으로 통제된 합성 실험을 통해 GNN이 시간적 역학(temporal dynamics)과 공간 그래프 상호작용의 이질성에 민감하다는 점을 밝혔습니다. 종합적으로 본 연구 결과는 기준선 설정, 데이터 전처리, 시스템 이질성이 벤치마크 순위에서 도출되는 해석을 좌우함을 입증하며, 향후 GNN의 설계와 강건한 평가를 위한 통찰을 제공합니다.

arXiv:2605.03795v3cs.LG

GraphSVR: 강건한 시공간 대기 오염 예측을 위한 그래프 컨볼루션 서포트 벡터 회귀 프레임워크

GraphSVR: A Graph Convolutional Support Vector Regression Framework for Robust Spatiotemporal Air Pollution Forecasting

그래프 컨볼루션 학습으로 관측소 간 공간 의존성을 포착하고 서포트 벡터 회귀(SVR)로 비선형 시간 역학과 이상치에 강건하게 모델링하는 GraphSVR 프레임워크를 제안해 도시 대기 오염의 시공간 예측을 수행한다. 인도 델리·뭄바이 CPCB 데이터에서 기존 벤치마크 대비 예측 정확도와 계절·이상 오염 구간에서의 안정성을 개선했으며, 컨포멀 예측(conformal prediction)을 결합해 보정된 예측 구간을 제공한다.

arXiv:2606.25201v1cs.LG

FDN: Interpretable Spatiotemporal Forecasting with Future Decomposition Networks

Spatiotemporal systems comprise a collection of spatially distributed yet interdependent entities each generating unique dynamic signals. Highly sophisticated methods have been proposed in recent years delivering state-of-the-art (SOTA) forecasts but few have focused on interpretability. To address this, we propose the Future Decomposition Network (FDN), a novel forecast model capable of (a) providing interpretable predictions through classification (b) revealing latent activity patterns in the target time-series and (c) delivering forecasts competitive with SOTA methods at a fraction of their memory and runtime cost. We conduct comprehensive analyses on FDN for multiple datasets from hydrologic, traffic, and energy systems, demonstrating its improved accuracy and interpretability.

arXiv:2603.11909v2cs.LG

확률적 시계열 및 시공간 예측을 위한 심층 생성형 트랜스포머

Deep Generative Transformers for Probabilistic Time Series and Spatiotemporal Forecasting

다변량·시공간 예측에서 모수적 우도나 분위수 목적의 한계를 넘기 위해, 트랜스포머와 engression(조건부 분포를 위한 확률적 학습)을 결합한 Enformer와 시공간 확장 GEnformer를 제안하며 확률적 노이즈 주입과 엄밀 적정 점수 최적화로 조건부 예측 분포를 직접 학습한다. 다변량 벤치마크와 전염병 시공간 데이터셋에서 보정된 확률 예측을 제공하며 최첨단 기준선을 지속적으로 능가하고, Enformer는 동일 구성의 결정론적 트랜스포머 대비 점근적으로 상수 배수 오버헤드만 추가한다.

arXiv:2606.22171v1cs.LG

시계열을 넘어: 다중모드 학습을 통한 유행병 예측의 공간적 추론

Beyond Time Series: Spatial Reasoning for Epidemic Forecasting via Multimodal Learning

유행병 예측 모델은 일반적으로 행정 구역 단위로 보고된 감시(surveillance) 데이터에 의존하며, 이를 원자적 단위로 취급함으로써 질병 역학을 형성하는 하위 지역 수준의 공간 구조를 가립니다. 우리는 지역 수준의 시간적 감시 데이터와 해상도 및 구조 면에서 정렬되지 않은(misaligned) 공간적으로 국한된 보조 신호를 통합하는, 공간적으로 구조화된 다중모드 유행병 예측 설정을 제안합니다. 이는 현실적인 공중보건 보고 제약을 반영합니다. 이 공식화를 바탕으로, 우리는 M-SPICE(Multimodal SPatIal Context for Epidemic Forecasting, 유행병 예측을 위한 다중모드 공간 맥락)를 제안합니다. M-SPICE는 시간적 질병 역학과 공간 맥락에 대해 어텐션 기반 다중모드 융합을 통해 결합 추론을 수행하는 구조 인식 시공간 예측 프레임워크로, 공간 신호가 예측 구간 전반에 걸쳐 시간적 표현을 선택적으로 조건화할 수 있게 합니다. 우리는 현실적인 실시간 평가 프로토콜 하에서 COVID-19, 인플루엔자, 인플루엔자 유사 질환(ILI) 예측 과제에 대해 본 접근법을 평가합니다. 모든 예측 설정에서 본 방법은 최신 다변량 시계열, 다중모드, 역학 예측 기준선들을 일관되게 능가하면서 강력한 확률적 예측 성능을 유지합니다. 마지막으로, 해석 가능성 분석을 통해 공간 신호가 언제, 어디서, 어떻게 활용되는지 밝혀 내어, 순수하게 시간적이고 지역 집계된 모델이 가장 실패하기 쉬운 설정을 강조합니다.

arXiv:2606.17070v1physics.ao-ph

KFTD: 연속 해양 시공간 예측을 위한 쿠프만-푸리에 시간 미분 가능 네트워크 (Koopman-Fourier Time-Differentiable Network)

KFTD: Koopman-Fourier Time-Differentiable Network for Continuous Ocean Spatiotemporal Forecasting

정확한 해양 예측은 기후 모니터링과 재해 조기 경보에 중요합니다. 그러나 해양 시공간 예측은 복잡한 동적 시스템 모델링과 계산 효율성 확보라는 이중적인 과제에 직면해 있습니다. 우리는 효율적이고 확장 가능한 시공간 모델링을 위해 보간(interpolation)과 예측(prediction)을 분리하는 시간 연속(time continuous) 2단계 패러다임인 KFTD(Koopman Fourier Time-Differentiable) 네트워크를 제안합니다. 복잡한 비선형 동역학을 쿠프만(Koopman) 선형 공간으로 매핑하고 푸리에 분석(Fourier analysis)을 활용하여 임의의 하위 단계(sub-steps)에서 시간 연속 보간을 가능하게 합니다. 경량 잔차 네트워크(residual network)가 고충실도(high fidelity) 중간 상태를 사용하여 최종 예측을 생성합니다. 디퓨전 모델(diffusion models)과 달리, KFTD는 다단계 노이즈 샘플링(multi step noise sampling)을 제거하고 시간 연속적으로 시스템을 직접 진화시켜 4배의 계산 속도 향상을 달성합니다. 또한, 엔드투엔드(end-to-end) 방식으로 임의의 PDE 제약 조건을 지원하는 DPP 손실(DPP Loss)을 도입하여 순수 데이터 기반 접근 방식의 물리적 일관성 병목 현상을 해결합니다. 4개의 해양 데이터셋에 대한 실험 결과, 우리의 시간 연속 프레임워크가 평균 5.6%의 MSE(Mean Squared Error)를 감소시켰으며(SST의 경우 최대 12.7%), MCVD 대비 효율성을 76.25% 향상시킴을 확인했습니다.

arXiv:2606.12141v1cs.LG

동해의 고해상도 해수면 온도 예측을 위한 PCA 강화 적응형 NVAR 프레임워크

PCA-Enhanced Adaptive NVAR Framework for High-Resolution Sea Surface Temperature Forecasting in the East Sea

동해와 같은 지역 해역에서의 정확한 해수면 온도(SST) 예측은 해양 생태계 모니터링, 기후 위험 평가, 수산업 관리 및 해군 작전 수행에 필수적입니다. 기존의 수치 해양 모델은 신뢰할 수 있는 예측을 제공하지만 연산 비용이 높아 실시간 예측에 종종 부적합합니다. 또한 많은 심층 학습(deep learning) 방법들은 고차원 시공간 해양 데이터를 처리하는 데 어려움을 겪으며, 예측 기간이 길어질수록 오류가 누적되는 문제를 겪습니다. 본 연구는 합성 동역학 시스템(synthetic dynamical systems)에서 처음 소개되고 테스트되었던 기존의 적응형 차세대 리저버 컴퓨팅(Adaptive Next-Generation Reservoir Computing, Adaptive NVAR) 프레임워크를 기반으로 하여, 이를 해양 예측으로 확장했습니다. 동해의 해수면 온도(SST) 동역학을 예측하기 위해 특이값 분해(Singular Value Decomposition, SVD)와 Adaptive NVAR을 결합한 차수 축소(reduced-order) 예측 프레임워크를 제시합니다. SVD를 사용하여 해수면 온도(SST) 필드를 해양 변동성의 지배적인 모드를 추출하는 저차원 표현으로 압축합니다. Adaptive NVAR은 이러한 잠재 상태(latent states)의 시간적 진화를 모델링하며, 예측된 상태는 해수면 온도(SST) 예측으로 재구성됩니다. 지역 해양 데이터셋(dataset)을 사용하여 해당 프레임워크를 평가하고 표준 NG-RC/NVAR와 비교했습니다. 결과에 따르면 Adaptive NVAR은 다양한 예측 지평선(prediction horizon)에서 일관되게 더 낮은 예측 오류를 달성했습니다. 또한, SVD는 계산 복잡도를 낮추어 실시간 해양 예측에 적합한 빠르고 확장 가능한(scalable) 프레임워크를 구현합니다.