arXiv:2407.02641

Learning Graph Structures and Uncertainty for Accurate and Calibrated Time-series Forecasting

Harshavardhan Kamarthi, Lingkai Kong, Alexander Rodriguez, Chao Zhang, B Aditya Prakash

제출 2024-07-02

원문 초록

Multi-variate time series forecasting is an important problem with a wide range of applications. Recent works model the relations between time-series as graphs and have shown that propagating information over the relation graph can improve time series forecasting. However, in many cases, relational information is not available or is noisy and reliable. Moreover, most works ignore the underlying uncertainty of time-series both for structure learning and deriving the forecasts resulting in the structure not capturing the uncertainty resulting in forecast distributions with poor uncertainty estimates. We tackle this challenge and introduce STOIC, that leverages stochastic correlations between time-series to learn underlying structure between time-series and to provide well-calibrated and accurate forecasts. Over a wide-range of benchmark datasets STOIC provides around 16% more accurate and 14% better-calibrated forecasts. STOIC also shows better adaptation to noise in data during inference and captures important and useful relational information in various benchmarks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2506.10630cs.LG공통 태그 Time Series, Time Series Forecasting공식 코드 · Papers with Code

Time Series Forecasting as Reasoning: A Slow-Thinking Approach with Reinforced LLMs

시간 시계열 예측(Time Series Forecasting, TSF)을 발전시키기 위해, 예측 정확도를 향상시키기 위한 다양한 방법이 제안되었으며, 이는 통계 기법에서 데이터 기반의 심층 학습 아키텍처로 발전해왔습니다. 이러한 방법들이 효과적임에도 불구하고, 대부분의 기존 방법은 여전히 빠른 사고 패러다임에 의존하고 있으며, 이는 역사적 패턴을 추출하고 이를 미래 값에 매핑하는 것을 핵심 모델링 철학으로 삼고 있어 중간 시간 시계열 추론을 포함한 명시적인 사고 과정을 결여하고 있습니다. 한편, 새로운 느린 사고 대규모 언어 모델(LLM)들(예: OpenAI-o1)은 놀라운 다단계 추론 능력을 보여주며, 이러한 문제를 극복할 수 있는 대안을 제공합니다. 그러나 프롬프트 엔지니어링만으로는 높은 계산 비용, 개인 정보 위험, 그리고 심층 도메인 특화된 시간 시계열 추론에 대한 제한된 능력 등 여러 가지 한계가 존재합니다. 이러한 한계를 해결하기 위해, LLM이 느린 사고 능력을 개발하고 강력한 시간 시계열 추론 기술을 습득하도록 훈련하는 것이 더 유망한 접근 방식입니다. 이를 위해, 우리는 시간 시계열 예측을 위한 LLM의 다단계 추론 능력을 향상시키기 위해 설계된 두 단계 강화 파인튜닝 프레임워크인 Time-R1을 제안합니다. 구체적으로, 첫 번째 단계에서는 워밍업 적응을 위한 감독된 파인튜닝을 수행하고, 두 번째 단계에서는 모델의 일반화 능력을 향상시키기 위해 강화 학습을 적용합니다. 특히, 우리는 시간 시계열 예측을 위해 특별히 설계된 세분화된 다목적 보상을 설계하고, 비균일 샘플링을 활용하여 모델의 효과적인 추론 경로 탐색을 더욱 장려하고 최적화하는 GRIP(정책 최적화를 위한 그룹 기반 상대 중요도)를 도입합니다. 실험 결과, Time-R1은 다양한 데이터셋에서 예측 성능을 크게 향상시키는 것으로 나타났습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.