arXiv:2406.04777

Modeling Temporal Dependencies within the Target for Long-Term Time Series Forecasting

Qi Xiong, Kai Tang, Minbo Ma, Ji Zhang, Jie Xu, Tianrui Li

제출 2024-06-07

원문 초록

Long-term time series forecasting (LTSF) is a critical task across diverse domains. Despite significant advancements in LTSF research, we identify a performance bottleneck in existing LTSF methods caused by the inadequate modeling of Temporal Dependencies within the Target (TDT). To address this issue, we propose a novel and generic temporal modeling framework, Temporal Dependency Alignment (TDAlign), that equips existing LTSF methods with TDT learning capabilities. TDAlign introduces two key innovations: 1) a loss function that aligns the change values between adjacent time steps in the predictions with those in the target, ensuring consistency with variation patterns, and 2) an adaptive loss balancing strategy that seamlessly integrates the new loss function with existing LTSF methods without introducing additional learnable parameters. As a plug-and-play framework, TDAlign enhances existing methods with minimal computational overhead, featuring only linear time complexity and constant space complexity relative to the prediction length. Extensive experiments on six strong LTSF baselines across seven real-world datasets demonstrate the effectiveness and flexibility of TDAlign. On average, TDAlign reduces baseline prediction errors by \textbf{1.47\%} to \textbf{9.19\%} and change value errors by \textbf{4.57\%} to \textbf{15.78\%}, highlighting its substantial performance improvements.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2506.10630cs.LG공통 태그 Time Series, Time Series Forecasting공식 코드 · Papers with Code

Time Series Forecasting as Reasoning: A Slow-Thinking Approach with Reinforced LLMs

시간 시계열 예측(Time Series Forecasting, TSF)을 발전시키기 위해, 예측 정확도를 향상시키기 위한 다양한 방법이 제안되었으며, 이는 통계 기법에서 데이터 기반의 심층 학습 아키텍처로 발전해왔습니다. 이러한 방법들이 효과적임에도 불구하고, 대부분의 기존 방법은 여전히 빠른 사고 패러다임에 의존하고 있으며, 이는 역사적 패턴을 추출하고 이를 미래 값에 매핑하는 것을 핵심 모델링 철학으로 삼고 있어 중간 시간 시계열 추론을 포함한 명시적인 사고 과정을 결여하고 있습니다. 한편, 새로운 느린 사고 대규모 언어 모델(LLM)들(예: OpenAI-o1)은 놀라운 다단계 추론 능력을 보여주며, 이러한 문제를 극복할 수 있는 대안을 제공합니다. 그러나 프롬프트 엔지니어링만으로는 높은 계산 비용, 개인 정보 위험, 그리고 심층 도메인 특화된 시간 시계열 추론에 대한 제한된 능력 등 여러 가지 한계가 존재합니다. 이러한 한계를 해결하기 위해, LLM이 느린 사고 능력을 개발하고 강력한 시간 시계열 추론 기술을 습득하도록 훈련하는 것이 더 유망한 접근 방식입니다. 이를 위해, 우리는 시간 시계열 예측을 위한 LLM의 다단계 추론 능력을 향상시키기 위해 설계된 두 단계 강화 파인튜닝 프레임워크인 Time-R1을 제안합니다. 구체적으로, 첫 번째 단계에서는 워밍업 적응을 위한 감독된 파인튜닝을 수행하고, 두 번째 단계에서는 모델의 일반화 능력을 향상시키기 위해 강화 학습을 적용합니다. 특히, 우리는 시간 시계열 예측을 위해 특별히 설계된 세분화된 다목적 보상을 설계하고, 비균일 샘플링을 활용하여 모델의 효과적인 추론 경로 탐색을 더욱 장려하고 최적화하는 GRIP(정책 최적화를 위한 그룹 기반 상대 중요도)를 도입합니다. 실험 결과, Time-R1은 다양한 데이터셋에서 예측 성능을 크게 향상시키는 것으로 나타났습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.