DiTS: 멀티모달 디퓨전 트랜스포머는 시계열 예측기이다
DiTS: Multimodal Diffusion Transformers Are Time Series Forecasters
한국어 초록
생성 모델링은 확률론적 시계열 예측을 용이하게 하지만, 이종의 외생적 정보(exogenous information)를 통합하는 것은 여전히 어려운 과제로 남아 있습니다. 디퓨전 트랜스포머(DiT, Diffusion Transformers)는 조건부 생성을 위한 확장 가능한 프레임워크를 제공하지만, 이를 예측 작업에 적용하려면 시계열에 맞춤화된 조건화 메커니즘이 필요합니다. 내생적 목표(endogenous targets)와 외생적 공변량(exogenous covariates)은 출처, 의미론적 특성, 통계적 특성이 서로 다르지만, 세밀한 조건부 유도를 지원하는 시간 좌표를 공유합니다. 공변량은 직접적인 회귀가 목표로 하는 조건부 평균을 넘어 미래 변동성과 시간적 의존성을 설명할 수 있습니다. 이러한 점에 착안하여, 본 논문에서는 공변량을 인식하는 예측을 위한 멀티모달 디퓨전 트랜스포머인 시계열용 디퓨전 트랜스포머(DiTS, Diffusion Transformers for Time Series)를 제안합니다. DiTS는 내생적 목표와 외생적 공변량을 서로 다른 모달리티로 모델링하며, 목표의 과거 이력과 가용한 공변량을 바탕으로 미래 생성을 공동으로 조건화합니다. 흐름 매칭(flow matching)은 노이즈가 포함된 미래 상태를 조건으로 하는 속도 예측과 공변량 의존적인 분포 정보가 유의미하게 연계되도록 만듭니다. 또한 시간 정렬 사전확률(temporal-alignment prior)을 바탕으로 AdaLN을 확장하여, 정렬된 공변량과 디퓨전 시간으로부터 패치 단위 변조 파라미터를 생성하는 시간 정렬 변조(Time-aligned Modulation)를 도입합니다. 다양한 공변량 인식 예측 태스크 전반에서 DiTS는 결정론적 예측과 확률론적 예측 모두에서 강력한 성능을 달성하여, 점 예측(point forecasting) 및 분포 예측(distributional forecasting) 모두에서 조건부 생성의 효과성을 입증합니다.
원문 초록
While generative modeling facilitates probabilistic time series forecasting, incorporating heterogeneous exogenous information remains challenging. Diffusion Transformers (DiT) provide a scalable framework for conditional generation, yet their adaptation to forecasting calls for conditioning mechanisms tailored to time series. Endogenous targets and exogenous covariates differ in sources, semantics, and statistical characteristics, while sharing temporal coordinates that support fine-grained conditional guidance. Covariates can describe future variability and temporal dependence beyond the conditional mean targeted by direct regression. Motivated by these considerations, we propose Diffusion Transformers for Time Series (DiTS), a Multimodal Diffusion Transformer for covariate-aware forecasting. DiTS models endogenous targets and exogenous covariates as distinct modalities, jointly conditioning future generation on target history and available covariates. Flow matching makes covariate-dependent distributional information relevant to velocity prediction conditioned on noisy future states. We introduce Time-aligned Modulation, extending AdaLN with the temporal-alignment prior to generate patch-wise modulation parameters from aligned covariates and diffusion time. Across diverse covariate-aware forecasting tasks, DiTS achieves strong performance in both deterministic and probabilistic forecasting, demonstrating the effectiveness of conditional generation for both point and distributional forecasting.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
평가 선택이 예측 리더보드를 결정한다: 실제 운영 마켓플레이스 패널로부터의 증거
Evaluation Choices Decide the Forecasting Leaderboard: Evidence from a Production Marketplace Panel
예측 벤치마크는 어떤 방법이 이겼는지를 보고한다. 우리는 그 답이 모델을 학습하기도 전에 평가자의 선택에 의해 정해진다는 점을 보인다. 우리는 2025년대의 시계열 파운데이션 모델(time series foundation model) 6종을 포함한 24가지 예측 방법과 교과서적 기준 방법 하나를, 67개월에 걸친 1,887개 기업 고객으로 구성된 실제 운영 마켓플레이스 패널에서 벤치마크한다. 데이터, 예측 구간(horizon), 기간은 고정하고 평가 설계만 변화시킨다. 세 가지 선택은 각각 핵심 결론을 뒤집거나 무효화한다. 분석 단위를 시장 전체에서 개별 고객으로 바꾸면, 우리의 운영 기준선(baseline)은 19개 중 2위이며 어떤 방법에도 지지 않던 상태에서 25개 중 23위로 이동한다. 이 경우 24개 도전 방법 중 19개가 기준선을 능가한다. 오차를 얼마나 풀링(pooling)하는지에 따라 Diebold-Mariano 검정이 무언가를 발견하는지 여부 자체가 달라진다. 점 예측 대신 예측 구간을 평가하면 순위가 거의 완전히 뒤바뀌며, 간헐적 수요(intermittent demand)에서 순위 상관은 0.02이다. 이어서 실제 배포된 시스템이 이로부터 무엇을 얻는지 측정한다. 이 시스템의 선택 규칙은 아무것도 하지 않는 경우와 사후적 이점(hindsight)을 활용해 선택하는 경우 사이의 거리 중 55%를 확보한다. 이러한 순위 역전은 우리 데이터만의 특이한 현상이 아니다. 우리는 공개된 프로토콜을 수정 없이 공개 M5 소매 패널에서 실행했다. 동일한 형태의 기준선은 시장 전체 수준에서는 1위, 시계열별 수준에서는 모든 방법에 뒤지는 꼴찌를 기록하며, 재현 실행한 선택 규칙은 그곳에서 동일한 하한-상한 간 거리의 64.7%를 메운다. 그 후보군에 제로샷(zero-shot) 파운데이션 모델 5종을 추가하면 전체 수준의 우승자는 바뀌지만 이러한 양상은 바뀌지 않는다. 예측 구간의 사각지대 역시 그대로 나타나, 컨포멀(conformal) 구간은 가장 변동이 심한 품목에서 커버리지가 가장 크게 부족하다. 우리 패널을 점점 더 작은 그룹으로 나누면 이 대비는 하나의 곡선이 되며, 세분화 수준이 높아질 때마다 기준선의 순위는 악화된다. 우리는 평가 프로토콜을 공개하며, 발견하기 전까지 결과를 뒤집어 놓았던 우리 자신의 오류도 함께 보고한다.
Robust Online Time Series Prediction with Recurrent Neural Networks
HARN: 이벤트 기반 다중 시간대 예측을 위한 계층적 연상 공명 네트워크
HARN: Hierarchical Associative Resonance Network for Event-Driven Multi-Timeframe Forecasting
학습 가능한 분해 및 다양체 역학을 활용한 쌍곡 시계열 예측
Hyperbolic Time Series Forecasting with Learnable Decomposition and Manifold Dynamics
다중 스케일(multiscale) 구조는 시계열 예측의 핵심입니다. 시간 신호는 천천히 변화하는 트렌드, 중간 수준의 계절적 패턴, 그리고 고주파수 잔차를 포함합니다. 기존 예측 모델은 이러한 다중 스케일 구조를 유클리드 공간에서 모델링하여, 구성 요소들 사이에 유도되는 순서를 표현하지 못합니다. 본 연구에서는 종속 분해(cascaded decomposition)가 구성 요소들을 고유 주파수에 따라 정렬하여 자연스러운 주파수 계층을 형성함을 확인했습니다. 이 계층 구조는 반경에 따라 표현 용량이 증가하고 중첩된 계층 구조를 자연스럽게 수용하는 쌍곡 공간(hyperbolic space)의 지수적 부피 증가 특성과 잘 부합합니다. 이에 따라 본 연구에서는 쌍곡 공간에서 작동하는 최초의 장기 시계열 예측(LTSF) 프레임워크인 HyperForecast를 제안합니다. HyperForecast는 원점 근처의 저주파수 성분부터 경계 근처의 고주파수 성분에 이르기까지 반지름 거리가 이러한 중첩 구조를 포착하도록, 분해된 시간 구간을 푸앵카레 공(Poincaré ball) 위에 임베딩합니다. 또한 측지선 속도(geodesic velocity)를 두 가지 다양체 역학(manifold dynamics) 변형을 통해 모델링합니다: (a) 푸앵카레 잔차 역학을 통한 자기회귀 예측, (b) 모든 미래 구간을 병렬로 예측하는 비자기회귀 예측입니다. HyperForecast는 11개 장기 예측 벤치마크 중 9개에서 기존 및 최고 수준(SOTA)의 베이스라인 모델을 일관되게 능가하며, 긴 예측 구간에서 평균 제곱 오차(MSE)를 최대 58%까지 낮췄습니다. 추가 분석을 통해 학습된 반경 임베딩이 주파수 계층을 성공적으로 복원하며, 쌍곡 기하학이 예측 성능에 실질적으로 기여함을 밝혔습니다.
양자 혼돈 역학을 위한 머신러닝에서의 선형성 또는 비선형성에 대하여
On linearity or non-linearity in machine learning for quantum chaotic dynamics
시간 진화 동안 엔탱글먼트(entanglement, 양자 얽힘)가 급격히 축적되고 공간적으로 확산되기 때문에, 혼돈 양자 다체 역학(chaotic quantum many-body dynamics)을 정확하게 시뮬레이션하는 것은 고전적 계산 방식에 여전히 주요한 난제로 남아 있습니다. 이는 머신러닝이 양자 역학을 예측하기 위한 효과적인 대안을 제공할 수 있는지에 대한 의문을 제기합니다. 본 연구에서는 리드버그 원자 배열(Rydberg-atom arrays)로 구현 가능한 소수 큐비트 PXP 체인을 벤치마크로 사용하여, 양자 역학을 시계열 예측 문제로 정식화함으로써 이 질문을 다룹니다. 초기 상태를 변화시킴으로써 시스템은 에르고딕(ergodic) 거동부터 양자 다체 흉터 형성(quantum many-body scarring)에 이르는 동역학적 영역을 포괄하며, 질적으로 서로 다른 동역학 전반에 걸쳐 예측 모델을 테스트할 수 있는 제어된 환경을 제공합니다. 저자들은 표현력이 풍부한 비선형 트랜스포머(Transformer)와 단순 선형 예측 모델인 DLinear라는 대조적인 두 아키텍처를 비교합니다. 트랜스포머는 보다 에르고딕한 영역에서 역학을 정확하게 예측하지만, 초기 상태가 흉터 한계(scarred limit)에 가까워질수록 성능이 점진적으로 저하됩니다. 반면 DLinear는 전체 초기 상태 계열 전반에서 높은 정확도를 유지하며, 주요 편차는 전체 예측 오차에 거의 영향을 미치지 않는 작은 고주파 진동으로만 구성됩니다. 놀랍게도 이러한 결과는 복잡한 양자 다체 역학에 의해 생성된 관측 가능량을 과거 관측값에서 미래 관측값으로의 단순한 선형 매핑만으로도 높은 정확도로 예측할 수 있음을 보여줍니다. 이는 기저에 있는 양자 진화의 복잡성이 반드시 동일하게 복잡한 예측 문제로 귀결될 필요는 없음을 시사합니다.
중고 전자기기의 다중 시계열 가격 예측을 위한 심층 학습 대 통계 모델: 체계적 벤치마크
Deep Learning vs. Statistical Models for Multi-Horizon Price Forecasting of Second-Hand Electronics: A Systematic Benchmark
중고 전자기기의 재판매 가격 예측은 가격 책정 오류가 곧바로 위험으로 이어지는 구독 기반 플랫폼에 매우 중요합니다. 구조화된 금융 시장과 달리 중고 전자기기는 높은 변동성, 희소한 매물 등록 이력, 비정규 가격 역학을 보이지만, 이 영역에 대한 체계적인 시계열 벤치마크(benchmark)는 존재하지 않습니다. 본 논문에서는 중고 전자기기 가격 예측을 위한 통계 및 심층 학습(deep learning) 예측 모델의 첫 다중 시계열(multi-horizon) 벤치마크를 제시합니다. 폴란드 온라인 마켓플레이스의 일별 가격 매물 대규모 데이터셋(2022년 1월부터 2025년 3월까지, 100개 이상의 스마트폰 및 노트북 모델)을 사용하며, 고전적 기법(ARIMA, ETS, Theta), 순환 및 합성곱 네트워크(LSTM, TCN), 현대 심층 아키텍처(N-BEATS, N-HiTS, TFT, PatchTST, Informer)를 포괄하는 11개 모델을 1일부터 365일까지 6개 예측 구간(horizon)에 걸쳐 평가합니다. 세 가지 상호보완적 평가 프로토콜은 궤적 적합도, 단발성(one-shot) 종단점 정확도, 시계열 간 전이(cross-horizon transfer)를 측정합니다. N-BEATS는 30일 이후에서 가장 낮은 MAPE를 달성하여 365일에서 8.51%에 도달했으며, 이는 최고 성능 통계 기준선(baseline)의 14.94% 대비 43% 감소한 수치입니다. 단기 예측 구간(1-7일)에서는 모든 모델이 약 0.72% MAPE로 수렴하며 나이브 기준선도 경쟁력을 유지합니다. 365일 기준으로 학습된 단일 N-BEATS 모델은 더 짧은 모든 예측 구간으로 일반화되어 구간별 맞춤형 모델의 필요성을 없앱니다. 또한 N-BEATS와 N-HiTS는 뛰어난 하이퍼파라미터 안정성을 보여줍니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.