DiTS: 멀티모달 디퓨전 트랜스포머는 시계열 예측기이다
DiTS: Multimodal Diffusion Transformers Are Time Series Forecasters
생성 모델링은 확률론적 시계열 예측을 용이하게 하지만, 이종의 외생적 정보(exogenous information)를 통합하는 것은 여전히 어려운 과제로 남아 있습니다. 디퓨전 트랜스포머(DiT, Diffusion Transformers)는 조건부 생성을 위한 확장 가능한 프레임워크를 제공하지만, 이를 예측 작업에 적용하려면 시계열에 맞춤화된 조건화 메커니즘이 필요합니다. 내생적 목표(endogenous targets)와 외생적 공변량(exogenous covariates)은 출처, 의미론적 특성, 통계적 특성이 서로 다르지만, 세밀한 조건부 유도를 지원하는 시간 좌표를 공유합니다. 공변량은 직접적인 회귀가 목표로 하는 조건부 평균을 넘어 미래 변동성과 시간적 의존성을 설명할 수 있습니다. 이러한 점에 착안하여, 본 논문에서는 공변량을 인식하는 예측을 위한 멀티모달 디퓨전 트랜스포머인 시계열용 디퓨전 트랜스포머(DiTS, Diffusion Transformers for Time Series)를 제안합니다. DiTS는 내생적 목표와 외생적 공변량을 서로 다른 모달리티로 모델링하며, 목표의 과거 이력과 가용한 공변량을 바탕으로 미래 생성을 공동으로 조건화합니다. 흐름 매칭(flow matching)은 노이즈가 포함된 미래 상태를 조건으로 하는 속도 예측과 공변량 의존적인 분포 정보가 유의미하게 연계되도록 만듭니다. 또한 시간 정렬 사전확률(temporal-alignment prior)을 바탕으로 AdaLN을 확장하여, 정렬된 공변량과 디퓨전 시간으로부터 패치 단위 변조 파라미터를 생성하는 시간 정렬 변조(Time-aligned Modulation)를 도입합니다. 다양한 공변량 인식 예측 태스크 전반에서 DiTS는 결정론적 예측과 확률론적 예측 모두에서 강력한 성능을 달성하여, 점 예측(point forecasting) 및 분포 예측(distributional forecasting) 모두에서 조건부 생성의 효과성을 입증합니다.