arXiv:2306.09261

Mitigating Cold-start Forecasting using Cold Causal Demand Forecasting Model

Zahra Fatemi, Minh Huynh, Elena Zheleva, Zamir Syed, Xiaojun Di

제출 2023-06-15

원문 초록

Forecasting multivariate time series data, which involves predicting future values of variables over time using historical data, has significant practical applications. Although deep learning-based models have shown promise in this field, they often fail to capture the causal relationship between dependent variables, leading to less accurate forecasts. Additionally, these models cannot handle the cold-start problem in time series data, where certain variables lack historical data, posing challenges in identifying dependencies among variables. To address these limitations, we introduce the Cold Causal Demand Forecasting (CDF-cold) framework that integrates causal inference with deep learning-based models to enhance the forecasting accuracy of multivariate time series data affected by the cold-start problem. To validate the effectiveness of the proposed approach, we collect 15 multivariate time-series datasets containing the network traffic of different Google data centers. Our experiments demonstrate that the CDF-cold framework outperforms state-of-the-art forecasting models in predicting future values of multivariate time series data.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26822v2cs.LG공통 태그 Causal Inference, Time Series

HARN: 이벤트 기반 다중 시간대 예측을 위한 계층적 연상 공명 네트워크

HARN: Hierarchical Associative Resonance Network for Event-Driven Multi-Timeframe Forecasting

실시간 금융 예측은 오래되었거나 사용할 수 없는 정보를 사용하지 않으면서 시간 프레임 간 비동기적인 봉 완성을 동기화해야 한다. 우리는 HARN(Hierarchical Associative Resonance Network)을 소개한다. 이는 각 이벤트를 설정된 가장 세밀한 시간 프레임에 고정하고, 시간 수준 전반에 걸쳐 지속적 상태와 행렬 값 연상 메모리를 유지하는 이벤트 기반 아키텍처이다. 타임스탬프 마스킹 전이는 완성된 봉의 타임스탬프가 현재 앵커와 일치할 때만 해당 수준을 갱신하여, 비활성 표현을 보존한다. HARN은 인과적 다중 스케일 인코딩, 잔차 기반 게이트 연상 쓰기, 전수 교차 수준 공명, 순서화된 상향식 증거 집계를 통합하여 각 시간 수준에서 예측을 생성한다. 예측은 베이시스 포인트 변화로 표현되며 평가를 위해 가격 스케일로 복원된다. 우리는 주식, 외환, 금에 걸친 네 가지 자산(AAPL, EURUSD, USDCHF, XAUUSD)에서 시간순 70/15/15 분할, 32봉 룩백, 1단계 예측 구간, 세 개의 랜덤 시드를 사용하여 HARN을 평가한다. HARN은 네 자산 모두에서 평가된 단일 시간 프레임 PatchTST 및 TimeXer 기준선보다 낮은 앵커 시간 프레임 테스트 평균 절대 오차(MAE)를 얻는다. HARN의 MAE는 각각 0.508, 0.000306, 0.000263, 2.552이며, PatchTST는 2.074, 0.000759, 0.000638, 9.563, TimeXer는 2.882, 0.010838, 0.014144, 15.297을 기록한다. 이러한 기술적 비교는 입력, 목표 정식화 또는 학습 절차의 차이로부터 아키텍처의 효과를 분리하지 못한다. AAPL과 EURUSD에 대한 단일 실행 구성요소 절제 실험은 작고 비단조적인 차이를 보인다. 이 결과는 비동기 다중 시간 프레임 예측에 대한 HARN의 실현 가능성을 보여주는 한편, 상대적 이점과 구성요소 기여를 규명하기 위한 통제된 비교와 더 폭넓은 절제 실험의 필요성을 시사한다.

arXiv:2610.13430v1eess.SP공통 태그 Causal Inference, Time Series

하나가 다른 하나로 이어진다: 시계열 인과 발견의 핵심 요소

One Thing Leads to Another: The Essentials of Time Series Causal Discovery

시계열 인과 발견(time series causal discovery) --- 시계열들 간의 인과관계를 탐지하는 과정 --- 은 반세기도 더 전의 신호 처리(signal processing) 연구에 그 뿌리를 두고 있다. 이후 이 분야는 활발하고 폭넓은 관심을 받아왔으며, 통계학, 동역학계(dynamical systems), 머신러닝 등 여러 분야에서 서로 다른 형태로 발전해왔다. 이처럼 파편화되어 끊임없이 변화하는 연구 지형에 처음 발을 들이는 것은 부담스러울 수 있다. 본 튜토리얼은 여러 연구 공동체에 걸친 시계열 인과 발견에 대한 통합적인 개요를 제공한다. 우리는 현대의 발견 방법들이 기반으로 삼는 핵심 원리들을 소개하고, 그 한계와 가정들을 논의한다. 또한 발견 방법들이 어떻게 평가, 벤치마크, 파인튜닝(fine-tuning)되는지도 논의한다. 더 나아가 시계열에 대한 인과 발견이 농업 및 지구과학, 헬스케어, 그리고 인공지능 시스템에서의 다운스트림 작업(downstream task)에 어떻게 점점 더 중요해지고 있는지를 논의한다. 우리는 본 튜토리얼이 최근 쏟아지는 인과성(causality) 연구들을 탐색하는 데 유용한 자료가 될 뿐만 아니라, 신호 처리 분야의 독자들이 인과 문제에 기여하도록 초대하는 역할을 할 것이라고 믿는다. 독자들에게 추가적인 도움을 주기 위해, 우리는 유용한 코드 패키지와 자료들을 연결해주는 동반 저장소(companion repository)를 https://github.com/CHAI-UK/Awesome-Time-Series-Causal-Discovery 에서 운영하고 있다.

arXiv:2610.10648v1cs.LG공통 태그 Causal Inference, Time Series

알츠하이머병 연구의 진단 및 진행 예측을 위한 정보 누출 제어 다중 모달 학습

Leakage-Controlled Multimodal Learning for Diagnosis and Progression Prediction in Alzheimer's Disease Research

알츠하이머병(Alzheimer's disease) 예측은 불규칙한 방문 주기, 이종의 측정값, 불완전한 모달리티 문제를 수반합니다. 본 연구에서는 맞춤형 SFCN MRI 인코더, 4개의 인과적 임상 트랜스포머(clinical Transformer), 공유 융합 모듈, 과업별 ODE-GRU 역학을 결합한 다중 모달 다중 과업(multimodal multitask) 프레임워크를 제안합니다. 미세조정(fine-tuning)과 LoRA를 적용해 마지막 두 개의 MRI 블록을 적응시킵니다. Task-DRO는 과업 간 손실의 균형을 맞추며, Group-CVaR은 코호트 및 동반 질환 계층을 목표로 합니다. 브랜치별 입력 제어, 피험자 그룹화 분할, 경험적 인과성 검증을 통해 종단적 평가를 지원합니다. ADNI, OASIS-2, MIRIAD의 2,649명 피험자와 17,317회 방문 데이터를 기반으로 한 내부 검증에서, 진단, 1단계 진행, 첫 1단계 방문 진행의 AUROC는 각각 0.935 +/- 0.002, 0.884 +/- 0.003, 0.870 +/- 0.005를 기록했습니다(3개 시드에 대한 평균 +/- 표준편차). 상응하는 하이브리드 AUROC는 각각 0.951, 0.909, 0.896입니다. 다음 방문 시점의 MMSE 평균 절대 오차(MAE)는 1.61점이며, 최하위 계층의 진단 AUROC는 0.827 +/- 0.008입니다. 샘플링된 ADNI 설명 분석을 통해 과업별 입력 의존성을 식별했습니다. OASIS-3 외부 검증에서는 네트워크 및 하이브리드 진단 AUROC가 각각 0.763과 0.767, 하이브리드 다음 방문 진행 AUROC가 0.764를 기록했고, 진단 캘리브레이션 오차는 0.197에서 0.052로 감소했으며, 다음 방문 MMSE MAE는 0.86을 나타냈습니다. 시드 42에 대한 6개 구성 요소의 대응 절제 연구(ablation study) 결과, 풀링된 진단 및 진행 AUROC 차이는 -0.004에서 +0.004 사이로 나타났으며, 임상 인코더 입력을 제거하면 진단 AUROC가 0.272 감소했습니다. 본 프레임워크는 종단적 예측, 결측 모달리티 처리, 보조 동반 질환 모델링, 하위 그룹 평가를 단일 파이프라인 내에 통합합니다.

arXiv:2607.20696v1cs.LG공통 태그 Causal Inference, Time Series

CEDAR: 자기회귀 과정을 위한 인과 엣지 발견

CEDAR: Causal Edge Discovery for Autoregressive Processes

우리는 CEDAR(Causal Edge Discovery for Autoregressive Processes)를 제안한다. 이는 희소 자기회귀 시계열에서 지연 인과 엣지 발견을 위한 제약 기반 방법이다. CEDAR는 AR(1) 잔차화 U-중심 거리 상관을 사용하여 교차 변수 지연 후보를 선별한 다음, 유의한 교차 변수 지연 후보마다 두 번의 표적 조건부 독립성 검정을 적용하고 순서쌍당 최대 하나의 지연만 수용한다. 안정적인 MCI 가지치기 단계가 간접 엣지를 제거하며, 선택적 결정론적 C-노드는 지정된 추세형 비정상성을 보정한다. 선별 후 소수의 지연만 남는 희소 체제에서 CEDAR는 선별 이후 $O(d^2)$개의 CI 검정을 필요로 하면서 엣지 수준 해석 가능성을 유지한다. CEDAR는 데이터가 부족하고 변수가 lag-1 자기 역학을 보일 때 가장 효과적이며, $T$가 증가하거나 고차 자기회귀 또는 동시 다중 지 효과가 흔한 경우에는 더 풍부한 조건화 집합을 갖는 방법이 더 선호된다.

arXiv:2607.21573v1cs.LG공통 태그 Causal Inference, Time Series

충분성을 넘어: 반사실적 필요성 기반 시계열 설명

Beyond Sufficiency: Time Series Explanation with Counterfactual Necessity

시계열 분류기에 대한 충실한 설명은 블랙박스 모델의 예측을 유지하기에 충분할 뿐만 아니라, 그 예측을 유지하는 데 필요한 부분 시퀀스(subsequence)를 식별해야 한다. 그러나 기존의 충분성(sufficiency) 중심 방법들은 모델의 의사결정에 필수적이지 않으면서도 예측을 뒷받침하는 허위(spurious) 부분 시퀀스에 높은 중요도를 부여할 수 있다. 우리는 시계열 설명을 위한 필요성(necessity) 인식 프레임워크인 TimePNS를 제안한다. Pearl의 반사실적(counterfactual) 필요성 개념에서 영감을 받아, TimePNS는 시간적 요인에 개입(intervention)하고 원래 예측이 방해되는지 측정함으로써 해당 요인이 필요한지 평가한다. 이 프레임워크는 2단계 설계를 채택한다. 1단계에서는 식별 가능한(identifiable) 인과 생성 과정과 충분성 중심 설명 마스크를 함께 학습한다. 2단계에서는 시간적 요인에 대한 반사실적 개입을 수행하여 필요성 신호를 도출하고, 이 신호가 시간적 게이트(temporal gate)를 지도하여 비필수 구성 요소를 억제하고 반사실적으로 필요한 요소를 강조함으로써 초기 설명을 정제한다. 합성 및 실세계 시계열 벤치마크(benchmark)에서의 실험은 TimePNS가 의사결정에 핵심적인 부분 시퀀스를 더 정확하게 식별하고, 강력한 기준선(baseline) 대비 충분성-필요성 트레이드오프를 일관되게 개선함을 보여준다.

arXiv:2607.14871v1cs.LG공통 태그 Time Series, Demand Forecasting

피크-중요 시계열 예측을 위한 비대칭 피크 인식 손실

Asymmetric Peak-Aware Loss for Peak-Critical Time Series Forecasting

군중 수요 예측과 같은 많은 운영 시계열 예측 응용에서 과소 예측과 관련된 위험은 과대 예측보다 훨씬 크다. 드문 수요 급증의 정확한 예측은 하류 작업에서 중요한 역할을 한다. 그러나 대부분의 시계열 예측기는 대칭 목적함수(예: MSE, MAE)로 학습되고 주로 집계 오차로 평가되어, 극값 및 피크 시점 예측의 실패를 가릴 수 있다. 우리는 Asymmetric Peak-Aware Loss(APAL)을 제안한다. 이는 간단하고 모델에 독립적인 목적함수로, (i) 과소 예측에 더 큰 페널티를 부과하고 (ii) 각 예측 윈도우 내 피크 구역의 학습 가중치를 높인다. 더 나아가 MAE/MSE를 채널별 꼬리 오차(상위 10% 및 상위 1%)와 피크 지표(시점 허용 하의 정밀도, 재현율, F1, 및 피크 시점 오차)로 보완하는 피크-중요 평가 프로토콜을 제안한다. 우리는 APAL을 5개의 최신 백본에 걸친 장기 다변량 예측에 대해 평가하며, 특히 (i) City of Melbourne 보행자 시간당 카운트 데이터셋의 프로덕션 준비된 부분집합과 (ii) 해변 방문자 수 데이터셋을 사용한 보행자 수요 예측에 초점을 맞춘다. 시계열 예측에 대한 손실 함수의 일반성은 추가 벤치마크에서 검증한다. 피크-중요 데이터셋과 설정 전반에서 APAL은 꼬리 정확도와 피크 예측 품질을 개선하면서 집계 오차와의 조절 가능한 트레이드오프를 드러내며, 피크 예측 실패가 지배적인 운영상 우려인 경우 실용적인 해결책이 된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.