변동성 인지 순환 신경망(VARNN): 시퀀스 회귀 모델링에서 시간적 편차 포착을 위한 잔차 메모리 모델
Variability Aware Recursive Neural Network (VARNN): A Residual-Memory Model for Capturing Temporal Deviation in Sequence Regression Modeling
실세계 시계열 회귀는 비정상성(non-stationarity), 이분산성(heteroscedasticity), 체제 변화(regime changes)를 수반하는 경우가 많으며, 이러한 환경에서는 최근의 예측 오차가 모델 예측과 관측값 간의 국소적 시간 불일치에 대한 구조화된 정보를 포함할 수 있습니다. 따라서 이러한 오차를 표현하고 재사용하는 방법을 학습하는 것은 이후 예측에 유용한 정보를 제공할 수 있습니다. 본 논문에서는 지도 시계열 회귀를 위한 잔차 인지 아키텍처인 변동성 인지 순환 신경망(Variability-Aware Recursive Neural Network, VARNN)을 소개합니다. VARNN은 최근의 예측 오차로부터 명시적인 잔차 메모리 상태를 학습하고, 이를 활용하여 후속 예측을 조건화합니다. 구체적으로 VARNN은 짧은 문맥에 걸쳐 스칼라 예측 혁신(innovation)을 학습된 비선형 벡터값 잔차 표현으로 매핑합니다. 에너지, 헬스케어, 환경 도메인에 걸친 9개 데이터셋 전반에서 VARNN은 비교 대상인 정적, 시차(lag) 기반 및 시퀀스 모델 베이스라인보다 더 낮은 테스트 MSE를 달성했습니다. 또한 목표 지향적 절제 연구(ablation study)를 통해 학습된 투영 잔차 메모리가 직접적인 스칼라 잔차 피드백보다 예측 정확도를 향상시킴을 보여주며, 예측 편차에 대한 학습된 비선형 표현의 이점을 뒷받침합니다.