Comparative Analysis of Machine Learning, Hybrid, and Deep Learning Forecasting Models Evidence from European Financial Markets and Bitcoins
원문 초록
This study analyzes the transmission of market uncertainty on key European financial markets and the cryptocurrency market over an extended period, encompassing the pre, during, and post-pandemic periods. Daily financial market indices and price observations are used to assess the forecasting models. We compare statistical, machine learning, and deep learning forecasting models to evaluate the financial markets, such as the ARIMA, hybrid ETS-ANN, and kNN predictive models. The study results indicate that predicting financial market fluctuations is challenging, and the accuracy levels are generally low in several instances. ARIMA and hybrid ETS-ANN models perform better over extended periods compared to the kNN model, with ARIMA being the best-performing model in 2018-2021 and the hybrid ETS-ANN model being the best-performing model in most of the other subperiods. Still, the kNN model outperforms the others in several periods, depending on the observed accuracy measure. Researchers have advocated using parametric and non-parametric modeling combinations to generate better results. In this study, the results suggest that the hybrid ETS-ANN model is the best-performing model despite its moderate level of accuracy. Thus, the hybrid ETS-ANN model is a promising financial time series forecasting approach. The findings offer financial analysts an additional source that can provide valuable insights for investment decisions.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
멀티모달 그래프 기반 소셜 미디어 인기 예측 벤치마킹
Benchmarking Multi-Modal Graph-based Social Media Popularity Prediction
소셜 미디어 인기도 예측은 초기 단계의 관측으로부터 온라인 콘텐츠의 향후 도달 범위나 영향력을 예측하는 것을 목표로 한다. 정확한 예측은 광고 최적화나 사용자, 크리에이터, 플랫폼의 전략적 콘텐츠 기획과 같은 주요 하위 응용을 가능하게 한다. 상당한 진전에도 불구하고, 기존의 인기도 예측 연구는 멀티모달 콘텐츠와 시간적 소셜 상호작용 신호를 함께 고려하지 못하는 경우가 많다. 더욱이 관련 문헌은 데이터셋, 모달리티, 관측 윈도우, 예측 대상, 평가 프로토콜에 걸쳐 매우 파편화되어 있다. 이러한 파편화는 공정한 비교를 방해하고, 텍스트, 시각, 시간, 상호작용 기반 신호가 인기도 역학을 어떻게 함께 형성하는지에 대한 체계적인 이해를 가린다. 이러한 문제를 해결하기 위해, 본 논문은 데이터셋, 모달리티, 시간적 상호작용 신호, 대표적인 베이스라인을 표준화된 평가 프로토콜 아래 통합하는 멀티모달 그래프 기반 인기도 예측 벤치마크인 MMG-Pop을 제안한다. 나아가 앞서 언급한 멀티모달 신호와 그래프 구조의 소셜 상호작용을 함께 모델링하는 통합 멀티모달 그래프 기반 네트워크인 MMG-PopNet을 제안한다. Bluesky와 Reddit 플랫폼에 걸친 MMG-Pop에서의 폭넓은 실험은 MMG-PopNet의 우수한 성능을 보여 주며, 플랫폼 간 학습 일반화, 멀티태스크 예측의 이점, 멀티모달리티의 기여, LLM 예측의 한계에 대한 새로운 통찰을 제공한다. 이러한 발견은 이질적인 모달리티와 사회 인식 에이전트 생태계 패러다임 하에서의 사회적 역학 모델링 및 개입에 관한 향후 연구의 토대를 마련한다.
주파수 영역 리저버 컴퓨팅
Frequency Domain Reservoir Computing
트랜스포머의 시퀀스 길이에 대한 이차 병목이 순환 모델의 재부상을 이끌고 있지만, 복잡한 동역학을 효과적으로 포착하려면 효율적인 학습과 표현력이 높은 잠재 상태를 균형 있게 갖춘 구조가 필요하다. 에코 스테이트 네트워크(ESN)는 고정된 순환 가중치를 활용하여 시간 역전파를 피하고 닫힌 형태의 학습 해를 가능하게 하는 매력적인 접근법이다. 그러나 복잡한 과제에 필요한 표현력을 얻으려면 큰 리저버가 요구되어 $\mathcal{O}(N^2)$의 상태 갱신 병목이 드러나며, 이로 인해 ESN은 현대 순환 모델의 규모에 미치지 못한다. 이 한계를 해결하기 위해 본 논문은 전적으로 주파수 영역에서 동작하며 영역 전환 오버헤드를 피하여, 구조화된 순환(circulant) 재귀를 통해 밀집 비선형 갱신에 $\mathcal{O}(N)$ 복잡도를 달성하는 ESN 구조인 주파수 영역 리저버 컴퓨팅(Frequency Domain Reservoir Computing, FRESCO)을 소개한다. FRESCO는 새로운 차원 제로 패딩 입력 임베딩, 패킹된 주파수 영역 리드아웃, 그리고 주파수 영역에서 직접 적용되는 비선형성을 사용하여 학습과 추론의 계산 비용과 에너지 소비를 크게 줄인다. 나아가 FRESCO는 메모리 벤치마크, 순차 분류, 다변량 장기 예측에서 경쟁력 있는 예측 성능을 달성하여, 밀집 순환 구조를 위한 확장 가능하고 에너지 효율적인 방향을 제시한다.
확산 기반 상태 공간 모델
Diffusion-Driven State Space Models
많은 분야에서 실무자들은 잠재 시스템 역학을 충실히 포착하면서 정확한 예측을 생성하는 모델을 찾는다. 기존 접근법은 일반적으로 이 두 목표 중 하나를 포기한다. 딥 상태 공간 모델(deep state space model)은 종종 가우시안 잠재 전이(Gaussian latent transition)를 가정하여 적합(fit)과 예측을 제한하는 반면, 확산 모델(diffusion model)은 표현력이 매우 높지만 기저 역학에 대한 원칙적 추론(inference)이 부족하다. 두 접근법의 장점을 결합하기 위해, 우리는 기존의 가우시안 전이 분포를 확산 모델로 대체하는 확산 기반 상태 공간 모델(DDSSM, Diffusion-Driven State Space Model)을 제안한다. 우리의 DDSSM은 순차 데이터(sequential data)에서 오토인코더(autoencoder)와 확산 모델을 공동 학습(jointly train)하는 방법에 관한 미해결 문제를 해결하여, 시계열(time series)을 위한 잠재 확산 모델(latent diffusion model) 문헌을 확장한다. 또한 DDSSM이 다중모드 전이(multimodal transition)를 갖는 시뮬레이션 시계열의 적합과 예측에서 최첨단(state-of-the-art) 딥 SSM을 실험적으로 능가함을 확인하였다.
PROSWIN: 태양 영상을 이용한 심층 분포 회귀 기반의 확률론적 태양풍 속도 예측
PROSWIN: Probabilistic Solar Wind Speed Forecasting Using Deep Distributional Regression From Solar Images
빠른 태양풍 조건을 정확하게 예측하는 것은 불확실성이 크고 기존의 단일값 예측 모델로는 이를 정량화할 수 없기 때문에 어려운 과제입니다. 특히 기술적 인프라에 피해를 줄 수 있는 고속 태양풍 스트림(HSS)의 위험은 확률론적 예측 없이는 신뢰성 있게 평가될 수 없습니다. 본 연구에서는 4일의 리드 타임으로 지구에서의 시간별 태양풍 속도(SWS)를 예측하는 확률론적 머신러닝 모델인 PROSWIN을 제시합니다. 이 접근 방식은 심층 신경망(deep neural network)과 분포 회귀(distributional regression) 알고리즘을 결합하여 태양 영상과 자기장 지도(magnetogram)를 통합합니다. 표준 오차 지표는 HSS 피크의 중요성을 과소평가하므로, 타임라인과 HSS 피크 정확도를 함께 보상하는 모델 선택 지표인 예측 점수(prediction score)를 추가로 도입합니다. 14년간의 데이터에서 본 연구의 예측은 매우 잘 보정된 불확실성(평균 편차 <1%)을 달성합니다. 분포 정확도를 평가하는 지표인 연속 순위 확률 점수(CRPS)를 사용하여 타임라인 CRPS 41.0 km/s, HSS 피크 CRPS 45.3 km/s, 예측 점수 42.3 km/s를 얻었습니다. 또한 171 Å 채널이 일반적으로 사용되는 193 Å 및 211 Å 채널에 중요한 보완 요소가 되며, 모델 선택을 위한 예측 점수가 모델의 적용 가능성을 향상시킨다는 점을 확인했습니다. 기존 문헌에서 선정된 모델들과 비교했을 때, 본 모델은 둘 중 하나를 희생하지 않고 타임라인과 HSS 피크 값 모두에서 정확한 유일한 모델입니다. 이러한 결과는 단일값 태양풍 모델 대비 확률론적 모델의 이점을 뒷받침합니다. 도입된 방법론은 다른 예측 문제에도 전이 가능합니다.
Otter Weather: 숙련되고 계산 효율적인 중기 기상 예측
Otter Weather: Skillful and Computationally Efficient Medium-Range Weather Forecasting
최첨단 중기 AI 기상 모델은 기존의 수치 기상 예측(NWP)을 능가할 수 있으나 막대한 학습 예산을 필요로 한다. 이는 자원이 부족한 집단의 사용을 제한하고 빠른 모델 반복을 심각하게 저해한다. 여기서 우리는 AI를 통한 고성능 기상 예측을 대중화하도록 설계된 고효율 시공간 예측 모델인 Otter Weather를 개발한다. 표준 WeatherBench 프로토콜을 사용하여 1.5° 해상도의 ERA5 재분석 데이터로 평가한 결과, Otter 계열은 성능-연산 파레토 경계를 크게 진전시킨다. 결정론적 버전은 24시간 예보 시차에서 최고의 NWP 기준선을 9.6% 능가하면서 학습에 3.5 A100-일 미만이 필요하다. 이는 경량 AI 모델 대비 2배의 효율 향상을, 자원 집약적인 최첨단 아키텍처 대비 100배의 연산 감소를 제공한다. 우리는 연속 순위 확률 점수(CRPS)를 통한 학습으로 이러한 효율 향상을 확률 예측으로 확장한다. 더 큰 아키텍처로 확장한 Otter-XL은 IFS ENS 기준선 대비 9.7%의 CRPS 개선을 달성한다. 이는 유사한 연산 예산에서 비교 가능한 경량 모델 대비 예측 성능이 거의 두 배 증가함을 의미한다. Otter-XL은 또한 GenCast와 같은 최첨단 아키텍처를 2% 이상 능가하면서 연산은 한 자릿수 적게 사용한다. 마지막으로 Otter를 복잡한 음향 산란 PDE 과제에 그대로 적용하면 최첨단 파운데이션 모델링 접근법을 능가하며, 이는 여기서 이룬 진전이 다양한 과학 분야에 적용될 수 있음을 시사한다.
지정가 주문서 예측을 위한 추론-연산 프런티어
The Inference-Compute Frontier for Limit Order Book Prediction
우리는 FI-2010에서 지정가 주문서 예측에 대한 경험적 추론-연산 프런티어를 규명한다. 저연산 및 중연산 모델에 적합시킨 멱법칙은, 해당 적합에서 가장 큰 예산의 $56$--$2{,}515$배에 달하는 연산량을 가진, 제외된 MLPLOB 방식의 믹서 계열까지 외삽된다. 아홉 개의 폴드와 다섯 개의 예측 수평선에 걸쳐, 실현된 목표 프런티어에서 통합 $R^2$는 $0.934$이며 상수 종점 외삽보다 RMSE가 59\% 낮고, 제외된 모든 운용점에서는 $0.731$이다. 측정된 지연 시간은 더 약한 관계를 보이며 모델 계열의 순위를 바꾼다. 따라서 우리는 연산을 조밀한 시간 및 특징 혼합에 집약하도록 FastBiNLOB을 설계한다. H120은 다섯 개의 시드 모두에서 네 개의 수평선 중 두 개에서 발표된 최첨단 macro-F1을 능가한다. 우리의 CPU/MPS 프로토콜에서 H96은 W128 MLPLOB 기준 대비 중앙값 지연 시간을 23.6\% 줄이고, H120은 TLOB에서 착안한 이중 축 어텐션 기준 대비 60.2\% 줄인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.