arXiv:2108.09885

DTWSSE: Data Augmentation with a Siamese Encoder for Time Series

Xinyu Yang, Xinlan Zhang, Zhenguo Zhang, Yahui Zhao, Rongyi Cui

제출 2021-08-23

원문 초록

Access to labeled time series data is often limited in the real world, which constrains the performance of deep learning models in the field of time series analysis. Data augmentation is an effective way to solve the problem of small sample size and imbalance in time series datasets. The two key factors of data augmentation are the distance metric and the choice of interpolation method. SMOTE does not perform well on time series data because it uses a Euclidean distance metric and interpolates directly on the object. Therefore, we propose a DTW-based synthetic minority oversampling technique using siamese encoder for interpolation named DTWSSE. In order to reasonably measure the distance of the time series, DTW, which has been verified to be an effective method forts, is employed as the distance metric. To adapt the DTW metric, we use an autoencoder trained in an unsupervised self-training manner for interpolation. The encoder is a Siamese Neural Network for mapping the time series data from the DTW hidden space to the Euclidean deep feature space, and the decoder is used to map the deep feature space back to the DTW hidden space. We validate the proposed methods on a number of different balanced or unbalanced time series datasets. Experimental results show that the proposed method can lead to better performance of the downstream deep learning model.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27825v1cs.LG공통 태그 Data Augmentation, Time Series, Time Series Analysis

CAST: 문맥 및 이상 구조 조건부 시계열 이상치 생성

CAST: Context- and Anomaly Structure-Conditioned Time Series Anomaly Generation

이상 시계열은 안전이 중요한 영역에서 핵심적인 역할을 하지만 본질적으로 희소하고 이질적이며 획득 비용이 높습니다. 기존 시계열 생성 방법은 주로 정상 데이터 합성에 집중되어 있어 이상 샘플이 필요할 때 제한적인 가치만을 제공합니다. 본 논문에서는 이상 생성에서 두 가지 근본적인 과제를 규명합니다. 바로 (i) 이상 데이터의 희소성과 (ii) 이상의 이질적인 형태학적 특성입니다. 이러한 과제를 해결하기 위해, 원칙적인 2단계 사전학습(pre-training) 및 파인튜닝(fine-tuning) 전략을 갖춘 문맥 및 이상 구조 조건부 시계열 이상 생성 프레임워크인 CAST를 제안합니다. 사전학습 단계에서는 풍부한 정상 시계열 데이터를 활용하여 기저의 시스템 역학을 학습함으로써 이상 데이터의 제한된 가용성을 대폭 완화합니다. 파인튜닝 단계에서는 CAST가 학습된 이상 구조 표현을 기반으로 생성기를 명시적으로 조건화하여, 유사한 문맥 조건 하에서도 이질적인 이상 형태를 포착할 수 있도록 합니다. 다양한 실제 단변량 및 다변량 데이터셋에 대한 광범위한 실험을 통해, CAST가 생성 충실도(fidelity)와 다운스트림 태스크 유용성 측면 모두에서 최신 이상 생성 방법들을 일관되게 능가함을 입증하여 제안된 접근법의 유효성을 강조합니다.

arXiv:2610.15760v1cs.LG공통 태그 Time Series, Time Series Analysis

학습 가능한 분해 및 다양체 역학을 활용한 쌍곡 시계열 예측

Hyperbolic Time Series Forecasting with Learnable Decomposition and Manifold Dynamics

다중 스케일(multiscale) 구조는 시계열 예측의 핵심입니다. 시간 신호는 천천히 변화하는 트렌드, 중간 수준의 계절적 패턴, 그리고 고주파수 잔차를 포함합니다. 기존 예측 모델은 이러한 다중 스케일 구조를 유클리드 공간에서 모델링하여, 구성 요소들 사이에 유도되는 순서를 표현하지 못합니다. 본 연구에서는 종속 분해(cascaded decomposition)가 구성 요소들을 고유 주파수에 따라 정렬하여 자연스러운 주파수 계층을 형성함을 확인했습니다. 이 계층 구조는 반경에 따라 표현 용량이 증가하고 중첩된 계층 구조를 자연스럽게 수용하는 쌍곡 공간(hyperbolic space)의 지수적 부피 증가 특성과 잘 부합합니다. 이에 따라 본 연구에서는 쌍곡 공간에서 작동하는 최초의 장기 시계열 예측(LTSF) 프레임워크인 HyperForecast를 제안합니다. HyperForecast는 원점 근처의 저주파수 성분부터 경계 근처의 고주파수 성분에 이르기까지 반지름 거리가 이러한 중첩 구조를 포착하도록, 분해된 시간 구간을 푸앵카레 공(Poincaré ball) 위에 임베딩합니다. 또한 측지선 속도(geodesic velocity)를 두 가지 다양체 역학(manifold dynamics) 변형을 통해 모델링합니다: (a) 푸앵카레 잔차 역학을 통한 자기회귀 예측, (b) 모든 미래 구간을 병렬로 예측하는 비자기회귀 예측입니다. HyperForecast는 11개 장기 예측 벤치마크 중 9개에서 기존 및 최고 수준(SOTA)의 베이스라인 모델을 일관되게 능가하며, 긴 예측 구간에서 평균 제곱 오차(MSE)를 최대 58%까지 낮췄습니다. 추가 분석을 통해 학습된 반경 임베딩이 주파수 계층을 성공적으로 복원하며, 쌍곡 기하학이 예측 성능에 실질적으로 기여함을 밝혔습니다.

arXiv:2610.13430v1eess.SP공통 태그 Time Series, Time Series Analysis

하나가 다른 하나로 이어진다: 시계열 인과 발견의 핵심 요소

One Thing Leads to Another: The Essentials of Time Series Causal Discovery

시계열 인과 발견(time series causal discovery) --- 시계열들 간의 인과관계를 탐지하는 과정 --- 은 반세기도 더 전의 신호 처리(signal processing) 연구에 그 뿌리를 두고 있다. 이후 이 분야는 활발하고 폭넓은 관심을 받아왔으며, 통계학, 동역학계(dynamical systems), 머신러닝 등 여러 분야에서 서로 다른 형태로 발전해왔다. 이처럼 파편화되어 끊임없이 변화하는 연구 지형에 처음 발을 들이는 것은 부담스러울 수 있다. 본 튜토리얼은 여러 연구 공동체에 걸친 시계열 인과 발견에 대한 통합적인 개요를 제공한다. 우리는 현대의 발견 방법들이 기반으로 삼는 핵심 원리들을 소개하고, 그 한계와 가정들을 논의한다. 또한 발견 방법들이 어떻게 평가, 벤치마크, 파인튜닝(fine-tuning)되는지도 논의한다. 더 나아가 시계열에 대한 인과 발견이 농업 및 지구과학, 헬스케어, 그리고 인공지능 시스템에서의 다운스트림 작업(downstream task)에 어떻게 점점 더 중요해지고 있는지를 논의한다. 우리는 본 튜토리얼이 최근 쏟아지는 인과성(causality) 연구들을 탐색하는 데 유용한 자료가 될 뿐만 아니라, 신호 처리 분야의 독자들이 인과 문제에 기여하도록 초대하는 역할을 할 것이라고 믿는다. 독자들에게 추가적인 도움을 주기 위해, 우리는 유용한 코드 패키지와 자료들을 연결해주는 동반 저장소(companion repository)를 https://github.com/CHAI-UK/Awesome-Time-Series-Causal-Discovery 에서 운영하고 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.