arXiv:2605.29695v2 cs.AI

FHRFormer: 태아 심박수 시계열 인페인팅 및 예측을 위한 자기지도 마스크드 트랜스포머 프레임워크

FHRFormer: A Self-Supervised Masked Transformer Framework for Fetal Heart Rate Time-Series Inpainting and Forecasting

Kjersti Engan, Neel Kanwal, Anita Yeconia, Ladislaus Blacy, Yuda Munyaw, Estomih Mduma, Hege Ersdal

제출 2026-05-28

저자 비고

arXiv Comments

Submitted to Frontiers in Digital Health

한국어 초록

신생아의 약 10%는 출생 시 호흡을 시작하기 위해 도움이 필요하며, 약 5%는 인공호흡 지원이 필요합니다. 태아 심박수(FHR) 모니터링은 산전 관리 중 태아의 건강 상태를 평가하는 데 중요한 역할을 하며, 이상 패턴을 감지하고 분만 중 태아 위험을 완화하기 위한 적시의 산과적 개입을 지원합니다. 다양한 결과를 수반하는 대규모 연속 FHR 모니터링 에피소드 데이터셋을 분석하기 위해 인공지능(AI) 기법을 적용하면, 호흡 지원 또는 개입이 필요할 위험을 예측하는 새로운 통찰을 제공할 수 있습니다. 최근 웨어러블 FHR 모니터의 발전으로 임산부의 이동성을 저해하지 않으면서도 지속적인 태아 모니터링이 가능해졌습니다. 그러나 산모의 움직임에 따른 센서 위치 이탈뿐만 아니라 태아 또는 산모의 자세 변화로 인해 신호 드롭아웃이 자주 발생하며, 이는 기록된 FHR 데이터의 결측으로 이어집니다. 이러한 결측 데이터는 유의미한 통찰 도출을 제한하고 자동화된(AI 기반) 분석을 복잡하게 만듭니다. 단순 보간 기법과 같은 결측 데이터 처리의 전통적인 접근법은 신호의 주파수 특성을 보존하지 못하는 경우가 많습니다. 본 논문에서는 데이터의 국소적 시간 및 주파수 성분을 모두 포착하여 결측된 FHR 신호를 재구성하는 마스크드 트랜스포머(masked transformer) 기반 오토인코더 접근법을 제안합니다. 제안된 방법은 다양한 결측 데이터 기간에 걸쳐 견고성을 입증하며 신호 인페인팅 및 예측에 사용될 수 있습니다. 제안된 접근법은 연구 데이터셋에 소급 적용되어 AI 기반 위험 알고리즘의 개발을 지원할 수 있습니다. 향후에는 제안된 방법을 웨어러블 FHR 모니터링 기기에 통합하여 더 조기에 보다 견고한 위험 감지를 달성할 수 있을 것입니다.

원문 초록

Approximately 10% of newborns require assistance to initiate breathing at birth, and around 5% need ventilation support. Fetal heart rate (FHR) monitoring plays a crucial role in assessing fetal well-being during prenatal care, enabling the detection of abnormal patterns and supporting timely obstetric interventions to mitigate fetal risks during labor. Applying artificial intelligence (AI) methods to analyze large datasets of continuous FHR monitoring episodes with diverse outcomes may offer novel insights into predicting the risk of needing breathing assistance or interventions. Recent advances in wearable FHR monitors have enabled continuous fetal monitoring without compromising maternal mobility. However, sensor displacement during maternal movement, as well as changes in fetal or maternal position, often lead to signal dropout, resulting in gaps in recorded FHR data. Such missing data limits the extraction of meaningful insights and complicates automated (AI-based) analysis. Traditional approaches to handling missing data, such as simple interpolation techniques, often fail to preserve the spectral characteristics of the signals. In this paper, we propose a masked transformer-based autoencoder approach to reconstruct missing FHR signals by capturing both local temporal and frequency components of the data. The proposed method demonstrates robustness across varying durations of missing data and can be used for signal inpainting and forecasting. The proposed approach can be applied retrospectively to research datasets to support the development of AI-based risk algorithms. In the future, the proposed method could be integrated into wearable FHR monitoring devices to achieve earlier and more robust risk detection.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2605.29695v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22548v1cs.AI공통 태그 Time Series, Time Series Forecasting, Imputation

SeT-Diff: HPC 텔레메트리 및 시계열을 위한 의미 기반 파운데이션 모델

SeT-Diff: Towards Semantic Foundation Models for HPC Telemetry and Time-Series

데이터센터와 그 컴퓨트 노드는 워크로드, 환경 매개변수, 물리적 지표 간의 복잡한 상호작용을 모델링할 수 있는 정확하고 유연한 디지털 트윈이 필요하다. 현재 HPC 및 그 텔레메트리를 위한 머신러닝 접근법은 일반적으로 단일 작업에 맞춰진 익명의 고정 위치 센서 변수의 정적 부분집합에 의존한다. 결과적으로, 목표 작업이 변경되거나 센서 지표가 달라지면 이러한 모델은 더 이상 유효하지 않게 된다. 우리는 컴퓨트 노드 텔레메트리 및 시계열을 위한 최초의 파운데이션 모델인 SeT-Diff를 제안한다. 경직된 아키텍처와 달리, 우리의 확산(diffusion) 기반 접근법은 각 센서의 의미적 설명에 생성 과정을 조건화하여 시스템 역학을 데이터셋의 구조로부터 분리한다. 실제 슈퍼컴퓨터 데이터셋에 대한 실험은 재구성 작업에서 평균 절대 오차(MAE) 0.0470을 보여준다. SeT-Diff는 제로샷(zero-shot) 순열 안정성을 보이며, 센서 순서가 섞여도 정확도를 미미한 저하만으로 유지한다. 단일 사전학습 모델이 데이터 보간(imputation), 예측(forecasting), 가상 센싱(virtual sensing)을 효과적으로 수행하며 — 열 추론에서 0.033 MAE를 달성 — SeT-Diff를 HPC 시스템을 위한 효과적인 데이터 기반 디지털 트윈으로 만든다.

arXiv:2610.15760v1cs.LG공통 태그 Time Series, Time Series Forecasting

학습 가능한 분해 및 다양체 역학을 활용한 쌍곡 시계열 예측

Hyperbolic Time Series Forecasting with Learnable Decomposition and Manifold Dynamics

다중 스케일(multiscale) 구조는 시계열 예측의 핵심입니다. 시간 신호는 천천히 변화하는 트렌드, 중간 수준의 계절적 패턴, 그리고 고주파수 잔차를 포함합니다. 기존 예측 모델은 이러한 다중 스케일 구조를 유클리드 공간에서 모델링하여, 구성 요소들 사이에 유도되는 순서를 표현하지 못합니다. 본 연구에서는 종속 분해(cascaded decomposition)가 구성 요소들을 고유 주파수에 따라 정렬하여 자연스러운 주파수 계층을 형성함을 확인했습니다. 이 계층 구조는 반경에 따라 표현 용량이 증가하고 중첩된 계층 구조를 자연스럽게 수용하는 쌍곡 공간(hyperbolic space)의 지수적 부피 증가 특성과 잘 부합합니다. 이에 따라 본 연구에서는 쌍곡 공간에서 작동하는 최초의 장기 시계열 예측(LTSF) 프레임워크인 HyperForecast를 제안합니다. HyperForecast는 원점 근처의 저주파수 성분부터 경계 근처의 고주파수 성분에 이르기까지 반지름 거리가 이러한 중첩 구조를 포착하도록, 분해된 시간 구간을 푸앵카레 공(Poincaré ball) 위에 임베딩합니다. 또한 측지선 속도(geodesic velocity)를 두 가지 다양체 역학(manifold dynamics) 변형을 통해 모델링합니다: (a) 푸앵카레 잔차 역학을 통한 자기회귀 예측, (b) 모든 미래 구간을 병렬로 예측하는 비자기회귀 예측입니다. HyperForecast는 11개 장기 예측 벤치마크 중 9개에서 기존 및 최고 수준(SOTA)의 베이스라인 모델을 일관되게 능가하며, 긴 예측 구간에서 평균 제곱 오차(MSE)를 최대 58%까지 낮췄습니다. 추가 분석을 통해 학습된 반경 임베딩이 주파수 계층을 성공적으로 복원하며, 쌍곡 기하학이 예측 성능에 실질적으로 기여함을 밝혔습니다.

arXiv:2610.10697v1quant-ph공통 태그 Time Series, Time Series Forecasting

양자 혼돈 역학을 위한 머신러닝에서의 선형성 또는 비선형성에 대하여

On linearity or non-linearity in machine learning for quantum chaotic dynamics

시간 진화 동안 엔탱글먼트(entanglement, 양자 얽힘)가 급격히 축적되고 공간적으로 확산되기 때문에, 혼돈 양자 다체 역학(chaotic quantum many-body dynamics)을 정확하게 시뮬레이션하는 것은 고전적 계산 방식에 여전히 주요한 난제로 남아 있습니다. 이는 머신러닝이 양자 역학을 예측하기 위한 효과적인 대안을 제공할 수 있는지에 대한 의문을 제기합니다. 본 연구에서는 리드버그 원자 배열(Rydberg-atom arrays)로 구현 가능한 소수 큐비트 PXP 체인을 벤치마크로 사용하여, 양자 역학을 시계열 예측 문제로 정식화함으로써 이 질문을 다룹니다. 초기 상태를 변화시킴으로써 시스템은 에르고딕(ergodic) 거동부터 양자 다체 흉터 형성(quantum many-body scarring)에 이르는 동역학적 영역을 포괄하며, 질적으로 서로 다른 동역학 전반에 걸쳐 예측 모델을 테스트할 수 있는 제어된 환경을 제공합니다. 저자들은 표현력이 풍부한 비선형 트랜스포머(Transformer)와 단순 선형 예측 모델인 DLinear라는 대조적인 두 아키텍처를 비교합니다. 트랜스포머는 보다 에르고딕한 영역에서 역학을 정확하게 예측하지만, 초기 상태가 흉터 한계(scarred limit)에 가까워질수록 성능이 점진적으로 저하됩니다. 반면 DLinear는 전체 초기 상태 계열 전반에서 높은 정확도를 유지하며, 주요 편차는 전체 예측 오차에 거의 영향을 미치지 않는 작은 고주파 진동으로만 구성됩니다. 놀랍게도 이러한 결과는 복잡한 양자 다체 역학에 의해 생성된 관측 가능량을 과거 관측값에서 미래 관측값으로의 단순한 선형 매핑만으로도 높은 정확도로 예측할 수 있음을 보여줍니다. 이는 기저에 있는 양자 진화의 복잡성이 반드시 동일하게 복잡한 예측 문제로 귀결될 필요는 없음을 시사합니다.

arXiv:2610.10727v1q-fin.CP공통 태그 Time Series, Time Series Forecasting

중고 전자기기의 다중 시계열 가격 예측을 위한 심층 학습 대 통계 모델: 체계적 벤치마크

Deep Learning vs. Statistical Models for Multi-Horizon Price Forecasting of Second-Hand Electronics: A Systematic Benchmark

중고 전자기기의 재판매 가격 예측은 가격 책정 오류가 곧바로 위험으로 이어지는 구독 기반 플랫폼에 매우 중요합니다. 구조화된 금융 시장과 달리 중고 전자기기는 높은 변동성, 희소한 매물 등록 이력, 비정규 가격 역학을 보이지만, 이 영역에 대한 체계적인 시계열 벤치마크(benchmark)는 존재하지 않습니다. 본 논문에서는 중고 전자기기 가격 예측을 위한 통계 및 심층 학습(deep learning) 예측 모델의 첫 다중 시계열(multi-horizon) 벤치마크를 제시합니다. 폴란드 온라인 마켓플레이스의 일별 가격 매물 대규모 데이터셋(2022년 1월부터 2025년 3월까지, 100개 이상의 스마트폰 및 노트북 모델)을 사용하며, 고전적 기법(ARIMA, ETS, Theta), 순환 및 합성곱 네트워크(LSTM, TCN), 현대 심층 아키텍처(N-BEATS, N-HiTS, TFT, PatchTST, Informer)를 포괄하는 11개 모델을 1일부터 365일까지 6개 예측 구간(horizon)에 걸쳐 평가합니다. 세 가지 상호보완적 평가 프로토콜은 궤적 적합도, 단발성(one-shot) 종단점 정확도, 시계열 간 전이(cross-horizon transfer)를 측정합니다. N-BEATS는 30일 이후에서 가장 낮은 MAPE를 달성하여 365일에서 8.51%에 도달했으며, 이는 최고 성능 통계 기준선(baseline)의 14.94% 대비 43% 감소한 수치입니다. 단기 예측 구간(1-7일)에서는 모든 모델이 약 0.72% MAPE로 수렴하며 나이브 기준선도 경쟁력을 유지합니다. 365일 기준으로 학습된 단일 N-BEATS 모델은 더 짧은 모든 예측 구간으로 일반화되어 구간별 맞춤형 모델의 필요성을 없앱니다. 또한 N-BEATS와 N-HiTS는 뛰어난 하이퍼파라미터 안정성을 보여줍니다.

arXiv:2609.40265v2cs.LG공통 태그 Time Series, Time Series Forecasting

OpenTSLM TeeMoE: 시계열 예측, 문맥 조건부 예측 및 추론을 위한 통합 시계열 언어 모델

OpenTSLM TeeMoE: A Unified Time-Series Language Model for Forecasting, Contextual Prediction, and Reasoning

실제 환경의 시계열 애플리케이션에서는 시계열 예측, 문맥 조건부 예측, 그리고 언어 기반의 시간적 추론을 모두 처리할 수 있는 모델이 점점 더 많이 요구되고 있습니다. 그러나 현재의 시계열 파운데이션 모델들은 이러한 역량 전반에 걸쳐 여전히 파편화되어 있습니다. 수치 특화 모델은 흔히 가장 강력한 예측 성능을 제공하는 반면, 언어 기반 모델은 더 넓은 문맥 이해와 분석 기능을 제공합니다. 핵심 과제는 이러한 이종의 역량들을 각각의 성능 저하 없이 하나로 통합하는 것입니다. 본 논문에서는 관측된 시계열로부터 직접 예측을 수행하고, 텍스트 문맥과 시간적 패턴에 걸쳐 추론하며, 외부 수치 예측 전문 모델들의 예측값을 종합 및 정제할 수 있는 범용 시계열 언어 모델인 OpenTSLM TeeMoE를 소개합니다. 우리는 공유 백본 상에서 예측 종합, 자체 예측, 시간적 분석을 위한 세 개의 저순위(low-rank) 전문가를 독립적으로 학습합니다. 그런 다음 학습된 LoRA 전문가 혼합(MoE) 컨트롤러가 각 요청에 대해 고정된 이들의 매개변수 업데이트에 가중치를 부여합니다. 제안된 모델은 시계열 예측, 문맥 조건부 예측, 언어 기반 시간적 추론 분야의 널리 사용되는 벤치마크에서 우수한 성능을 달성하여, 평균 MASE 순위 기준 GIFT-Eval, RCRPS 기준 Context is Key, 정확도 기준 TimeSeriesExam에서 상위 3위 이내에 올랐습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.