arXiv:2308.09766

Time Series Predictions in Unmonitored Sites: A Survey of Machine Learning Techniques in Water Resources

Jared D. Willard, Charuleka Varadharajan, Xiaowei Jia, Vipin Kumar

제출 2023-08-18

원문 초록

Prediction of dynamic environmental variables in unmonitored sites remains a long-standing challenge for water resources science. The majority of the world's freshwater resources have inadequate monitoring of critical environmental variables needed for management. Yet, the need to have widespread predictions of hydrological variables such as river flow and water quality has become increasingly urgent due to climate and land use change over the past decades, and their associated impacts on water resources. Modern machine learning methods increasingly outperform their process-based and empirical model counterparts for hydrologic time series prediction with their ability to extract information from large, diverse data sets. We review relevant state-of-the art applications of machine learning for streamflow, water quality, and other water resources prediction and discuss opportunities to improve the use of machine learning with emerging methods for incorporating watershed characteristics into deep learning models, transfer learning, and incorporating process knowledge into machine learning models. The analysis here suggests most prior efforts have been focused on deep learning learning frameworks built on many sites for predictions at daily time scales in the United States, but that comparisons between different classes of machine learning methods are few and inadequate. We identify several open questions for time series predictions in unmonitored sites that include incorporating dynamic inputs and site characteristics, mechanistic understanding and spatial context, and explainable AI techniques in modern machine learning frameworks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10648v1cs.LG공통 태그 Time Series, Transfer Learning

알츠하이머병 연구의 진단 및 진행 예측을 위한 정보 누출 제어 다중 모달 학습

Leakage-Controlled Multimodal Learning for Diagnosis and Progression Prediction in Alzheimer's Disease Research

알츠하이머병(Alzheimer's disease) 예측은 불규칙한 방문 주기, 이종의 측정값, 불완전한 모달리티 문제를 수반합니다. 본 연구에서는 맞춤형 SFCN MRI 인코더, 4개의 인과적 임상 트랜스포머(clinical Transformer), 공유 융합 모듈, 과업별 ODE-GRU 역학을 결합한 다중 모달 다중 과업(multimodal multitask) 프레임워크를 제안합니다. 미세조정(fine-tuning)과 LoRA를 적용해 마지막 두 개의 MRI 블록을 적응시킵니다. Task-DRO는 과업 간 손실의 균형을 맞추며, Group-CVaR은 코호트 및 동반 질환 계층을 목표로 합니다. 브랜치별 입력 제어, 피험자 그룹화 분할, 경험적 인과성 검증을 통해 종단적 평가를 지원합니다. ADNI, OASIS-2, MIRIAD의 2,649명 피험자와 17,317회 방문 데이터를 기반으로 한 내부 검증에서, 진단, 1단계 진행, 첫 1단계 방문 진행의 AUROC는 각각 0.935 +/- 0.002, 0.884 +/- 0.003, 0.870 +/- 0.005를 기록했습니다(3개 시드에 대한 평균 +/- 표준편차). 상응하는 하이브리드 AUROC는 각각 0.951, 0.909, 0.896입니다. 다음 방문 시점의 MMSE 평균 절대 오차(MAE)는 1.61점이며, 최하위 계층의 진단 AUROC는 0.827 +/- 0.008입니다. 샘플링된 ADNI 설명 분석을 통해 과업별 입력 의존성을 식별했습니다. OASIS-3 외부 검증에서는 네트워크 및 하이브리드 진단 AUROC가 각각 0.763과 0.767, 하이브리드 다음 방문 진행 AUROC가 0.764를 기록했고, 진단 캘리브레이션 오차는 0.197에서 0.052로 감소했으며, 다음 방문 MMSE MAE는 0.86을 나타냈습니다. 시드 42에 대한 6개 구성 요소의 대응 절제 연구(ablation study) 결과, 풀링된 진단 및 진행 AUROC 차이는 -0.004에서 +0.004 사이로 나타났으며, 임상 인코더 입력을 제거하면 진단 AUROC가 0.272 감소했습니다. 본 프레임워크는 종단적 예측, 결측 모달리티 처리, 보조 동반 질환 모델링, 하위 그룹 평가를 단일 파이프라인 내에 통합합니다.

arXiv:2610.02497v1cs.LG공통 태그 Time Series, Transfer Learning

LiteEMG-FM: 강건한 EMG 센싱을 위한 효율적이고 배포 가능한 파운데이션 모델

LiteEMG-FM: An Efficient and Deployable Foundation Model for Robust EMG Sensing

근전도(EMG) 신호는 개인, 신체 부위, 측정 세션 및 센싱 하드웨어에 따라 크게 달라지며, 이는 보조 장치 및 인간-컴퓨터 상호작용(HCI)을 위한 모델의 일반화를 제한합니다. 또한 기존의 시계열 파운데이션 모델(foundation model)은 실시간 웨어러블 배포에 연산 비용이 많이 들고, EMG 특유의 시간-주파수 특성을 잘 포착하지 못하는 경우가 많습니다. 본 논문에서는 실용적인 EMG 센싱을 위한 효율적인 하이브리드 CNN-트랜스포머(Transformer) 파운데이션 모델인 LiteEMG-FM을 제시합니다. 16개의 다양한 상·하체 EMG 데이터셋에서 사전학습된 LiteEMG-FM은 사용자와 데이터셋 전반에 걸쳐 일반화되는 표현을 학습합니다. 리소스가 제한된 배포 환경을 위해, 경량 상시 작동(always-on) 1D-CNN이 휴식 상태 및 비목표 활동을 필터링하고 유효한 제스처에 대해서만 LiteEMG-FM을 활성화하는 계층적 웨이크업 아키텍처를 구현합니다. 우리는 완전 추론 오프로딩, 분할 추론, 완전 온디바이스 처리 방식을 평가하여 지연 시간, 전력 소비량, 메모리 사용량 간의 트레이드오프를 규명합니다. 다양한 평가 환경에서 LiteEMG-FM은 최신 시계열 파운데이션 모델 및 지도학습 베이스라인을 능가하며, 특히 캘리브레이션이 없는(zero-calibration) 피험자 간 환경 및 데이터 부족 조건에서 뛰어난 성능을 보입니다. 이러한 결과는 LiteEMG-FM이 EMG 응용 분야에 효과적이고 효율적이며 배포 가능한 파운데이션 모델임을 입증합니다.

arXiv:2609.16071v2cs.LG공통 태그 Time Series, Transfer Learning

부분적 센서 중첩 하의 기계 간 CNC 전이를 위한 월드 모델

World Models for Cross-Machine CNC Transfer under Partial Sensor Overlap

산업용 월드 모델은 동역학, 센싱 인터페이스, 명령 규약이 서로 다른 기계 사이를 옮겨 다녀야 한다. 본 연구는 미래 샘플을 재구성하는 대신 공정의 미래 표현을 예측하도록 학습된 명령 조건부 잠재 월드 모델이 한 번도 보지 못한 기계에서도 가치를 유지하는지를 묻는다. 소스 CNC 기계는 17개 센서 채널을 제공하고, 타깃은 그중 10개를 공유한다. 모든 모델 선택은 소스 데이터만 사용하며, 확정된 구성은 타깃에서 한 번만 평가한다. 두 가지 결과가 뒤따른다. 첫째, 잠재 예측 사전학습은 처음부터 맞춘 학습과 동등한 설정에서 도메인 내 예측 향상을 가져오지 않으므로, 소스 정확도만으로는 그러한 표현의 가치를 알 수 없다. 둘째, 전이된 모델은 보지 못한 기계에서 지속(persistence) 예측을 이기지만(타깃 평균 대비 $R^2\approx0.01$) 각 입력 윈도우를 자체 통계로 정규화하는 공식 예측기에는 뒤처진다. 실행 전에 선언된 잠금 후 ablation은 이 입력 정규화만으로 격차를 메운다는 것을 보여 주며, 격차를 메우는 데는 예측 보정(calibration) 비용이 든다. 따라서 부분적 센서 중첩 하의 기계 간 전이는 명령 조건부 월드 모델을 위한 별도의 평가 축이다.

arXiv:2609.27473v1cs.LG공통 태그 Time Series, Transfer Learning

어디를 볼지 학습하기: 시계열 예측과 PPG 기반 생체 신호 재구성을 위한 공유 상대 정렬 모듈

Learning Where to Look: A Shared Relative-Alignment Module for Time-Series Forecasting and PPG-to-Vital-Sign Reconstruction

PPG 기반 생체 신호 재구성(PPG-to-vital-sign reconstruction)은 손목 착용형 광혈류측정기(PPG) 신호를 심전도(ECG)와 같은 임상 파형으로 변환합니다. 장기 다변량 시계열 예측(long-horizon multivariate time-series forecasting)은 에너지, 날씨, 교통 분야의 계획 수립을 뒷받침합니다. 두 작업 모두 조건 시퀀스로부터 타깃 시퀀스를 생성하지만, 기존 모델들은 각 타깃 위치가 조건 시퀀스를 어디서 읽어올지 동일 위치 복사 또는 계절적 재발과 같이 하드코딩하므로 작업 간 전이가 불가능합니다. 본 논문에서는 이러한 대응 관계를 학습하여 생체 신호 재구성과 시계열 예측을 모두 처리하는 단일 조건화 모듈인 ROOSTER를 제안합니다. 이 모듈의 핵심은 타깃-조건 오프셋에 대한 주기적 빗(periodic-comb) 바이어스로, 그 중심, 주기, 첨도(sharpness)가 헤드별로 학습되므로 하나의 모듈이 항등 정렬(identity alignment)이나 계절적 시차로 수렴하고 발견된 결과를 보고할 수 있습니다. PPG 기반 생체 신호 재구성에서 ROOSTER는 4개의 심박수 및 호흡수 벤치마크에서 기존에 발표된 베이스라인들을 능가했습니다. 다변량 시계열 예측에서는 4개의 벤치마크에서 최적의 예측 기간 평균 MSE를 달성했으며, 일치된 3개 시드 학습 하에 24개의 데이터셋-예측 기간 설정 중 20개에서 자신이 확장한 예측 모델보다 우수한 성능을 보였습니다. 절제 연구(ablation study)에 따르면 콘텐츠 매칭이 아닌 상대적 바이어스가 정렬을 주도한 것으로 나타났습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.