Combining multitemporal optical and SAR data for LAI imputation with BiLSTM network
원문 초록
The Leaf Area Index (LAI) is vital for predicting winter wheat yield. Acquisition of crop conditions via Sentinel-2 remote sensing images can be hindered by persistent clouds, affecting yield predictions. Synthetic Aperture Radar (SAR) provides all-weather imagery, and the ratio between its cross- and co-polarized channels (C-band) shows a high correlation with time series LAI over winter wheat regions. This study evaluates the use of time series Sentinel-1 VH/VV for LAI imputation, aiming to increase spatial-temporal density. We utilize a bidirectional LSTM (BiLSTM) network to impute time series LAI and use half mean squared error for each time step as the loss function. We trained models on data from southern Germany and the North China Plain using only LAI data generated by Sentinel-1 VH/VV and Sentinel-2. Experimental results show BiLSTM outperforms traditional regression methods, capturing nonlinear dynamics between multiple time series. It proves robust in various growing conditions and is effective even with limited Sentinel-2 images. BiLSTM's performance surpasses that of LSTM, particularly over the senescence period. Therefore, BiLSTM can be used to impute LAI with time-series Sentinel-1 VH/VV and Sentinel-2 data, and this method could be applied to other time-series imputation issues.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SeT-Diff: HPC 텔레메트리 및 시계열을 위한 의미 기반 파운데이션 모델
SeT-Diff: Towards Semantic Foundation Models for HPC Telemetry and Time-Series
데이터센터와 그 컴퓨트 노드는 워크로드, 환경 매개변수, 물리적 지표 간의 복잡한 상호작용을 모델링할 수 있는 정확하고 유연한 디지털 트윈이 필요하다. 현재 HPC 및 그 텔레메트리를 위한 머신러닝 접근법은 일반적으로 단일 작업에 맞춰진 익명의 고정 위치 센서 변수의 정적 부분집합에 의존한다. 결과적으로, 목표 작업이 변경되거나 센서 지표가 달라지면 이러한 모델은 더 이상 유효하지 않게 된다. 우리는 컴퓨트 노드 텔레메트리 및 시계열을 위한 최초의 파운데이션 모델인 SeT-Diff를 제안한다. 경직된 아키텍처와 달리, 우리의 확산(diffusion) 기반 접근법은 각 센서의 의미적 설명에 생성 과정을 조건화하여 시스템 역학을 데이터셋의 구조로부터 분리한다. 실제 슈퍼컴퓨터 데이터셋에 대한 실험은 재구성 작업에서 평균 절대 오차(MAE) 0.0470을 보여준다. SeT-Diff는 제로샷(zero-shot) 순열 안정성을 보이며, 센서 순서가 섞여도 정확도를 미미한 저하만으로 유지한다. 단일 사전학습 모델이 데이터 보간(imputation), 예측(forecasting), 가상 센싱(virtual sensing)을 효과적으로 수행하며 — 열 추론에서 0.033 MAE를 달성 — SeT-Diff를 HPC 시스템을 위한 효과적인 데이터 기반 디지털 트윈으로 만든다.
수문 시계열 확률적 보간 및 예측을 위한 트랜스포머 기반 확산 모델
Transformer-based Diffusion models for Hydrological Time Series Probabilistic Imputation and Forecasting
관측이 제한된 수문기상 시계열 모델링은 수계 시스템 및 수자원 모니터링, 또한 홍수나 가뭄 위험 평가에서 핵심 과제이다. 기본 프로세스의 높은 변동성과 가용 측정값의 희소성으로 인해, 전통적인 통계적 접근법은 종종 그 역학을 정확히 표현하는 데 어려움을 겪는다. 이러한 맥락에서, 심층 학습의 최근 발전은 여러 관측 지점에서 샘플링된 복잡한 시간적 프로세스의 표현과 생성을 개선할 유망한 방향을 제공한다. 본 연구는 수문학적 시계열의 시뮬레이션 및 재구성에 트랜스포머 기반 확산 모델의 적용을 조사한다. 제안된 프레임워크는 북동부 프랑스의 석회암 고원에 위치하며 숲과 경작지로 덮인 세 인접 상류 유역에 분포한 여섯 지점에서 수량과 수질의 공동 모델링에 적용된다. 해당 모델은 15년 이상 LNE 계량학 전문성과 Andra의 월별 품질 관리 협력을 통해 품질 관리되었고 센서 드리프트 및 고장이 보정된 가용 관측 데이터를 사용하여 보정 및 검증된다. 그 성능은 시계열 모델링에 일반적으로 사용되는 여러 확립된 기준선 접근법과 비교된다. 정량적 평가 지표를 사용하여 두 가지 설정—불완전한 시계열의 보간(imputation)과 향후 수문학적 조건의 예측(forecasting)—에서 제안 방법이 관측 신호의 핵심 시간적 특성을 재현하는 능력을 평가한다. 결과는 트랜스포머 기반 접근법의 효과를 뒷받침하며 수문학적 데이터에 존재하는 복잡한 패턴을 포착하고 시뮬레이션하는 능력을 강조한다. 특히 결과는 확산 모델이 예측과 보간 모두에서 가변적인 결측 데이터를 갖는 관측 설정 하에서 현실적인 시계열 분포를 효율적으로 샘플링할 수 있음을 나타낸다.
StrideDiffusion: 시계열 생성을 위한 확산 모델 가속
StrideDiffusion: Accelerating Diffusion Models for Time-series Generation
확산 모델은 시계열 생성에서 경쟁력 있는 생성기가 되었지만, 추론 시 필요한 순차적 디노이징 단계가 많아 실용적 사용이 제한된다. 기존의 빠른 샘pler는 보통 고정되거나 일반적인 타임스텝 일정을 사용하며, 시계열 확산의 독특한 특성을 간과한다: 역과정 동안 서로 다른 스펙트럴 대역이 서로 다른 속도로 진화한다는 점이다. 우리는 StrideDiffusion을 제안한다. 이는 학습 없이 스펙트럴을 인식하는 샘pler로, 대역 수준 활동에 따라 디노이징 stride를 적응적으로 선택한다. 각 단계에서 StrideDiffusion은 상대적 대역 에너지, 로그 파워 drift, 위상 속도를 모니터링하여 고주파 역학이 여전히 활성인지, 아니면 궤적이 안정적인 저주파 구조에 의해 지배되는지 판별한다. 그런 다음 빠르게 변하는 대역이 활성일 때는 세밀한 단계를, 거친 성분만 남았을 때는 더 큰 점프를 취한다. 대역별 안정성 분석은 비활성 주파수 대역이 결정론적 아핀 역 업데이트 하에서 점프 크기에 대해 선형적으로만 변함을 보여주며, 단계 크기 지표로서의 스펙트럴 활동에 대한 국소적 정당화를 제공한다. 6개의 무조건적 시계열 생성 벤치마크에서 StrideDiffusion은 500/1000 디노이징 단계 대신 14-66회의 함수 평가만 사용하여, 생성 품질을 유지하거나 개선하면서 최대 18.9배의 실측 시간 가속을 달성한다. 조건부 보간(imputation) 및 예측(forecasting)에서도 비교 가능한 예측 정확도로 5-14배의 평균 가속을 추가로 제공한다. 이러한 결과는 스펙트럴 진화가 빠른 시계열 확산 샘플링을 위한 실용적이고 원칙적인 신호를 제공함을 보여준다. 코드는 https://anonymous.4open.science/r/stridediff-ts 에서 이용 가능하다.
SafeImpute: 순응적 선택을 통한 신뢰할 수 있는 임상 데이터 대체 보정
SafeImpute: Reliable Clinical Data Imputation via Conformal Selection
임상 진료는 주요 검사 지표에 크게 의존하지만, 실제 환자 방문은 드물고 검사는 불규칙적으로 의뢰되어 결측값이 광범위하게 발생한다. 많은 대체 보정(imputation) 방법들이 평균 정확도를 향상시키지만, 고위험 후속 사용에 충분히 신뢰할 수 있는 대체 값이 어떤 것인지에 대한 지침은 제한적이다. 본 연구에서는 신뢰할 수 있는 임상 대체 보정을 연구하며, 임상적으로 허용 불가한 오류에 대한 통계적 제어와 함께 정확한 대체 보정을 수행하면서 신뢰할 수 있는 결과를 선택적으로 공개하는 것을 목표로 한다. 이 목표를 달성하기 위해, 불규칙하고 희소한 임상 종단 기록을 위한 신뢰할 수 있는 대체 보정 프레임워크인 SafeImpute를 제안한다. SafeImpute는 환자 내 시간적 궤적과 환자 간 임상적 유사성을 모두 포착하는 이벤트 그래프를 구성하고, 보조적 마스킹 재구성 목적 함수로 정규화된 이중 관계 GNN과 적응적 융합을 통해 대체 보정을 학습한다. 신뢰성 보장을 위해, SafeImpute는 프록시 위험 점수를 순응적(conformal) p-값으로 변환하고 Benjamini--Hochberg 절차를 적용하여, 사용자가 지정한 허용 오차 내에서 공개된 대체 보정 중 허용 불가한 오류의 위발견율(FDR)을 제어한다. Mayo Clinic 데이터, 공개 데이터셋 MIMIC-III 및 MIMIC-IV에 대한 실험에서 SafeImpute는 강력한 대체 보정 정확도를 달성하면서 신뢰할 수 있는 오류 제어를 제공하며, 표준 대체 보정 평가와 FDR 제어 선택적 공개 평가 모두에서 다양한 기준 모델을 능가하였다.
결측을 신호로: 임상 시계열 예측을 위한 채널 독립 스펙트로그램 학습
Missingness as Signal: Channel-Independent Spectrogram Learning for Clinical Time Series Prediction
집중치료실에서의 임상 시계열 예측은 이질적인 생리학적 변수와 정보적 결측(informative missingness)으로 인해 여전히 어려운 과제이다. 측정값의 존재 또는 부재는 임상적 의사결정과 환자 중증도를 반영할 수 있으며, 따라서 결측은 단순한 데이터 아티팩트가 아닌 예측 신호로 기능할 수 있다. 본 연구는 임상 다변량 시계열 예측을 위한 결측 스트림을 갖춘 채널 독립 스펙트로그램 프레임워크인 CISM을 제안한다. CISM은 각 임상 변수를 변수별 시간-주파수 스펙트로그램으로 변환하고, 변수 정렬 인코딩(variable-aligned encoding)을 통해 변수 정체성을 보존하며, 명시적 결측 스트림을 스펙트로그램 표현과 정렬한다. MIMIC-IV에서 도출된 원내 사망률 태스크에 대한 실험 결과, CISM은 비교 대상인 시계열, 결측 인식, 비전, 시간-주파수 기반선 중 가장 높은 평균 AUROC(0.7225), AUPRC(0.3308), F1(0.3808)을 달성하였다. ablation 연구에서는 관측 패턴이 의미 있는 정보 신호를 제공함을 추가로 보여준다. 픽셀 수준 마스크 주입(pixel-level mask injection)은 일반 스펙트로그램 입력 대비 성능을 향상시키며 이러한 예측 가치의 상당 부분을 회복한다. 정렬된 결측 스트림은 AUROC와 AUPRC 모두에서 추가적이고 보완적인 성능 향상에 기여한다. 이러한 결과는 임상 시계열 예측에서 관측 패턴을 구조화된 신호로 모델링하는 것의 중요성을 부각한다.
디지털 트윈의 시계열 인식을 위한 모듈형 파운데이션 모델
Modular Foundation Models for Time-Series Perception in Digital Twins
엔지니어링 디지털 트윈과 예지보전 및 건강 관리(PHM) 시스템은 이질적이고 비정상적인 시계열 데이터에서 실행 가능한 정보를 추출하기 위해 강건한 인식 모듈에 의존한다. 그러나 기존 접근법들은 대부분 특정 태스크에 종속적이고, 대량의 데이터를 요구하며, 확장 가능한 모니터링 및 의사결정 파이프라인에 통합하기 어렵다. 더욱이 순수 데이터 기반 모델은 다양한 운용 조건에서 강건성과 전이 가능성이 부족한 경우가 많다. 이러한 문제를 해결하기 위해, 본 논문은 사전학습된 표현 인코더 집합을 기반으로 한 시계열 인식용 모듈형 파운데이션 모델을 제안한다. 이 프레임워크는 이질적인 데이터셋에 대한 자기지도 학습(self-supervised learning)을 활용하여 전이 가능하고 태스크 비종속적인 표현을 학습하며, 이를 다수의 PHM 태스크에 재사용할 수 있다. 주어진 목표 데이터셋에 적합한 인코더를 동적으로 선택하는 게이팅 메커니즘을 도입하여 조건부 연산과 적응적 모델 구성을 가능하게 한다. 선택된 표현들은 공유 잠재 공간에 투영되고, 인코더 간 상호작용을 명시적으로 모델링하는 트랜스포머 기반 셀프-어텐션 모듈을 통해 집계된다. 결과적인 아키텍처는 경량 태스크별 헤드를 통해 결측값 보간(imputation), 장기 예측(long-term forecasting), 퓨샷 학습을 포함한 다수의 다운스트림 태스크를 지원하며, 적응 과정에서 사전학습된 인코더는 동결 상태를 유지한다. 광범위한 ablation 연구를 통해 자기지도 사전학습, 인코더 선택, 표현 정렬, 적응적 집계의 상호 보완적 역할을 입증한다. ETT 벤치마크에서의 실험 결과는 여러 태스크에 걸쳐 경쟁력 있는 성능을 보이며, 수력 발전기 로터 온도의 가상 센싱에 관한 실제 산업 사례 연구는 이 접근법의 실용적 타당성을 강조한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.