Temporal-Clustering Invariance in Irregular Healthcare Time Series
원문 초록
Electronic records contain sequences of events, some of which take place all at once in a single visit, and others that are dispersed over multiple visits, each with a different timestamp. We postulate that fine temporal detail, e.g., whether a series of blood tests are completed at once or in rapid succession should not alter predictions based on this data. Motivated by this intuition, we propose models for analyzing sequences of multivariate clinical time series data that are invariant to this temporal clustering. We propose an efficient data augmentation technique that exploits the postulated temporal-clustering invariance to regularize deep neural networks optimized for several clinical prediction tasks. We introduce two techniques to temporally coarsen (downsample) irregular time series: (i) grouping the data points based on regularly-spaced timestamps; and (ii) clustering them, yielding irregularly-paced timestamps. Moreover, we propose a MultiResolution Ensemble (MRE) model, improving predictive accuracy by ensembling predictions based on inputs sequences transformed by different coarsening operators. Our experiments show that MRE improves the mAP on the benchmark mortality prediction task from 51.53% to 53.92%.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
MASCIT: 자연적으로 불규칙한 시계열을 위한 마스크 인식 상태 공간 분류기
MASCIT: A Mask-Aware State Space Classifier for Naturally Irregular Time Series
자연적으로 불규칙한 시계열은 비동기 관측치, 결측값, 불균등한 길이, 비균일 샘플링이 결합되어 있는 반면, 조밀한 어댑터는 시간적 구조를 버릴 수 있습니다. 본 논문에서는 인코더에 관측 마스크를 제공하고 게이트 시간 집계에서 유효하지 않은 스텝을 제외하는 불규칙 시계열용 마스크 인식 상태 공간 분류기(MASCIT)를 제안합니다. 34개의 불규칙 시계열 데이터셋 전반에서 MASCIT은 가장 강력한 종합 점추정치를 산출했으며, 모든 데이터셋에서 3개 시드 결과를 갖춘 유일하게 평가된 신경망 모델이었습니다. MASCIT은 6개의 중복되는 불규칙성 지표 전반에서 가장 낮은 포인트 순위를 유지한 반면, 요인 절제 연구에서는 완전한 선택성보다 부분적 선택성을 선호하는 것으로 나타났습니다. 이러한 결과는 선택적 상태 공간 모델이 자연적으로 불규칙한 시계열 분류를 위한 효과적이고 실행 가능한 백본임을 뒷받침합니다.
행동 인식을 향상시키기 위한 확산 기반 합성 데이터 사전학습
Diffusion-Based Synthetic Data Pretraining for Enhancing Activity Recognition
인간 행동 인식(HAR)은 헬스케어, 웰빙 및 일상 모니터링 응용 분야에서 중요성이 점점 더 커지고 있으며, 이 중 식사 및 음용과 같은 섭취 행동을 감지하는 것은 식습관과 만성 질환 관리에 대한 실행 가능한 통찰을 제공할 수 있습니다. 그러나 HAR 시스템은 미세하거나 데이터가 부족한 소수 클래스에서 성능이 저하되는 경우가 많아 실제 식단 모니터링에서의 활용성이 제한됩니다. 본 연구는 스마트워치의 가속도계, 자이로스코프, 지자기 센서 데이터로부터 변별력 있는 시간적 패턴을 포착하도록 설계된 양방향 GRU 레이어, 멀티헤드 어텐션, 잔차 연결을 포함하는 합성곱 아키텍처인 CABiGRU를 기반으로 합니다. CABiGRU의 일반화 성능을 향상시키고 소수 클래스의 과소적합을 줄이기 위해, 확산 모델을 사용하여 합성 센서 데이터 윈도우를 활용하고 2단계 학습 전략을 채택합니다. 즉, 합성 데이터로 CABiGRU를 사전학습한 후 실제 데이터로 미세조정을 수행합니다. DEO(음용/식사/기타) 데이터셋에서 제안된 파이프라인은 90.6%의 균형 정확도(balanced accuracy)를 달성하여 강력한 지도학습 기준선 대비 성능을 향상시켰으며, 섭취 행동 인식에 대한 확산 기반 합성 사전학습의 이점을 보여주고 불균형 클래스를 다루는 데 있어 진전을 나타냅니다. 이러한 결과는 확산 모델로 생성된 데이터와 표적화된 미세조정을 결합하는 것이 식습관 행동의 강건한 인식을 향상시켜, 헬스케어 및 영양 모니터링 환경에서 보다 신뢰성 있는 배포를 지원함을 시사합니다.
CAST: 문맥 및 이상 구조 조건부 시계열 이상치 생성
CAST: Context- and Anomaly Structure-Conditioned Time Series Anomaly Generation
이상 시계열은 안전이 중요한 영역에서 핵심적인 역할을 하지만 본질적으로 희소하고 이질적이며 획득 비용이 높습니다. 기존 시계열 생성 방법은 주로 정상 데이터 합성에 집중되어 있어 이상 샘플이 필요할 때 제한적인 가치만을 제공합니다. 본 논문에서는 이상 생성에서 두 가지 근본적인 과제를 규명합니다. 바로 (i) 이상 데이터의 희소성과 (ii) 이상의 이질적인 형태학적 특성입니다. 이러한 과제를 해결하기 위해, 원칙적인 2단계 사전학습(pre-training) 및 파인튜닝(fine-tuning) 전략을 갖춘 문맥 및 이상 구조 조건부 시계열 이상 생성 프레임워크인 CAST를 제안합니다. 사전학습 단계에서는 풍부한 정상 시계열 데이터를 활용하여 기저의 시스템 역학을 학습함으로써 이상 데이터의 제한된 가용성을 대폭 완화합니다. 파인튜닝 단계에서는 CAST가 학습된 이상 구조 표현을 기반으로 생성기를 명시적으로 조건화하여, 유사한 문맥 조건 하에서도 이질적인 이상 형태를 포착할 수 있도록 합니다. 다양한 실제 단변량 및 다변량 데이터셋에 대한 광범위한 실험을 통해, CAST가 생성 충실도(fidelity)와 다운스트림 태스크 유용성 측면 모두에서 최신 이상 생성 방법들을 일관되게 능가함을 입증하여 제안된 접근법의 유효성을 강조합니다.
DiaSeg: 해석 가능한 보행 분석을 위한 DTW 경로에서의 대각 세그먼트 추출
DiaSeg: Diagonal Segment Extraction from DTW Paths for Interpretable Gait Analysis
동적 시간 워핑(Dynamic Time Warping, DTW)은 시계열 간 유사도를 측정하는 데 지배적으로 사용되는 방법이지만, 표준적인 방식은 단일 거리 값을 계산한 후 최적 워핑 경로를 폐기함으로써 임상 진단과 가장 관련이 깊은 지역적 정렬 정보를 잃는다. 본 논문은 제어된 단절을 허용하며 DTW 경로에서 대각 세그먼트를 추출하는 프레임워크인 DiaSeg를 소개한다. DiaSeg는 각 세그먼트를 다섯 가지 기하학적 특징(유효 길이, 단절 횟수, 비용 변동, 시간적 위치, 경로 맥락)으로 특성화하며, 도메인 특화 특징 공학(feature engineering) 없이 비지도 패턴 발견을 가능하게 한다. 6가지 임상 상태(건강한 노화, 파킨슨병, 헌팅턴병, 근위축성 측삭경화증(ALS), 뇌종양, 뇌졸중)에 걸친 91명의 피험자를 대상으로 검증한 결과, 세 가지 결과가 도출되었다. 첫째, 대각 세그먼트는 생체역학적 단계 주석과 일치하는 일관된 비지도 패턴을 형성하며(실루엣 계수 0.33), 레이블 기반 검증을 통해 건강한 보행과 병리적 보행 간 거의 완벽한 분리를 확인하였다(조정 랜드 지수(ARI) 최대 0.986). 둘째, 세그먼트는 지도 학습에서 69%, 환자 수준 클러스터링에서 75%의 정확도로 병리를 구분하며, 병리는 세그먼트 길이의 분포적 변화를 통해 나타난다. 세그먼트 특징과 주기(cycle) 수준 특징을 결합하면 분류(classification) 정확도가 91.7%까지 향상된다. 셋째, 주기 기반 방법이 더 높은 정확도(91%)를 달성하지만, 대각 세그먼트는 전역적 표현으로는 얻을 수 없는 단계별 해석 가능성을 제공하여 보행 주기 내에서 협응이 무너지는 위치를 국소화할 수 있다. 이처럼 DiaSeg는 DTW를 블랙박스 거리 척도에서 신경퇴행성 질환 평가를 위한 해석 가능한 시간적 특징의 원천으로 전환한다.
EEG 운동 상상 분류를 위한 생성 증강: 순환 일관성 디코더 정제를 갖춘 클래스 조건부 VAE
Generative Augmentation for EEG Motor Imagery Classification: A Class-Conditional VAE with Cycle-Consistent Decoder Refinement
생성 모델이 독립적인 하류 분류기의 정확도를 향상시키는 데 유용한 합성 운동 상상(MI) 뇌전도(EEG) 시행을 제공할 수 있는지 조사한다. Zhou 운동 상상 데이터셋에서 통합 잠재 분류기를 갖춘 클래스 조건부 변분 오토인코더(CVAE)를 학습하고, 학습된 클래스별 사전분포를 생성기로 사용한다: 주어진 레이블에 대해 사전분포에서 샘플링하여 이를 레이블과 일치하는 합성 신호로 디코딩한다. 생성된 데이터의 공분산 행렬에 대한 제약은 공분산 구조의 보존을 장려하며, 모델은 일반 VAE 학습과 증강에 사용되는 생성 경로를 선명하게 하는 디코더 중심 단계를 번갈아 수행하는 스케줄로 학습된다. 두 가지 평가 프로토콜—사용자 내(within-user, 피험자 간 풀링된 60/20/20 분할) 및 사용자 간(cross-user, leave-one-subject-out, LOSO)—에서 학습 세트에 합성 시행을 추가하는 효과를 네 가지 대표적인 EEG 분류 파이프라인—선형 판별 분석(LDA)과 함께하는 공통 공간 패턴(CSP+LDA), 서포트 벡터 머신(SVM)과 함께하는 접선 공간(tangent-space) 특징(TGSP+SVM), 리만 평균까지의 최소 거리(MDM), EEGNetv4 기반 신경망(이하 EEGNet)—에 걸쳐 측정한다. 결과는 독립적인 증강 추출, 무작위 시드(사용자 내), 또는 leave-one-subject-out 폴드(사용자 간)에 걸쳐 집계되며, 불확실성은 시드/폴드별 평균에 대해 계산된 95% 신뢰구간(Student's t-분포)으로 보고된다. CVAE로부터의 합성 EEG는 실제 원시 EEG의 대체재라기보다는 클래스 구조화된, 공분산 유사 데이터의 원천으로서 가장 신뢰할 만하다: MDM의 점 추정치를 높일 수 있지만, 더 넓은 증강 주장은 보수적으로 남아 있다—관찰된 이득은 작고 분류기에 따라 다르다.
bag-of-waves를 이용한 해석 가능한 EEG 바이오마커: 저데이터 환경을 위한 공간·시간 파형 사전
Interpretable EEG biomarkers with bag-of-waves: Spatial and temporal waveform dictionaries for low-data regimes
EEG(전기뇌파)는 신경학적 질환 진단에 널리 사용되지만, 그 분석은 보통 사전 정의된 스펙트럼 특징이나 심층 신경망에 의존한다. 사전 정의된 특징은 정보적 가치가 있는 것을 미리 고정하기 때문에 강한 바이어스를 수반하며, 심층 신경망과 파운데이션 모델은 해석하기 어렵고 대량의 데이터와 연산 자원이 필요하다. 우리는 bag-of-waves를 제안한다. 이는 레이블 없이 shift-invariant k-means를 사용하여 반복되는 EEG 파형 템플릿(atom이라고 함)의 작은 사전을 학습하는 해석 가능한 프레임워크이다. 연속 EEG 신호는 atom 토큰의 시퀀스로 변환되며, 그 토큰의 빈도는 간단한 하류 분류기 또는 클러스터링 단계에 입력된다. 이 표현을 두 가지 방식으로 확장한다: 시간적 구조를 포착하기 위해 atom 간 전이(n-gram이라고 부름)를 추가하고, 다채널 경우를 위해 단일 채널 atom에서 지역 및 채널 간 공간 atom으로 확장한다. 세 가지 상호 보완적인 데이터셋에서 방법을 검증한다. 각 데이터셋은 서로 다른 측면을 탐구한다: 동물 16마리만으로 수행한 단일 채널 마우스 유전형 클러스터링(저데이터 및 시간적 사례), 휴식 상태 치매 분류(공간적 사례), 그리고 임상 EEG 이벤트의 6분류를 위한 TUEV 벤치마크(강력한 심층 및 파운데이션 기준선과의 고데이터 비교). 세 데이터셋 모두에서 bag-of-waves는 최첨단 심층 및 파운데이션 모델과 경쟁력 있는 성능을 달성한다. 그러나 매개변수 수의 극히 일부만으로 동작하며 완전한 해석 가능성을 제공한다. 모든 atom이 검사 가능한 파형에 대응하기 때문에, 이 방법은 신경생리학자가 직접 검증할 수 있는 알려진 임상 형태학을 명시적으로 복원한다. 주요 장점은 더 무거운 모델이 적합하지 않은 저데이터 환경에서도 잘 작동한다는 점이다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.