arXiv:2304.06038

Knowledge-Distilled Graph Neural Networks for Personalized Epileptic Seizure Detection

Qinyue Zheng, Arun Venkitaraman, Simona Petravic, Pascal Frossard

제출 2023-04-03

원문 초록

Wearable devices for seizure monitoring detection could significantly improve the quality of life of epileptic patients. However, existing solutions that mostly rely on full electrode set of electroencephalogram (EEG) measurements could be inconvenient for every day use. In this paper, we propose a novel knowledge distillation approach to transfer the knowledge from a sophisticated seizure detector (called the teacher) trained on data from the full set of electrodes to learn new detectors (called the student). They are both providing lightweight implementations and significantly reducing the number of electrodes needed for recording the EEG. We consider the case where the teacher and the student seizure detectors are graph neural networks (GNN), since these architectures actively use the connectivity information. We consider two cases (a) when a single student is learnt for all the patients using preselected channels; and (b) when personalized students are learnt for every individual patient, with personalized channel selection using a Gumbelsoftmax approach. Our experiments on the publicly available Temple University Hospital EEG Seizure Data Corpus (TUSZ) show that both knowledge-distillation and personalization play significant roles in improving performance of seizure detection, particularly for patients with scarce EEG data. We observe that using as few as two channels, we are able to obtain competitive seizure detection performance. This, in turn, shows the potential of our approach in more realistic scenario of wearable devices for personalized monitoring of seizures, even with few recordings.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13918v1cs.NE공통 태그 EEG, Electroencephalogram (EEG)

DyssomniaNN: 인간 수면 장애 및 인지된 피로 회복도에 대한 다중 스케일 스파이킹 신경 모델링

DyssomniaNN: Multi-Scale Spiking Neural Modeling of Human Sleep Disorders and Perceived Restedness

임상 수면 의학에서는 객관적인 수면 시간과 주관적인 주간 기능 장애 사이의 심각한 불일치가 반복적으로 보고되며, 이는 역설적 불면증의 수면 상태 오인과 제1형 기면증의 경계 불안정성에서 두드러지게 나타납니다. 본 논문에서는 수면 항상성과 일주기성 추동(circadian drive)에 대한 Borbély의 2과정 조절 모델, Saper의 시상하부 상호 플립플롭 회로, 그리고 순환 피질시상 누적-발화(LIF, leaky integrate-and-fire) 스파이킹 신경망(neural network)을 결합한 다중 스케일 생물물리학적 계산 프레임워크인 DyssomniaNN을 제시합니다. 연구진은 동일한 72시간 광주기 하에서 건강한 대조군, 일주기 리듬 수면-각성 장애(지연 위상형), 만성 불면증, 역설적 불면증, 제1형 기면증 등 5개 임상 코호트를 공식화합니다. 합성 국소 장전위(local field potential)는 모든 표준 주파수 대역에서 PhysioNet Sleep-EDF 데이터베이스의 실제 인간 뇌파(EEG) 스펙트럼과 밀접하게 일치합니다(스펙트럼 평균 절대 오차 0.33--0.35). 나아가 회복 효능을 정량화하기 위해 휴식 지수(Well-Rested Index)를 도입합니다. 시뮬레이션 결과 수면 시간은 피로 회복을 예측하지 못하는 것으로 나타났습니다. 역설적 불면증은 정상적인 총 수면 시간(21.15시간)을 보이지만 억제되지 않은 피질 베타 대역의 침투로 인해 낮은 회복률(37.6%)을 보였으며, 반면 기면증의 히포크레틴 결핍은 심각한 야간 분절(수면 개시 후 각성 시간 781분)과 35회의 입면 시 렘수면(SOREMP)을 초래합니다. DyssomniaNN은 기전적 수면 연구 및 가상 신경약리학을 위한 인 실리코(in silico) 플랫폼을 제공합니다.

arXiv:2609.31698v2cs.CV공통 태그 EEG, Electroencephalogram (EEG)

RPA: EEG 및 MEG 기반 이미지 검색을 위한 잔차 패치-토큰 어댑터

RPA: Residual Patch-Token Adapter for Image Retrieval from EEG and MEG

기존의 대다수 MEG 및 EEG(M/EEG) 시각 디코딩 방식은 뇌 신호를 사전학습된 시각 인코더에서 추출한 단일 글로벌 임베딩과 정렬(alignment)하므로, 더 풍부하고 세분화된 시각 정보를 보존하는 중간 패치 표현이 표현 학습(representation learning)을 향상시킬 수 있는지는 미지의 영역으로 남아 있었습니다. 이러한 의문을 해결하기 위해, 본 논문에서는 정렬을 위해 ViT 시각 인코더 중간 층의 모든 패치 토큰을 활용하는 경량 모듈형 어댑터인 RPA(Residual Patch Adapter)를 제안합니다. 광범위한 소거 연구(ablation study)를 통해, 먼저 패치 토큰을 풀링하거나 마스킹하면 학습된 표현의 성능이 저하됨을 확인하였으며, 이는 패치 토큰 전체를 유지하는 것이 EEG 정렬에 중요하고 CLS 토큰은 고유한 정보를 거의 제공하지 못함을 보여줍니다. 이어서 일련의 6가지 정량적 특징 분석을 통해, 색상 및 질감을 포함한 저수준 시각 특징과 고수준 의미론적 정보 모두가 이러한 EEG-이미지 정렬에 필수적임을 밝힙니다. 현재의 프로토콜 기준, 본 시스템은 THINGS-EEG2 데이터셋에서 피험자 내(within-subject) 95.4%, 피험자 간(cross-subject) 35.5%의 Top-1 정확도를 기록하고, THINGS-MEG 데이터셋에서는 각각 65.2%와 6.7%를 기록하여 두 데이터셋 모두에서 최고 성능(SOTA)을 달성했습니다. 사전학습된 EEG 파운데이션 모델을 비롯한 대안적 뇌 인코더를 활용한 평가는 본 접근법이 단순 투영 기반 EEG 인코더를 넘어 확장될 수 있음을 보여줍니다. 나아가, RPA를 합성곱, 어텐션 또는 ConvNeXt 대안 구조로 교체할 수 있는 플러그 앤 플레이 인터페이스를 제공합니다. 종합적으로 이러한 결과는 시각 인코더의 잠재 공간(latent space)을 활용하기 위한 설계 원칙을 정립함으로써 M/EEG-이미지 표현 학습에 대한 중요한 통찰을 제시하며, 뇌-이미지 정렬 및 비침습적 뇌-컴퓨터 인터페이스(BCI)를 위한 새로운 방향을 제시합니다.

arXiv:2607.21384v1cs.AI공통 태그 EEG, Seizure Detection

일반화 가능한 EEG 표현 학습을 위한 멀티모달 사전학습

Multimodal Pretraining for Generalizable EEG Representation Learning

간질(epilepsy)에 사용되는 뇌전도(EEG) 모델은 특정 데이터셋과 태스크에 한정되는 경우가 많다. 이러한 제한적 접근은 서로 다른 데이터셋이나 다양한 상황에 모델을 적용하기 어렵게 만들 수 있다. 그러나 파운데이션 모델(foundation model)과 자기지도 학습(self-supervised learning)에 관한 최근 연구들은, 적응 가능한 EEG 백본(backbone)이 다양한 EEG 관련 태스크를 지원할 수 있음을 시사한다. 본 연구에서는 Mamba 아키텍처 기반의 원시 신호 인코더, 시-주파수(time-frequency) 데이터용 Vision Transformer(ViT) 스타일 인코더, 텍스트용 경량 인코더를 공유 임베딩 공간 내에서 결합한 멀티모달 EEG 파운데이션 모델을 개발했다. 사전학습 과정은 마스크드 모델링(masked modeling), 교차 뷰(cross-view) 대조 정렬(contrastive alignment), 시간적 일관성 손실(temporal consistency loss) 등 여러 혁신적 기법에 기반한다. 이러한 방법들은 레이블 데이터 없이 풍부하고 발작(seizure) 관련 표현을 생성하도록 설계되었다. 사전학습된 모델의 효과와 일반화 성능을 평가하기 위해 표준 CHB-MIT 발작 검출 벤치마크와 추가 발작 검출 데이터셋에서 파인튜닝(fine-tuning)을 수행하고, 다양한 모델 변형을 비교하는 광범위한 실험을 진행했다. 표준 CHB-MIT 분할(split)에서 최고의 단일 모델은 AUROC 0.874를, 앙상블 변형은 AUROC 0.878을 달성하여 이 벤치마크에서 최첨단(state-of-the-art) 성능을 나타냈다. 표준 train-test 분할 외에도, 기존 EEG 발작 모델링 연구에서 드물게 보고되는 leave-one-subject-out(LOSO) 프로토콜 하에서 성능을 평가했으며, 이는 환자 독립적(patient-independent) 발작 검출의 어려움을 부각한다. 19명의 피험자에 걸친 평균 LOSO 균형 정확도(balanced accuracy)는 0.558이었다. 데이터셋과 평가 설정 전반에 걸쳐, 우리의 멀티모달 파운데이션 모델은 견고한 발작 검출과 새로운 발작 검출 시나리오로의 간편한 적응을 가능하게 했으며, 해석 가능한 발작 국소화(seizure localization)도 지원했다.

arXiv:2607.14314v1cs.LG공통 태그 EEG, Seizure Detection

NeuroGRIP: 지식 기반 EEG 발작 진단을 위한 검색-증강 그래프 정제

NeuroGRIP: Retrieval-Augmented Graph Refinement for Knowledge-Grounded EEG Seizure Diagnosis

EEG 신호를 이용한 발작 진단은 복잡한 신경 역학과 채널 간 모델링에서의 허위 연결로 인해 중요하면서도 지속적으로 어려운 과제이다. 공간-시간 그래프 신경망(spatial-temporal graph neural networks, STGNN)은 EEG 뇌 네트워크 표현 학습(representation learning)을 발전시켰지만, 순전히 데이터 기반 특성으로 인해 결과 그래프 구조는 임상적 타당성이 낮고 해석 가능성(interpretability)이 제한적이다. 이를 위해 우리는 외부 의학 지식을 통합하여 노이즈가 있는 EEG 그래프를 보정하는 검색-증강 그래프 정제(retrieval-augmented graph refinement) 프레임워크인 NeuroGRIP을 제안한다. 먼저 권위 있는 임상 가이드라인에서 파생된 대규모 도메인 특화 지식 베이스(knowledge base)를 구축한다. 대규모 언어 모델(LLM)을 활용하여 구조화된 생의학적 개체와 관계를 추출해 텍스트 지식 그래프(KG)를 형성하며, 이는 임상적 사전(prior)의 외부 지식 원천으로 작용한다. 본 프레임워크는 STGNN이 생성한 EEG 노드 임베딩(embedding)을 KG의 의미 공간(semantic space)으로 투영함으로써 정렬 인식(alignment-aware) 쿼리 구성을 수행한다. 의미적 쿼리는 FAISS 기반 유사도 검색(similarity search)을 통해 지식 삼원조(triplets) 위에서 실행되어 관계 증거(relation evidence)를 검색한다. 각 예측 엣지(edge)에는 검색된 유사도, 관계 유형, 출처 신뢰도(source reliability)에 기반한 신뢰도 점수(confidence score)가 부여되어, 원래 예측 그래프에서 의학적으로 타당하지 않은 엣지를 제거(prune)할 수 있다. TUSZ와 CHB-MIT에 대한 광범위한 실험은 NeuroGRIP이 발작 검출 정확도를 향상시킬 뿐만 아니라, 각 예측을 임상적으로 검증된 지식에 그라운딩(grounding)함으로써 해석 가능성을 높인다는 것을 보여준다. 본 연구는 검색-증강 추론(retrieval-augmented reasoning)을 통해 뇌 역학과 외부 의학 전문 지식을 긴밀히 결합한 최초의 통합 프레임워크를 제공하며, 지식 강화형 설명 가능한 임상 진단의 길을 연다. 코드는 https://github.com/LincanLi-X/NeuroGRIP 에서 이용할 수 있다.

arXiv:2607.11578v1cs.LG공통 태그 EEG, Seizure Detection

DiffEEG: EEG 일반 표현 학습을 위한 자기지도 디노이징 확산 모델

DiffEEG: A Self-Supervised Denoising Diffusion Model for Learning EEG Generic Representations

EEG 기반 발작 감지를 위한 심층 학습은 두 가지 핵심 과제에 직면해 있다: 심각한 어노테이션 부족과 극단적인 클래스 불균형으로, 발작 발현(ictal) 이벤트는 임상 기록의 10% 미만을 차지한다. 우리는 9.6M 매개변수의 자기지도 파운데이션 모델인 DiffEEG를 제안한다. 이 모델은 디노이징 확산 사전학습과 강화학습(RL) 기반 미세조정을 통해 두 가지 한계를 모두 해결한다. Temple University Hospital Seizure Corpus(TUHSZ)의 130만 개 비레이블 세그먼트로 사전학습된 DiffEEG는 멀티헤드 셀프 어텐션을 갖춘 1D U-Net을 통해 일반적인 신경 표현을 학습한다. 다운스트림 적응을 위해, 강화된 결정 층은 정책 그래디언트 최적화를 사용하여 F1-score를 직접 최대화하며, 전체 정확도보다 희귀 발작 이벤트에 대한 민감도를 우선시한다. 엄격한 환자별 평가(279명, Leave-One-Fold-Out)에서 DiffEEG는 4-클래스 발작 하위유형 분류에서 61% 정확도와 59% F1을 달성하고, 이진 감지에서 81% 정확도와 85% 가중 F1을 달성하며, 극단적인 불균형(6.7% 유병률)에도 불구하고 임상적으로 실용 가능한 발작 재현율(59%)을 유지한다. 세그먼트 수준 평가에서는 97.6%의 정확도 상한을 확립하여 강력한 아키텍처 용량을 확인한다. DiffEEG는 확산 기반 사전학습과 메트릭 인식 강화학습의 결합이 최소한의 레이블 데이터 요구사항으로 임상 배포 가능한 발작 모니터링을 가능하게 함을 입증한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.