Seeing through the Brain: Image Reconstruction of Visual Perception from Human Brain Signals
원문 초록
Seeing is believing, however, the underlying mechanism of how human visual perceptions are intertwined with our cognitions is still a mystery. Thanks to the recent advances in both neuroscience and artificial intelligence, we have been able to record the visually evoked brain activities and mimic the visual perception ability through computational approaches. In this paper, we pay attention to visual stimuli reconstruction by reconstructing the observed images based on portably accessible brain signals, i.e., electroencephalography (EEG) data. Since EEG signals are dynamic in the time-series format and are notorious to be noisy, processing and extracting useful information requires more dedicated efforts; In this paper, we propose a comprehensive pipeline, named NeuroImagen, for reconstructing visual stimuli images from EEG signals. Specifically, we incorporate a novel multi-level perceptual information decoding to draw multi-grained outputs from the given EEG data. A latent diffusion model will then leverage the extracted information to reconstruct the high-resolution visual stimuli images. The experimental results have illustrated the effectiveness of image reconstruction and superior quantitative performance of our proposed method.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SleepFM-2를 통해 200만 시간의 수면 데이터로부터 전이 가능한 인간 생리학적 특성 학습하기
Learning transferable human physiology from two million hours of sleep with SleepFM-2
수면은 뇌, 심장, 근육 및 호흡계 전반의 조화로운 활동을 포착함으로써 건강 상태를 들여다볼 수 있는 야간의 창을 제공합니다. 본 논문에서는 사전학습(pre-training)에 사용된 235,865건을 포함하여 26개 코호트의 수면다원검사(PSG) 기록 282,511건을 바탕으로 개발 및 평가된 수면 파운데이션 모델(foundation model)인 SleepFM-2를 소개합니다. 이 데이터는 200만 시간 이상의 다중모달(multimodal) 생리 신호에 걸쳐 있습니다. 이전 SleepFM과 비교하여, SleepFM-2는 질병 예측 및 수면 점수 측정을 개선하고, 각성(arousal), 사지 운동 및 호흡 이벤트 탐지를 지원하며, 웨어러블 센싱과 주관적 수면 표현형(phenotypes)으로 전이(transfer)됩니다. SleepFM-2의 PSG 표현(representation)을 연령, 성별, BMI와 결합한 모델은 사전학습 중 접하지 않은 한 의료 시스템을 포함한 두 개의 비공개(held-out) 코호트에서 이후 기록된 188개 전자의무기록(EHR) 표현형에 대해 사전 지정된 변별력 및 유의성 기준을 충족했습니다. 또한 SleepFM-2는 동일한 기록에서 도출된 480개 특징(feature) 기준선(baseline) 모델을 능가했습니다. 이 질병 점수는 감소된 시그마 대역 공간 결합 및 증가된 수면밀도(hypnodensity) 엔트로피와 연관된 재현 가능한 주성분을 드러냈습니다. 동결된 인코더(frozen encoder)는 수면 이벤트에 대해 전문가 채점자의 관찰된 범위 내에서 작동했으며, 각성 중 뇌파(EEG), 헤드밴드 및 인이어 EEG, 손목 PPG 및 손목 가속도계 데이터로 전이되었습니다. 또한 6개 가속도계 코호트 전반에서 수면 단계 분류(sleep staging)를 개선했으며, UK Biobank에서 가속도계 데이터로 직접 사전학습된 모델과 유사한 질병 예측 성능을 달성했습니다. 마지막으로 SleepFM-2는 기존 PSG 요약으로는 포착되지 않던 주관적 수면의 측면, 특히 기록된 밤에 대한 보고 내용을 포착했습니다. 이러한 결과는 다중모달 수면 생리학이 질병, 임상 작업, 센서 및 주관적 경험 전반에 걸쳐 인간 건강에 대한 전이 가능한 표현을 제공할 수 있음을 보여줍니다.
Signal2Symbol: 설명 가능한 생리학적 시계열 이상 탐지를 위한 신경-기호적 시간적 추론
Signal2Symbol: Neuro-Symbolic Temporal Reasoning for Explainable Physiological Time-Series Anomaly Detection
심전도(ECG)와 뇌파(EEG)와 같은 생리학적 시계열은 복잡한 시간적 구조, 상당한 측정 변동성, 그리고 투명한 의사결정에 대한 강한 필요를 보인다. 딥 모델은 높은 탐지 성능을 달성할 수 있지만, 어떤 구간이 이상한지, 국소 이상이 시간에 따라 어떻게 연관되는지, 한 탐지가 더 넓은 반복 패턴에 속하는지에 대한 통찰은 종종 제한적이다. 우리는 설명 가능한 생체신호 이상 탐지를 위한 신경-기호적(neuro-symbolic) 프레임워크인 Signal2Symbol을 제안한다. 이 방법은 먼저 학습된 VQ-VAE(Vector Quantized Variational Autoencoder) 코드북 또는 SAX(Symbolic Aggregate approXimation) 베이스라인을 사용해 ECG/EEG 신호를 기호(symbol) 시퀀스로 변환한다. 이어서 bigram enriched token-window 트랜잭션을 구성하고, minimal rare itemset mining에서 도출된 희귀 아이템셋(rare itemset) 증거를 통해 이상을 점수화한다. 탐지된 이상 윈도우는 구간(interval)으로 병합되고 Allen interval algebra로 서로 연관되며, 이를 통해 악화 연쇄(escalation chains), 아티팩트(artifact) 중첩, 채널 간 동기(cross-channel synchrony)와 같은 복합 시간적 설명이 가능해진다. 마지막으로 형식 개념 분석(Formal Concept Analysis, FCA)에 기반한 희귀 시간적 개념 격자(concept lattice)를 도입하며, 이는 공유된 희귀 기호적 증거, Allen 시간적 관계, 채널 컨텍스트, 견고성(robustness) 속성을 기준으로 이상 구간을 묶는다. 결과 Galois 격자는 다수의 국소 탐지를 해석 가능한 시간-기호적(temporal-symbolic) 이상 패밀리로 압축한다. 세 개의 공개 벤치마크에서 평가한다: MIT-BIH Arrhythmia(beat 수준 ECG), PTB-XL(기록 수준 ECG), Bonn EEG 데이터셋(segment 수준 EEG). 가법 잡음(additive noise)과 기준선 변동(baseline-wander) 교란 하에서 견고성을 스트레스 테스트한다. 결과는 시간적 이상 분석에서 신경-기호적 토큰화의 가치를 부각하며, Allen/FCA 추론이 국소 탐지에 대한 간결하고 해석 가능한 요약을 제공함을 보여준다.
뇌-이미지 생성: 생성적 적대 신경망을 이용한 뇌파 기반 시각 자극 재구성
Brain-to-Image Generation: Reconstructing Visual Stimuli from EEG using Generative Adversarial Networks
뇌파(EEG)로부터 시각 자극을 재구성하는 것은 두피 측정이 높은 시간 해상도를 갖지만 공간 해상도가 제한적이고, 짝지어진 EEG-이미지 데이터셋이 현대 생성 모델(generative model) 학습 코퍼스에 비해 여전히 작기 때문에 어렵습니다. 본 논문에서는 EEG가 시각 임베딩 공간에서 피험자가 본 자극을 검색할 수 있는지에 대한 보다 타당한 질문을 먼저 검증하는 THINGS-EEG2 기반의 재현 가능한 단일 피험자 기준선(baseline)을 제시합니다. 소형 시공간 합성곱 인코더(temporal-spatial convolutional encoder)는 반복 평균된 EEG(63 x 250)를 사전에 제공된 512차원 ViT-B/32 이미지 특징에 매핑합니다. 모델 선택에는 개념이 분리된 검증 분할을 사용하며, 최종 평가에는 공식 200개 이미지, 200개 개념의 테스트 갤러리를 사용합니다. 세 가지 학습 시드에 걸쳐, 제안 모델은 1, 5, 10에서의 이미지 재현율(recall) 각각 12.83 ± 0.58%, 39.17 ± 1.76%, 58.00 ± 1.73%(평균 ± 표본 표준편차)를 달성하여 0.5%, 2.5%, 5.0%인 이론적 무작위 확률 수준(chance level)과 비교되는 성능을 보였습니다. 세션 균형 제거 연구(ablation study)는 더 많은 테스트 반복을 평균화할수록 전반적으로 순위 매김이 향상됨을 보여줍니다. 적응 과정 없이 피험자 01의 모델을 다른 9명의 피험자에게 적용하면 성능이 급격히 저하되어 피험자 특이성이 드러납니다. 나아가 외부 시각 가중치 없이 학습된 직접 조건부 생성기(direct conditional generator)에 대한 탐색적 스트레스 테스트를 보고합니다. 단일 피험자 및 10명 피험자 변형 모델은 노이즈가 지배적인 출력을 생성하며, 초기 검증 성능 개선은 1~4 에포크 후에 반전되었습니다. 마지막으로 사전학습된 확산 사전확률(diffusion prior)을 사용하는 시맨틱 렌더링과 직접 재구성을 구별합니다. 결과는 폐쇄 집합(closed-set) 및 반복 평균화 프로토콜 하에서 무작위 수준을 넘어서는 대략적인 시맨틱 디코딩은 지지하지만, 자극 픽셀의 충실한 복원은 지지하지 않습니다.
EEG 운동 상상 분류를 위한 생성 증강: 순환 일관성 디코더 정제를 갖춘 클래스 조건부 VAE
Generative Augmentation for EEG Motor Imagery Classification: A Class-Conditional VAE with Cycle-Consistent Decoder Refinement
생성 모델이 독립적인 하류 분류기의 정확도를 향상시키는 데 유용한 합성 운동 상상(MI) 뇌전도(EEG) 시행을 제공할 수 있는지 조사한다. Zhou 운동 상상 데이터셋에서 통합 잠재 분류기를 갖춘 클래스 조건부 변분 오토인코더(CVAE)를 학습하고, 학습된 클래스별 사전분포를 생성기로 사용한다: 주어진 레이블에 대해 사전분포에서 샘플링하여 이를 레이블과 일치하는 합성 신호로 디코딩한다. 생성된 데이터의 공분산 행렬에 대한 제약은 공분산 구조의 보존을 장려하며, 모델은 일반 VAE 학습과 증강에 사용되는 생성 경로를 선명하게 하는 디코더 중심 단계를 번갈아 수행하는 스케줄로 학습된다. 두 가지 평가 프로토콜—사용자 내(within-user, 피험자 간 풀링된 60/20/20 분할) 및 사용자 간(cross-user, leave-one-subject-out, LOSO)—에서 학습 세트에 합성 시행을 추가하는 효과를 네 가지 대표적인 EEG 분류 파이프라인—선형 판별 분석(LDA)과 함께하는 공통 공간 패턴(CSP+LDA), 서포트 벡터 머신(SVM)과 함께하는 접선 공간(tangent-space) 특징(TGSP+SVM), 리만 평균까지의 최소 거리(MDM), EEGNetv4 기반 신경망(이하 EEGNet)—에 걸쳐 측정한다. 결과는 독립적인 증강 추출, 무작위 시드(사용자 내), 또는 leave-one-subject-out 폴드(사용자 간)에 걸쳐 집계되며, 불확실성은 시드/폴드별 평균에 대해 계산된 95% 신뢰구간(Student's t-분포)으로 보고된다. CVAE로부터의 합성 EEG는 실제 원시 EEG의 대체재라기보다는 클래스 구조화된, 공분산 유사 데이터의 원천으로서 가장 신뢰할 만하다: MDM의 점 추정치를 높일 수 있지만, 더 넓은 증강 주장은 보수적으로 남아 있다—관찰된 이득은 작고 분류기에 따라 다르다.
다중 세션 운동 상상 EEG 신호 분류를 위한 ATCNet-CIAM
ATCNet-CIAM for Multi-Session Motor Imagery EEG Signal Classification
운동 상상(MI) 기반 뇌전도(EEG)는 비침습적 뇌-컴퓨터 인터페이스(BCI)에서 널리 사용되지만, 피험자 간 변이성과 세션 간 비정상성으로 인해 강건한 디코딩은 여전히 어려운 과제이다. 본 연구는 MI 디코딩을 위한 채널-공간 특징 표현을 개선하기 위해 경량 채널 통합 어텐션 모듈(CIAM)을 ATCNet 프레임워크에 통합한 향상된 어텐션 시간 합성곱 네트워크인 ATCNet-CIAM을 제안한다. 제안 모델은 BCI Competition IV-2a, BCI Competition IV-2b, 다일 WBCIC-MI 데이터셋에 대해 표준, 세션 내(within-session), 세션 간(cross-session) 프로토�ols 하에서 평가되었다. 실험 결과, 표준 프로토콜에서 ATCNet-CIAM은 BCI IV-2a에서 86.32%, BCI IV-2b에서 87.96%의 정확도를 달성했으며, 세션 내 WBCIC-MI에서 2C와 3C 각각 89.46%와 83.64%에 도달했다. 제안 프레임워크는 세션이 변하는 조건에서 분류 안정성과 강건성을 일관되게 향상시키며, ablation study는 제안된 아키텍처 구성 요소들의 상보적 기여를 확인한다.
bag-of-waves를 이용한 해석 가능한 EEG 바이오마커: 저데이터 환경을 위한 공간·시간 파형 사전
Interpretable EEG biomarkers with bag-of-waves: Spatial and temporal waveform dictionaries for low-data regimes
EEG(전기뇌파)는 신경학적 질환 진단에 널리 사용되지만, 그 분석은 보통 사전 정의된 스펙트럼 특징이나 심층 신경망에 의존한다. 사전 정의된 특징은 정보적 가치가 있는 것을 미리 고정하기 때문에 강한 바이어스를 수반하며, 심층 신경망과 파운데이션 모델은 해석하기 어렵고 대량의 데이터와 연산 자원이 필요하다. 우리는 bag-of-waves를 제안한다. 이는 레이블 없이 shift-invariant k-means를 사용하여 반복되는 EEG 파형 템플릿(atom이라고 함)의 작은 사전을 학습하는 해석 가능한 프레임워크이다. 연속 EEG 신호는 atom 토큰의 시퀀스로 변환되며, 그 토큰의 빈도는 간단한 하류 분류기 또는 클러스터링 단계에 입력된다. 이 표현을 두 가지 방식으로 확장한다: 시간적 구조를 포착하기 위해 atom 간 전이(n-gram이라고 부름)를 추가하고, 다채널 경우를 위해 단일 채널 atom에서 지역 및 채널 간 공간 atom으로 확장한다. 세 가지 상호 보완적인 데이터셋에서 방법을 검증한다. 각 데이터셋은 서로 다른 측면을 탐구한다: 동물 16마리만으로 수행한 단일 채널 마우스 유전형 클러스터링(저데이터 및 시간적 사례), 휴식 상태 치매 분류(공간적 사례), 그리고 임상 EEG 이벤트의 6분류를 위한 TUEV 벤치마크(강력한 심층 및 파운데이션 기준선과의 고데이터 비교). 세 데이터셋 모두에서 bag-of-waves는 최첨단 심층 및 파운데이션 모델과 경쟁력 있는 성능을 달성한다. 그러나 매개변수 수의 극히 일부만으로 동작하며 완전한 해석 가능성을 제공한다. 모든 atom이 검사 가능한 파형에 대응하기 때문에, 이 방법은 신경생리학자가 직접 검증할 수 있는 알려진 임상 형태학을 명시적으로 복원한다. 주요 장점은 더 무거운 모델이 적합하지 않은 저데이터 환경에서도 잘 작동한다는 점이다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.