A Comprehensive Comparison Between ANNs and KANs For Classifying EEG Alzheimer's Data
원문 초록
Alzheimer's Disease is an incurable cognitive condition that affects thousands of people globally. While some diagnostic methods exist for Alzheimer's Disease, many of these methods cannot detect Alzheimer's in its earlier stages. Recently, researchers have explored the use of Electroencephalogram (EEG) technology for diagnosing Alzheimer's. EEG is a noninvasive method of recording the brain's electrical signals, and EEG data has shown distinct differences between patients with and without Alzheimer's. In the past, Artificial Neural Networks (ANNs) have been used to predict Alzheimer's from EEG data, but these models sometimes produce false positive diagnoses. This study aims to compare losses between ANNs and Kolmogorov-Arnold Networks (KANs) across multiple types of epochs, learning rates, and nodes. The results show that across these different parameters, ANNs are more accurate in predicting Alzheimer's Disease from EEG signals.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
SPERA: 기하학 및 주파수 인식 잠재 예측을 적용한 구면 사전분포 기반 뇌파 파운데이션 모델
SPERA: Spherical Prior EEG Foundation Model with Geometry- and Frequency-Aware Latent Prediction
뇌전도(EEG)는 진행 중인 신경 활동을 비침습적으로 측정하지만, 피험자, 장치, 전극 배치의 이질성 때문에 범용 EEG 모델을 구축하는 일은 여전히 어렵다. 기존 EEG 파운데이션 모델은 신경 성분과 비신경 성분을 모두 포함하는 관측 신호에 정의된 복원 기반 목적 함수에 주로 의존한다. 본 연구는 잠재 공간에서 예측하기 위해 결합 임베딩 예측 아키텍처(JEPA)를 채택한 EEG 파운데이션 모델인 구면 사전 분포 EEG 표현 아키텍처(Spherical Prior EEG Representation Architecture, SPERA)를 소개한다. SPERA는 다양한 두피 전극 기하 구조를 인코딩하기 위해 어텐션에 통합된 르장드르 다항식 공간 사전 분포를 도입한다. 모델을 EEG에 맞추는 두 가지 추가 구성요소로, 주기적인 전체 어텐션 블록과 교차 배치된 시간·공간 분해 어텐션, 그리고 잠재 유사도 구조를 스펙트럼 뷰와 정렬하는 관계형 스펙트럼 정규화기가 있다. 106개 데이터셋, 29,048명의 피험자로부터 얻은 약 80,000시간의 EEG로 사전 학습한 SPERA는 임상, 인지, BCI 응용에 걸친 9개 다운스트림 과제에서 가장 높은 평균 균형 정확도를 달성한다. 또한 SPERA는 선형 프로빙에서 강한 파라미터 효율성을, 다양한 녹화 조건에서 강건성을 보여, 다양한 EEG 분석을 위한 범용 백본으로서의 잠재력을 시사한다.
DyssomniaNN: 인간 수면 장애 및 인지된 피로 회복도에 대한 다중 스케일 스파이킹 신경 모델링
DyssomniaNN: Multi-Scale Spiking Neural Modeling of Human Sleep Disorders and Perceived Restedness
임상 수면 의학에서는 객관적인 수면 시간과 주관적인 주간 기능 장애 사이의 심각한 불일치가 반복적으로 보고되며, 이는 역설적 불면증의 수면 상태 오인과 제1형 기면증의 경계 불안정성에서 두드러지게 나타납니다. 본 논문에서는 수면 항상성과 일주기성 추동(circadian drive)에 대한 Borbély의 2과정 조절 모델, Saper의 시상하부 상호 플립플롭 회로, 그리고 순환 피질시상 누적-발화(LIF, leaky integrate-and-fire) 스파이킹 신경망(neural network)을 결합한 다중 스케일 생물물리학적 계산 프레임워크인 DyssomniaNN을 제시합니다. 연구진은 동일한 72시간 광주기 하에서 건강한 대조군, 일주기 리듬 수면-각성 장애(지연 위상형), 만성 불면증, 역설적 불면증, 제1형 기면증 등 5개 임상 코호트를 공식화합니다. 합성 국소 장전위(local field potential)는 모든 표준 주파수 대역에서 PhysioNet Sleep-EDF 데이터베이스의 실제 인간 뇌파(EEG) 스펙트럼과 밀접하게 일치합니다(스펙트럼 평균 절대 오차 0.33--0.35). 나아가 회복 효능을 정량화하기 위해 휴식 지수(Well-Rested Index)를 도입합니다. 시뮬레이션 결과 수면 시간은 피로 회복을 예측하지 못하는 것으로 나타났습니다. 역설적 불면증은 정상적인 총 수면 시간(21.15시간)을 보이지만 억제되지 않은 피질 베타 대역의 침투로 인해 낮은 회복률(37.6%)을 보였으며, 반면 기면증의 히포크레틴 결핍은 심각한 야간 분절(수면 개시 후 각성 시간 781분)과 35회의 입면 시 렘수면(SOREMP)을 초래합니다. DyssomniaNN은 기전적 수면 연구 및 가상 신경약리학을 위한 인 실리코(in silico) 플랫폼을 제공합니다.
RPA: EEG 및 MEG 기반 이미지 검색을 위한 잔차 패치-토큰 어댑터
RPA: Residual Patch-Token Adapter for Image Retrieval from EEG and MEG
기존의 대다수 MEG 및 EEG(M/EEG) 시각 디코딩 방식은 뇌 신호를 사전학습된 시각 인코더에서 추출한 단일 글로벌 임베딩과 정렬(alignment)하므로, 더 풍부하고 세분화된 시각 정보를 보존하는 중간 패치 표현이 표현 학습(representation learning)을 향상시킬 수 있는지는 미지의 영역으로 남아 있었습니다. 이러한 의문을 해결하기 위해, 본 논문에서는 정렬을 위해 ViT 시각 인코더 중간 층의 모든 패치 토큰을 활용하는 경량 모듈형 어댑터인 RPA(Residual Patch Adapter)를 제안합니다. 광범위한 소거 연구(ablation study)를 통해, 먼저 패치 토큰을 풀링하거나 마스킹하면 학습된 표현의 성능이 저하됨을 확인하였으며, 이는 패치 토큰 전체를 유지하는 것이 EEG 정렬에 중요하고 CLS 토큰은 고유한 정보를 거의 제공하지 못함을 보여줍니다. 이어서 일련의 6가지 정량적 특징 분석을 통해, 색상 및 질감을 포함한 저수준 시각 특징과 고수준 의미론적 정보 모두가 이러한 EEG-이미지 정렬에 필수적임을 밝힙니다. 현재의 프로토콜 기준, 본 시스템은 THINGS-EEG2 데이터셋에서 피험자 내(within-subject) 95.4%, 피험자 간(cross-subject) 35.5%의 Top-1 정확도를 기록하고, THINGS-MEG 데이터셋에서는 각각 65.2%와 6.7%를 기록하여 두 데이터셋 모두에서 최고 성능(SOTA)을 달성했습니다. 사전학습된 EEG 파운데이션 모델을 비롯한 대안적 뇌 인코더를 활용한 평가는 본 접근법이 단순 투영 기반 EEG 인코더를 넘어 확장될 수 있음을 보여줍니다. 나아가, RPA를 합성곱, 어텐션 또는 ConvNeXt 대안 구조로 교체할 수 있는 플러그 앤 플레이 인터페이스를 제공합니다. 종합적으로 이러한 결과는 시각 인코더의 잠재 공간(latent space)을 활용하기 위한 설계 원칙을 정립함으로써 M/EEG-이미지 표현 학습에 대한 중요한 통찰을 제시하며, 뇌-이미지 정렬 및 비침습적 뇌-컴퓨터 인터페이스(BCI)를 위한 새로운 방향을 제시합니다.
Brain-Token Learning: 장기 EEG 시퀀스 모델링을 위한 미세상태 기반 토큰화 및 다중 스케일 상호작용
Brain-Token Learning: Microstate-Based Tokenization and Multi-Scale Interaction for Long-Horizon EEG Sequence Modeling
뇌전도(EEG)는 동적인 뇌 활동을 파악할 수 있는 비침습적 창을 제공하지만, 장기(long-horizon) EEG 시퀀스를 모델링하는 것은 높은 시간적 복잡도, 피험자 간의 상당한 변동성, 생물학적으로 유의미한 시퀀스 표현의 부재로 인해 여전히 어려운 과제로 남아 있습니다. 고정 윈도우 및 패치 기반 표현과 같은 기존의 토큰화(tokenization) 전략은 인위적인 시간적 경계에 따라 EEG 신호를 이산화하므로, 본질적인 뇌 상태 역학을 훼손할 수 있습니다. 본 연구에서는 장기 EEG 시퀀스 모델링을 위해 뇌 토큰화(Brain Tokenization)를 도입한 신경과학 기반 프레임워크인 Brain-Token Learning을 제안합니다. Brain Tokenization은 EEG 신호를 사전 정의된 시간 세그먼트로 분할하는 대신, 반복되는 미세상태(microstate)에서 파생된 뇌 토큰(token)의 시퀀스로 표현하며, 각 토큰은 가변적인 시간적 지속 기간을 갖는 준안정적(quasi-stable) 대규모 뇌 상태에 대응합니다. 이러한 생물학적 근거를 둔 토큰을 기반으로, 저자들은 전역적 뇌 상태 문맥과 국소적 미세상태 전이를 공동으로 포착하기 위해 잠재 상태 집약(Latent State Aggregation) 및 상태 전이 모델링(State Transition Modeling)으로 구성된 다중 스케일 토큰 상호작용 모듈을 추가로 개발합니다. 저자들은 새로 수집된 장기 NeuroLong 데이터셋(dataset)과 4개의 정서적 또는 임상적 EEG 데이터셋(SEED, DEAP, MDD, NSSI)을 포함한 5개의 이종 EEG 데이터셋에서 Brain-Token을 평가(evaluation)합니다. 광범위한 실험을 통해 Brain-Token이 다양한 EEG 시나리오 전반에서 기존의 CNN/LSTM 아키텍처, 트랜스포머(Transformer) 기반 모델, 도메인 적응 기법들을 일관되게 능가함을 입증합니다. 추가 분석을 통해 강건하고 해석 가능한 EEG 표현을 학습(training)하는 데 있어 미세상태 기반 토큰화 및 다중 스케일 상호작용의 효과를 검증합니다. 이러한 결과는 Brain-Token이 장기 EEG 시퀀스 모델링을 위한 생물학적 근거를 갖춘 토큰화 패러다임임을 확립합니다.
EEG 신호와 CNN을 이용한 rTMS 우울증 치료 결과 예측
Predicting the Outcome of rTMS Depression Therapy using EEG Signals and CNN
반복 경두개 자기 자극(repetitive transcranial magnetic stimulation, rTMS)은 주요 우울 장애(Major Depressive Disorder, MDD)에 대한 비침습적 치료법이다. 본 연구에서는 EEG 신호를 표현하기 위해 두 가지 시간-주파수 방법을 사용하여 이미지를 생성한다: 유클리드 거리를 포함한 푸리에-베셀 급수 전개(Fourier-Bessel Series Expansion with Euclidean Distance, FBSE-ED)와 이산 웨이블릿 변환(Discrete Wavelet Transform, DWT). 우리는 rTMS 우울증 치료 결과를 예측하는 효율적인 심층 학습 분류기를 제안한다. 본 연구에서는 결과의 바이어스를 피하기 위해 10-fold 교차 검증 전략을 사용하여 사설 rTMS 데이터베이스로 경량 맞춤형 합성곱 신경망(Convolutional Neural Network, CNN)을 학습한다. 결과는 FBSE-ED 표현이 93.60%의 최고 분류 정확도를 달성하여 전통적인 시간-주파수 기법(DWT)을 능가함을 보여준다. 또한 FBSE-ED 이미지 표현 기법을 적용한 제안 아키텍처는 더 복잡한 EEG 특화 심층 학습 모델(EEGNet, DeepConvNet, SleepEEGNet)보다 3.62-10.72%, 사전학습 모델(Xception, DenseNet201, MobileNetV2)보다 23.03-27.35% 더 우수한 성능을 보인다. 추가 실험을 위해 또 다른 사설 rTMS 데이터베이스를 테스트 데이터베이스로 활용하여 제안 모델의 견고성을 입증한다. 우리 결과는 고급 신호 분해와 심층 학습의 통합이 rTMS 치료 반응의 조기 예측을 촉진하고 보다 표적화된 임상 의사결정을 지원할 수 있음을 시사한다. 제안 프레임워크는 해석 가능하고 계산 효율적이며, 실제 지역 정신과 클리닉 배포에 적합하다.
KANEx: Kolmogorov-Arnold Networks의 해석 가능성을 의학적 설명 가능성으로 전환
KANEx: Translating Kolmogorov-Arnold Networks' Interpretability to Medical Explainability
컴퓨터 비전(CV) 모델은 의료 응용 분야에서 매우 효과적이 되었지만, 블랙박스 특성은 여전히 임상의의 신뢰를 약화시키고 있다. 임상 워크플로에서 흉부 X-ray 분류기는 자연어 설명을 생성하기 위해 비전-언어 모델(VLM)과 점점 더 많이 결합되고 있다. 그러나 이러한 시스템은 시각 모델의 근본적인 불투명성을 해결하지 않은 채 언어적 유창성만을 추가한다. 스플라인 기반 구성 요소가 본질적으로 해석 가능한 함수 단위를 제공하는 Kolmogorov-Arnold Networks(KAN)의 등장과 함께, 우리는 이러한 아키텍처적 투명성을 활용하여 더 신뢰할 수 있는 텍스트 설명을 생성할 수 있는지 조사한다. 우리는 KAN의 기호적 투명성을 활용하여 VLM 추론을 그라운딩하는 최초의 프레임워크인 KANEx를 제안한다. 이 해석 가능성은 또한 그래디언트 근사가 아닌 KAN 모델에서 직접 유도된 새로운 히트맵 생성 방법인 KAN-Map을 설계할 수 있게 했다. 우리는 향상된 설명 가능성을 위해 이러한 그라운딩된 컨텍스트를 다운스트림 VLM에 입력한다. MIMIC-CXR 데이터셋에서 벤치마크한 결과, ResNet/ViT 베이스라인을 갖춘 KAN 기반 아키텍처가 의미적 유사도를 향상시키는 동시에 훨씬 더 충실한 saliency map을 생성함을 보여준다. KAN 아키텍처는 시각적 국소화와 다운스트림 추론 품질을 10% 향상시킨다. 우리의 발견은 언어적 설명과 시각적 귀속(attribution)을 수학적으로 해석 가능한 단위에 그라운딩하는 것이 신뢰할 수 있는 의료 AI를 향한 필수적인 단계임을 시사한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.