PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.17562v2cs.LG

정확도를 넘어서: EEG 파운데이션 모델의 견고성, 해석 가능성, 표현력

Beyond Accuracy: Robustness, Interpretability and Expressiveness of EEG Foundation Models

EEG 파운데이션 모델(EEG-FM)은 주로 깨끗한(clean) 분포 내(in-distribution) 정확도를 기준으로 평가되어 왔으며, 지도학습 기준선(baseline) 및 약한 고정(frozen) 표현에 비해 소폭의 개선만을 보여주었다. 본 연구는 여섯 개의 EEG-FM과 하나의 지도학습 기준선을 열 개의 데이터셋에 대해 세 가지 분석 축에서 평가함으로써, 이러한 결론이 깨끗한 정확도를 넘어서도 유지되는지를 검토한다: (i) 견고성(Robustness): 가산 잡음(additive noise), 무작위 및 영역 기반 채널 드롭아웃(channel dropout), 영역별 잡음 주입을 포함한 테스트 시점(test-time) 교란을 적용한다. 분석 결과, 모든 실패 모드를 압도하는 단일 모델은 없다는 것을 보여준다. 잡음에 가장 견고한 모델이 채널 드롭아웃 하에서는 가장 취약한 모델 중 하나이며, 채널을 제로 패딩(zero-padding)하는 대신 제거할 경우 드롭아웃에 대한 취약성 대부분이 사라진다. (ii) 해석 가능성(Interpretability): EEG-FM에 어트리뷰션(attribution) 기법을 적용하여, 모델들이 알려진 신경생리학(neurophysiology)과 일치하는 과업에 적합한 뇌 영역에 관련도(relevance)를 전반적으로 집중시킨다는 것을 보여준다. (iii) 표현력(Expressiveness): 이전에 저품질 사전학습 표현으로 귀속되었던 저조한 헤드 전용(head-only) 성능이 주로 풀링(pooling) 전략에 의해 설명되며, 토큰(token) 수준 임베딩이 보존될 경우 EEG-FM이 충분한 표현 용량(representational capacity)을 보유하고 있음을 입증한다. 더 나아가 블록 단위 프로빙(block-wise probing)과 어텐션(attention) 분석을 통해, 미세조정(fine-tuning) 과정에서 후반 블록들이 재활용(repurpose)되는 반면 초반 블록들은 이미 과업 관련 정보를 보유하고 있음을 보여준다. 본 연구의 결과는 EEG-FM에 대한 결론이 평가 방식의 선택에 따라 달라짐을 보여주며, 향후 EEG-FM 평가 시 교란 유형별 견고성을 보고하고, 어트리뷰션 맵을 산출하며, 여러 풀링 전략을 검토할 것을 권장한다.