SPD-MetaFormer: 소규모 데이터 뇌 신호 디코딩을 위한 효과적인 아키텍처
SPD-MetaFormer is what you need for small-data brain decoding
한국어 초록
뇌 신호 디코딩은 신경 기록에 잡음이 많고 개인 간 편차가 큰 반면 레이블이 지정된 데이터는 종종 제한적이기 때문에 어려운 과제입니다. 그럼에도 불구하고 대칭 양의 정부호(SPD) 다양체 기반의 최신 어텐션 모델들은 공분산 및 연결성 표현을 활용하여 우수한 성능을 달성했지만, 학습된 토큰 가중치 부여의 기여도는 여전히 불분명합니다. 본 연구에서는 로그-유클리드 기하학에 기반한 MAtt와 일반화된 뷔르-와서슈타인 기하학에 기반한 GBWAtt라는 두 가지 대표적인 아키텍처를 조사하였으며, 학습 후 이들의 학습된 어텐션 가중치가 균일한 상태에 가깝게 유지된다는 점을 발견했습니다. 이러한 현상은 원래의 소프트맥스 스케일링 하에서 어텐션 가중치의 대비를 제한하는 유계 유사도 파라미터화와 관련이 있습니다. 나아가, 학습 및 평가 전반에 걸쳐 학습된 가중치를 균일 가중치로 대체하더라도 각 모델 고유의 집계 기하학적 구조를 보존하는 한 평균 예측 성능에는 거의 영향을 미치지 않았습니다. 이러한 발견에 착안하여, 로그-유클리드 기하학 하에서 균일 가중치 프레셰 집계를 기반으로 구축된 어텐션-프리 아키텍처인 SPD-MetaFormer를 제안합니다. 이 모델의 백본은 측지선 잔차를 사용하여 요약 토큰을 업데이트하고 공유 스펙트럼 피드포워드 맵을 통해 모든 토큰을 변환한 후, 학습된 가중치 리드아웃을 거칩니다. 토큰 상태는 접공간 분류 이전까지 SPD 값을 유지합니다. 세 가지 EEG 벤치마크에 걸쳐, SPD-MetaFormer는 기존에 발표된 유클리드 및 다양체 베이스라인 대비 경쟁력 있는 결과를 달성합니다. 별도의 정합 재현 실험을 통해 MAtt 및 GBWAtt 내에서 학습된 가중치와 균일 가중치를 비교 검증합니다. 이러한 결과는 연구된 짧은 시퀀스 및 제한된 데이터 환경에서, 신중하게 설계된 SPD 아키텍처가 적응형 다양체 어텐션에 대한 더 단순하면서도 효과적인 대안을 제공할 수 있음을 시사합니다.
원문 초록
Brain signal decoding is challenging because neural recordings are noisy and vary across individuals, while labeled data are often limited. Recent attention-based models on the symmetric positive definite (SPD) manifold have nevertheless achieved strong performance using covariance and connectivity representations, yet the contribution of learned token weighting remains unclear. We examine two representative architectures, MAtt (based on log-Euclidean geometry) and GBWAtt (based on generalized Bures--Wasserstein geometry), and find that their learned attention weights remain close to uniform after training. We relate this behavior to bounded similarity parameterizations that, under the original softmax scaling, limit attention-weight contrast. Moreover, replacing learned weights with uniform weights, throughout training and evaluation, has little effect on mean predictive performance while preserving each model's original aggregation geometry. Motivated by these findings, we introduce SPD-MetaFormer, an attention-free architecture built on uniformly weighted Fréchet aggregation under log-Euclidean geometry. Its backbone uses a geodesic residual to update a summary token and a shared spectral feedforward map to transform all tokens, followed by a learned weighted readout. Token states remain SPD-valued until tangent-space classification. Across three EEG benchmarks, SPD-MetaFormer achieves competitive results relative to published Euclidean and manifold baselines. Separate matched reproductions test learned versus uniform weighting within MAtt and GBWAtt. These results suggest that, in the short-sequence and limited-data regimes studied, carefully designed SPD architectures can provide a simpler and effective alternative to adaptive manifold attention.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Towards Robust EEG Decoding Based on Riemannian Self-Attention
SPERA: 기하학 및 주파수 인식 잠재 예측을 적용한 구면 사전분포 기반 뇌파 파운데이션 모델
SPERA: Spherical Prior EEG Foundation Model with Geometry- and Frequency-Aware Latent Prediction
B[FM]²: 플로우 매칭과 SplitUNet을 활용한 뇌 파운데이션 모델
B[FM]$^2$: Brain Foundation Model via Flow Matching with SplitUNet
운동 상상 전기뇌파의 피험자 간 분류를 위한 베이지안 완전 풀링
Bayesian Complete-Pooling in Cross-Subject Classification for Motor Imagery Electroencephalogram
RPA: EEG 및 MEG 기반 이미지 검색을 위한 잔차 패치-토큰 어댑터
RPA: Residual Patch-Token Adapter for Image Retrieval from EEG and MEG
기존의 대다수 MEG 및 EEG(M/EEG) 시각 디코딩 방식은 뇌 신호를 사전학습된 시각 인코더에서 추출한 단일 글로벌 임베딩과 정렬(alignment)하므로, 더 풍부하고 세분화된 시각 정보를 보존하는 중간 패치 표현이 표현 학습(representation learning)을 향상시킬 수 있는지는 미지의 영역으로 남아 있었습니다. 이러한 의문을 해결하기 위해, 본 논문에서는 정렬을 위해 ViT 시각 인코더 중간 층의 모든 패치 토큰을 활용하는 경량 모듈형 어댑터인 RPA(Residual Patch Adapter)를 제안합니다. 광범위한 소거 연구(ablation study)를 통해, 먼저 패치 토큰을 풀링하거나 마스킹하면 학습된 표현의 성능이 저하됨을 확인하였으며, 이는 패치 토큰 전체를 유지하는 것이 EEG 정렬에 중요하고 CLS 토큰은 고유한 정보를 거의 제공하지 못함을 보여줍니다. 이어서 일련의 6가지 정량적 특징 분석을 통해, 색상 및 질감을 포함한 저수준 시각 특징과 고수준 의미론적 정보 모두가 이러한 EEG-이미지 정렬에 필수적임을 밝힙니다. 현재의 프로토콜 기준, 본 시스템은 THINGS-EEG2 데이터셋에서 피험자 내(within-subject) 95.4%, 피험자 간(cross-subject) 35.5%의 Top-1 정확도를 기록하고, THINGS-MEG 데이터셋에서는 각각 65.2%와 6.7%를 기록하여 두 데이터셋 모두에서 최고 성능(SOTA)을 달성했습니다. 사전학습된 EEG 파운데이션 모델을 비롯한 대안적 뇌 인코더를 활용한 평가는 본 접근법이 단순 투영 기반 EEG 인코더를 넘어 확장될 수 있음을 보여줍니다. 나아가, RPA를 합성곱, 어텐션 또는 ConvNeXt 대안 구조로 교체할 수 있는 플러그 앤 플레이 인터페이스를 제공합니다. 종합적으로 이러한 결과는 시각 인코더의 잠재 공간(latent space)을 활용하기 위한 설계 원칙을 정립함으로써 M/EEG-이미지 표현 학습에 대한 중요한 통찰을 제시하며, 뇌-이미지 정렬 및 비침습적 뇌-컴퓨터 인터페이스(BCI)를 위한 새로운 방향을 제시합니다.
CortexBridge: 파운데이션 모델을 위한 뇌파 몽타주의 대뇌 피질 정렬
CortexBridge: Cortical Alignment of EEG Montages for Foundation Models
뇌파(EEG) 파운데이션 모델은 고정된 채널 어휘나 제한된 몽타주(montage) 집합으로 사전학습되는 경우가 많아, 전극 배치가 바뀔 때 전이(transfer)가 어렵습니다. 본 연구에서는 임의의 몽타주를 공유된 대뇌 피질 잠재 공간으로 매핑하기 위해 EEG 특징을 전극 및 아틀라스 좌표와 결합하는 경량 어댑터인 CortexBridge를 제안합니다. MOABB(Mother of All BCI Benchmarks)의 5개 뇌-컴퓨터 인터페이스(BCI) 데이터셋에서 동결된(frozen) 3개의 파운데이션 모델로 평가한 결과, CortexBridge는 15개 평가 중 13개에서 성능을 향상시켰습니다. 균형 정확도(balanced accuracy)의 평균 향상폭은 EEGPT에서 0.80%, LaBraM에서 0.70%, CBraMod에서 3.26%였으며, 12개 클래스 정상상태 시각유발전위(SSVEP) 분류에서는 최대 13.02% 향상되었습니다. 학습된 아틀라스 표현을 시각화한 결과 태스크 의존적인 공간 패턴이 드러났으며, SSVEP는 청각 P300에 비해 Yeo 시각 네트워크에서 더욱 집중된 표현을 보였습니다. 이러한 결과는 피질 정렬(cortical alignment)이 이종 EEG 몽타주에서 사전학습된 파운데이션 모델로 향하는, 학습 가능하며 해부학적 근거를 갖춘 라우팅 메커니즘임을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.