SpecGradFilter: 연합 학습의 이질성을 제어하기 위한 스펙트럴 그래디언트 필터링 프레임워크
SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity
연합 학습(FL)에서 클라이언트 드리프트(client drift)가 저주파 그래디언트 성분에 집중된다는 "드리프트의 스펙트럴 바이어스(Spectral Bias of Drift)" 현상을 발견하고, 이를 기반으로 불일치하는 저주파 신호를 억제하는 통합 프레임워크 SpecGradFilter를 제안한다. CIFAR-10/100 및 Tiny-ImageNet 벤치마크에서 고도의 non-IID 환경 하에 통신 오버헤드 없이 기존 연합 학습 기법 대비 우수한 성능과 수렴 속도를 달성한다.