PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.04189v2cs.LG

SpecGradFilter: 연합 학습의 이질성을 제어하기 위한 스펙트럴 그래디언트 필터링 프레임워크

SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity

연합 학습(FL)에서 클라이언트 드리프트(client drift)가 저주파 그래디언트 성분에 집중된다는 "드리프트의 스펙트럴 바이어스(Spectral Bias of Drift)" 현상을 발견하고, 이를 기반으로 불일치하는 저주파 신호를 억제하는 통합 프레임워크 SpecGradFilter를 제안한다. CIFAR-10/100 및 Tiny-ImageNet 벤치마크에서 고도의 non-IID 환경 하에 통신 오버헤드 없이 기존 연합 학습 기법 대비 우수한 성능과 수렴 속도를 달성한다.

arXiv:2607.04170v1cs.LG

FedFFT: 스펙트럼 섭동 필터링을 통한 연합 SAM의 클라이언트 드리프트 해소

FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering

연합 학습에서 SAM 섭동의 클라이언트 간 불일치가 저주파 스펙트럼에 집중되어 있음을 주파수 도메인 분석으로 최초 규명하고, 이를 바탕으로 추가 통신 없이 저주파 성분을 필터링하는 경량 플러그 앤 플레이 방법인 FedFFT를 제안하였다. 다양한 벤치마크와 백본에서 특히 심각한 non-IID 환경 하에 기존 SAM 기반 연합 학습 방법들을 일관되게 능가함을 실험적으로 입증하였다.