SAB:A Stealing and Robust Backdoor Attack based on Steganographic Algorithm against Federated Learning
원문 초록
Federated learning, an innovative network architecture designed to safeguard user privacy, is gaining widespread adoption in the realm of technology. However, given the existence of backdoor attacks in federated learning, exploring the security of federated learning is significance. Nevertheless, the backdoors investigated in current federated learning research can be readily detected by human inspection or resisted by detection algorithms. Accordingly, a new goal has been set to develop stealing and robust federated learning backdoor attacks. In this paper, we introduce a novel approach, SAB, tailored specifically for backdoor attacks in federated learning, presenting an alternative gradient updating mechanism. SAB attack based on steganographic algorithm, using image steganographic algorithm to build a full-size trigger to improve the accuracy of backdoors and use multiple loss joint computation to produce triggers. SAB exhibits smaller distances to benign samples and greater imperceptibility to the human eye. As such, our triggers are capable of mitigating or evading specific backdoor defense methods. In SAB, the bottom-95\% method is applied to extend the lifespan of backdoor attacks. It updates the gradient on minor value points to reduce the probability of being cleaned. Finally, the generalization of backdoors is enhanced with Sparse-update to improve the backdoor accuracy.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제
Backdoor Containment via Expert Quarantine and Shutdown in LLMs
Color Matters: Trigger Color Affects Success in Federated Backdoor Attacks
SCRUB-FL: 백도어 언러닝을 통한 표현 정화
SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors
연합 학습(Federated Learning, FL)은 원시 데이터를 공유하지 않고 협력적으로 모델을 학습할 수 있게 하므로, 프라이버시에 민감한 응용 분야에 유망한 패러다임이다. 그러나 분산 특성 때문에 악의적인 클라이언트가 로컬 학습 데이터에 숨겨진 트리거를 삽입하여 모델 예측을 조작하는 백도어 공격에 본질적으로 취약하다. 기존 방어 기법은 주로 집계 전과 집계 중에 작동하며, 수렴한 글로벌 모델에 남아 있는 백도어 행동을 완전히 제거하지 못한다. 또한 사후 학습 정화의 효과는 종종 수렴 후 트리거 패턴이나 오염된 클라이언트에 대한 서버의 지식 부족으로 제한되어, 잔존 백도어 행동이나 뉴런 얽힘(neuron entanglement)으로 인한 정확도 저하가 발생한다. 이 한계를 해결하기 위해, FL에서 사후 학습 백도어 제거를 위한 2단계 솔루션인 SCRUB-FL(Sanitizing and Cleansing Representations via Unlearning of Backdoors)을 제안한다. 학습 중, 클라이언트는 스펙트럴 분석과 활성화 클러스터링을 사용해 의심스러운 샘플을 식별한 뒤, 트리거 관련 분포를 포착하기 위해 경량 Wasserstein Generative Adversarial Network with Gradient Penalty(WGAN-GP) 모델을 학습한다. 생성기 파라미터는 서버 측에서 집계되어 원시 데이터를 노출하지 않고 의심스러운 패턴의 글로벌 표현을 구성한다. 수렴 후, 서버는 트리거를 근사하는 샘플을 합성하고 머신 언러닝(machine unlearning)을 적용하여 예측을 균등 분포로 재분배함으로써 트리거-타깃 연관을 지운다. CIFAR-10과 GTSRB에 대한 세 가지 공격 유형 및 최대 40%의 악의적 참여에 걸친 실험 평가는 SCRUB-FL이 백도어 공격 성공률을 최저 3.88%까지 낮추면서 정상 과제 정확도 91% 이상을 유지하며, 서버에서 사전 트리거 지식이나 대규모 클린 프록시 데이터셋 없이도 최신(state-of-the-art) 방어 기법을 능가함을 보여준다.
FLsim: A Modular and Library-Agnostic Simulation Framework for Federated Learning
Domain Borders Are There to Be Crossed With Federated Few-Shot Adaptation
Geo-ORBIT: A Federated Digital Twin Framework for Scene-Adaptive Lane Geometry Detection
토론
이 논문과 연결된 포럼 글이 아직 없습니다.