arXiv:2301.09508

BayBFed: Bayesian Backdoor Defense for Federated Learning

Kavita Kumari, Phillip Rieger, Hossein Fereidooni, Murtuza Jadliwala, Ahmad-Reza Sadeghi

제출 2023-01-23

원문 초록

Federated learning (FL) allows participants to jointly train a machine learning model without sharing their private data with others. However, FL is vulnerable to poisoning attacks such as backdoor attacks. Consequently, a variety of defenses have recently been proposed, which have primarily utilized intermediary states of the global model (i.e., logits) or distance of the local models (i.e., L2-norm) from the global model to detect malicious backdoors. However, as these approaches directly operate on client updates, their effectiveness depends on factors such as clients' data distribution or the adversary's attack strategies. In this paper, we introduce a novel and more generic backdoor defense framework, called BayBFed, which proposes to utilize probability distributions over client updates to detect malicious updates in FL: it computes a probabilistic measure over the clients' updates to keep track of any adjustments made in the updates, and uses a novel detection algorithm that can leverage this probabilistic measure to efficiently detect and filter out malicious updates. Thus, it overcomes the shortcomings of previous approaches that arise due to the direct usage of client updates; as our probabilistic measure will include all aspects of the local client training strategies. BayBFed utilizes two Bayesian Non-Parametric extensions: (i) a Hierarchical Beta-Bernoulli process to draw a probabilistic measure given the clients' updates, and (ii) an adaptation of the Chinese Restaurant Process (CRP), referred by us as CRP-Jensen, which leverages this probabilistic measure to detect and filter out malicious updates. We extensively evaluate our defense approach on five benchmark datasets: CIFAR10, Reddit, IoT intrusion detection, MNIST, and FMNIST, and show that it can effectively detect and eliminate malicious updates in FL without deteriorating the benign performance of the global model.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10613v1cs.LG공통 태그 Intrusion Detection, Federated Learning

이상 탐지를 위한 연합 경량 헤드 기반 시계열 트랜스포머 CAN 인코더

Temporal transformer CAN encoder with federated lightweight heads for anomaly detection

현대 차량은 CAN(Controller Area Network) 버스를 통해 지속적으로 정보를 교환하는 수많은 전자제어장치(ECU)에 의존합니다. 이러한 통신의 신속성, 구조, 반복성으로 인해 타이밍, 페이로드 값, 메시지 패턴의 미세한 변화조차도 비정상적인 활동을 나타낼 수 있습니다. 오류, 오작동, 의도적인 간섭 등 원인에 관계없이 이러한 이상 현상은 매우 미묘하여, 메시지를 개별적으로 처리하거나 수작업으로 생성된 규칙에 의존하는 기존 방식으로는 식별하기 어렵습니다. 이러한 한계점을 해결하기 위해, 본 논문에서는 이러한 불규칙성을 더 효과적으로 포착할 수 있도록 연합 경량 헤드를 갖춘 시계열 트랜스포머 CAN 인코더 기반의 차량 내 네트워크 이상 탐지용 프라이버시 보존 프레임워크를 제안합니다. 이 신호들이 시간에 따라 어떻게 변화하는지 학습하는 경량 트랜스포머 인코더를 통해 미묘한 시계열 및 문맥적 이상 현상의 탐지가 가능해지며, 연합학습(federated learning) 메커니즘을 통해 여러 차량이나 ECU가 원시 CAN 데이터를 교환하지 않고도 협력하여 공유 모델을 개선할 수 있습니다. 오픈소스 데이터셋을 대상으로 수행한 실험에 따르면, 이러한 연합학습과 시계열 시퀀스 모델링의 결합은 효율성과 프라이버시를 유지하면서도 견고한 이상 탐지 성능을 제공합니다.

arXiv:2609.27202v1cs.CR공통 태그 Intrusion Detection, Federated Learning

IoT 보안을 위한 신뢰할 수 있는 연합 TinyML 배포

Reliable Federated TinyML Deployment for IoT Security

사물인터넷(IoT) 기기의 배포가 증가함에 따라 자원 제약이 있는 하드웨어에서 직접 동작하는 프라이버시 보존형 침입 탐지 시스템의 필요성이 커졌습니다. 연합학습(Federated Learning)은 원시 데이터를 공유하지 않고도 협업적 모델 학습을 가능하게 하지만, 기존의 연합 모델은 마이크로컨트롤러급 기기에 배포하기에는 지나치게 크고 불안정한 경우가 많습니다. TinyML 기술은 소형 신경망을 가능하게 하지만 일반적으로 추론 전용 워크로드를 위해 설계됩니다. 본 연구에서는 IoT 환경의 침입 탐지를 위해 연합학습과 TinyML 기반 모델 압축을 결합하는 방안을 조사합니다. 저자들은 연합 학습 파이프라인 내에서 지식 증류, 구조적 가지치기, 양자화를 포함한 압축 전략을 평가합니다. 초기 결과는 학습 안정성이 연합 TinyML 시스템에서 결정적인 역할을 한다는 점을 보여줍니다. 특히, 서버 조율 코사인 학습률 스케줄링(server-coordinated cosine learning-rate scheduling)은 상당한 모델 압축과 효율적인 엣지 배포를 실현하는 동시에 공격 재현율(Attack Recall)을 46.7%에서 93.85%로 향상시킵니다. 이러한 결과는 IoT 기기를 위한 경량화 및 프라이버시 보존형 침입 탐지 시스템 설계에 유용한 통찰을 제공합니다.

arXiv:2607.04698v1cs.LG공통 태그 Intrusion Detection, Federated Learning

F-ACVAE: IoT 네트워크에서 프라이버시 보존 침입 탐지를 위한 연합 적응형 조건부 변분 오토인코더

F-ACVAE: A Federated Adaptive Conditional Variational Auto-Encoder for Privacy-Preserving Intrusion Detection in IoT Networks

사물인터넷(IoT) 기기의 급속한 확산은 사이버 공격 표면을 크게 확장시켰으며, 이에 따라 견고하고 프라이버시를 보존하는 침입 탐지 시스템(IDS)의 필요성이 높아지고 있다. 그러나 중앙화된 학습 방식은 고차원 트래픽 데이터, 극심한 클래스 불균형, 그리고 이기종 엣지 기기 간의 높은 비독립동일분포(non-IID) 데이터로 인해 심각한 성능 저하를 겪는 경우가 많다. 이러한 문제를 해결하기 위해 본 논문은 F-ACVAE를 제안한다. F-ACVAE는 원시 데이터를 공유하지 않고 분산된 IoT 기기 간 협력적 모델 학습을 가능하게 하는 연합 적응형 조건부 변분 오토인코더 프레임워크이다. F-ACVAE는 선택적 매개변수 집계 방식을 채택하여, 로컬 인코더는 비공개로 유지하면서 전역으로 공유되는 구성 요소만 동기화함으로써 판별적 잠재 구조를 보존한다. 극심한 non-IID 환경과 특징 분포 변화 하에서의 안정성을 더욱 향상시키기 위해, 클라이언트 드리프트를 완화하는 업데이트 클램핑과 모멘텀 기반 스무딩을 결합한 새로운 제약 모멘텀 가우시안 집계(CMGA) 전략을 도입하였다. N-BaIoT 데이터셋을 활용한 광범위한 실험 결과, F-ACVAE는 평균 정확도와 매크로 F1-스코어에서 99%를 달성하여 최신 기준 모델들을 능가하였다. 또한 선택적 집계 메커니즘은 통신 오버헤드를 약 62% 절감하여, 자원이 제한된 IoT 환경에 특히 적합한 프레임워크임을 입증하였다. 이러한 결과는 F-ACVAE가 프라이버시 보존과 통신 효율성을 보장하면서 높은 탐지 성능을 달성하는 데 있어 효과적임을 잘 보여준다.

arXiv:2606.21422v1cs.LG공통 태그 Intrusion Detection, Federated Learning

사이버 복원력 IoMT를 위한 연합형 시간적 어텐션 지능: 경량 디지털 트윈과 PPO 기반 허니팟 기만

Federated Temporal Attention Intelligence for Cyber-Resilient IoMT: Lightweight Digital Twins and PPO-Driven Honeypot Deception

의료 사물인터넷(IoMT) 기기의 급속한 확산은, 자원이 제한된 의료 기기가 엄격한 지연 요구사항과 엄격한 데이터 프라이버시 규제 하에서 운영되는 의료 환경에 중대한 사이버보안 취약점을 야기한다. 이러한 과제를 해결하기 위해 본 논문은 경량 디지털 트윈과 연합 강화학습(LDT-FRL) 프레임워크를 제시한다. 이는 프라이버시를 보존하는 방어 아키텍처로, 네 가지 상호 보완적 메커니즘을 통합한다: 플로우 수준 위협 분류를 위해 GRU 백본 위에 구축되고 학습된 시간적 셀프 어텐션(temporal self-attention)을 갖춘 시간적 어텐션 인코더(TAE); 정상 클래스 트래픽으로 학습된 경량 LSTM 기반 디지털 트윈이 디바이스별 이상 점수를 생성하고, 학습된 시그모이드 결합을 통해 TAE 분류기를 게이팅(gating)하는 메커니즘; 7차원 상태에 기반하여 ALLOW, ISOLATE, HONEYPOT_REDIRECT 행동 중 하나를 선택하는 연합 근위 정책 최적화(Federated Proximal Policy Optimization, PPO) 에이전트; 그리고 리디렉션된 의심 트래픽을 실행 가능한 위협 인텔리전스로 변환하는 지능형 허니팟 층. 비동일 분포(non-IID) 클라이언트 분포 하에서 글로벌 모델 업데이트를 안정화하기 위해, EMA 평활화된 클라이언트별 검증 손실을 역가중 FedAvg 계수로 사용하는 연합 집계 전략을 적용한다. CICDDoS 2019 및 TON-IoT 벤치마크에서 평가한 결과, LDT-FRL은 각각 99.66% 및 99.95%의 테스트 정확도와 0.9913 및 0.9995의 macro-F1 점수를 달성하며, DTFL-CD 기준선 대비 81% 더 빠르게 수렴하고 심각하게 불균형한 MITM 클래스에서 완벽한 F1=1.000을 달성한다. SHAP, LIME, Grad-CAM 및 반사실적(counterfactual) 방법을 통한 설명 가능성 분석은 TAE가 의미론적으로 중요한 플로우 특징에 집중함을 확인하여, 각 방어 결정에 대한 해석 가능한 근거를 제공한다.

arXiv:2606.21513v1cs.LG공통 태그 Intrusion Detection, Federated Learning

사이버 복원력 IoMT를 위한 디지털 트윈 기반 적응형 기만을 활용한 프라이버시 보존 연합 시간 그래프 학습

Privacy-Preserving Federated Temporal Graph Learning with Digital Twin--Guided Adaptive Deception for Cyber-Resilient IoMT

IoT 및 IoMT(Internet of Medical Things) 기기의 급격한 확산은 자원 제약 환경에서 엄격한 지연(latency) 및 데이터 프라이버시 규제 하에 운영되는 의료·산업 환경에 치명적인 사이버보안 취약점을 야기한다. 본 논문은 Advantage Actor-Critic을 결합한 연합 시간 그래프 합성곱 신경망(Federated TGCN-A2C)을 제안하며, 이는 프라이버시를 보존하는 방어 아키텍처로 네 가지 메커니즘을 통합한다: GCNConv 층과 전역 평균 풀링, 학습된 이상(anomaly) 게이트를 사용하는 PyG 기반 Temporal GCN을 통한 플로우 수준 위협 분류; 기기별 이상 점수를 생성하고 학습된 시그모이드 결합을 통해 분류기를 게이팅하는 LSTM 기반 디지털 트윈; 신뢰도, 엔트로피, 이상 크기, 트래픽 구성을 포착하는 7차원 상태에 기반하여 ALLOW, ISOLATE, HONEYPOT-REDIRECT 행동 중 하나를 선택하는 연합 A2C 에이전트; 의심스러운 트래픽을 적응형 임계값으로 위협 인텔리전스로 전환하는 강화된 허니팟(honeypot) 층. 연합 집계는 EMA로 평활화된 클라이언트별 검증 손실을 FedAvg 계수의 역가중치로 사용하여 비-IID(non-IID) 분포 하에서 전역 모델 업데이트를 안정화하며, 라운드당 코사인 어닐링(cosine-annealed) 학습률을 적용한다. CICDDoS 2019 및 TON-IoT 벤치마크에서 평가한 결과, 본 프레임워크는 각각 99.48% 및 99.61%의 테스트 정확도와 0.9948 및 0.9961의 가중 F1 점수를 달성하며, 25 및 10회의 연합 라운드 내에 수렴하고 Fed-Inforce-Fusion 대비 0.21%p 우수한 성능을 보이면서 세 가지 추가 공격 카테고리를 포괄한다. CICDDoS 2019의 16개 클래스 모두 F1이 0.9237 이상이며, TON-IoT의 10개 클래스 모두 F1이 0.9488 이상으로, 심각하게 불균형한 MITM 카테고리를 포함한다. SHAP, LIME, Grad-CAM 및 반사실(counterfactual) 분석을 통한 사후 설명 가능성(explainability)은 의사결정이 의미론적으로 유의미한 플로우 특징에 기반함을 확인하며, 임상 배포에서의 규제 책임성(regulatory accountability)을 뒷받침한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.