arXiv:2310.04055

Kick Bad Guys Out! Conditionally Activated Anomaly Detection in Federated Learning with Zero-Knowledge Proof Verification

Shanshan Han, Wenxuan Wu, Baturalp Buyukates, Weizhao Jin, Qifan Zhang, Yuhang Yao, Salman Avestimehr, Chaoyang He

제출 2023-10-06

원문 초록

Federated Learning (FL) systems are vulnerable to adversarial attacks, such as model poisoning and backdoor attacks. However, existing defense mechanisms often fall short in real-world settings due to key limitations: they may rely on impractical assumptions, introduce distortions by modifying aggregation functions, or degrade model performance even in benign scenarios. To address these issues, we propose a novel anomaly detection method designed specifically for practical FL scenarios. Our approach employs a two-stage, conditionally activated detection mechanism: cross-round check first detects whether suspicious activity has occurred, and, if warranted, a cross-client check filters out malicious participants. This mechanism preserves utility while avoiding unrealistic assumptions. Moreover, to ensure the transparency and integrity of the defense mechanism, we incorporate zero-knowledge proofs, enabling clients to verify the detection without relying solely on the server's goodwill. To the best of our knowledge, this is the first method to bridge the gap between theoretical advances in FL security and the demands of real-world deployment. Extensive experiments across diverse tasks and real-world edge devices demonstrate the effectiveness of our method over state-of-the-art defenses.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10613v1cs.LG공통 태그 Anomaly Detection, Federated Learning

이상 탐지를 위한 연합 경량 헤드 기반 시계열 트랜스포머 CAN 인코더

Temporal transformer CAN encoder with federated lightweight heads for anomaly detection

현대 차량은 CAN(Controller Area Network) 버스를 통해 지속적으로 정보를 교환하는 수많은 전자제어장치(ECU)에 의존합니다. 이러한 통신의 신속성, 구조, 반복성으로 인해 타이밍, 페이로드 값, 메시지 패턴의 미세한 변화조차도 비정상적인 활동을 나타낼 수 있습니다. 오류, 오작동, 의도적인 간섭 등 원인에 관계없이 이러한 이상 현상은 매우 미묘하여, 메시지를 개별적으로 처리하거나 수작업으로 생성된 규칙에 의존하는 기존 방식으로는 식별하기 어렵습니다. 이러한 한계점을 해결하기 위해, 본 논문에서는 이러한 불규칙성을 더 효과적으로 포착할 수 있도록 연합 경량 헤드를 갖춘 시계열 트랜스포머 CAN 인코더 기반의 차량 내 네트워크 이상 탐지용 프라이버시 보존 프레임워크를 제안합니다. 이 신호들이 시간에 따라 어떻게 변화하는지 학습하는 경량 트랜스포머 인코더를 통해 미묘한 시계열 및 문맥적 이상 현상의 탐지가 가능해지며, 연합학습(federated learning) 메커니즘을 통해 여러 차량이나 ECU가 원시 CAN 데이터를 교환하지 않고도 협력하여 공유 모델을 개선할 수 있습니다. 오픈소스 데이터셋을 대상으로 수행한 실험에 따르면, 이러한 연합학습과 시계열 시퀀스 모델링의 결합은 효율성과 프라이버시를 유지하면서도 견고한 이상 탐지 성능을 제공합니다.

arXiv:2609.27202v1cs.CR공통 태그 Anomaly Detection, Federated Learning

IoT 보안을 위한 신뢰할 수 있는 연합 TinyML 배포

Reliable Federated TinyML Deployment for IoT Security

사물인터넷(IoT) 기기의 배포가 증가함에 따라 자원 제약이 있는 하드웨어에서 직접 동작하는 프라이버시 보존형 침입 탐지 시스템의 필요성이 커졌습니다. 연합학습(Federated Learning)은 원시 데이터를 공유하지 않고도 협업적 모델 학습을 가능하게 하지만, 기존의 연합 모델은 마이크로컨트롤러급 기기에 배포하기에는 지나치게 크고 불안정한 경우가 많습니다. TinyML 기술은 소형 신경망을 가능하게 하지만 일반적으로 추론 전용 워크로드를 위해 설계됩니다. 본 연구에서는 IoT 환경의 침입 탐지를 위해 연합학습과 TinyML 기반 모델 압축을 결합하는 방안을 조사합니다. 저자들은 연합 학습 파이프라인 내에서 지식 증류, 구조적 가지치기, 양자화를 포함한 압축 전략을 평가합니다. 초기 결과는 학습 안정성이 연합 TinyML 시스템에서 결정적인 역할을 한다는 점을 보여줍니다. 특히, 서버 조율 코사인 학습률 스케줄링(server-coordinated cosine learning-rate scheduling)은 상당한 모델 압축과 효율적인 엣지 배포를 실현하는 동시에 공격 재현율(Attack Recall)을 46.7%에서 93.85%로 향상시킵니다. 이러한 결과는 IoT 기기를 위한 경량화 및 프라이버시 보존형 침입 탐지 시스템 설계에 유용한 통찰을 제공합니다.

arXiv:2609.27760v1cs.LG공통 태그 Anomaly Detection, Federated Learning

백도어는 구조적 흔적을 남긴다: 연합 학습에서 백도어 탐지 및 억제를 위한 FedMAST

Backdoors Leave Structural Traces: FedMAST for Backdoor Detection and Containment in Federated Learning

연합 학습(federated learning)은 클라이언트가 원시(raw) 데이터를 공유할 필요 없이 공유 모델의 분산 학습을 가능하게 한다. 그러나 클라이언트가 제출한 업데이트의 무결성에 대한 의존은 전역 모델을 은밀한(stealthy) 백도어 poisoning에 노출시킨다. 기존 방어는 종종 고립된 증거 원천을 검사하지만, 은밀성 제약(stealth-constrained) 공격은 이러한 신호에 적응할 수 있다. 본 논문에서는 이러한 공격이 고립된 이상(anomaly) 신호를 억제할 수 있으나, poisoned 업데이트는 여전히 잔여 구조적 흔적을 남긴다는 것을 보인다. 연합 학습에서 백도어 탐지를 위한 Federated Multi-Axis Structural Tracing(FedMAST) 방어를 제안한다. FedMAST는 상호 보완적인 구조적·스펙트럴(spectral)·역사적(historical) 증거로 클라이언트 업데이트를 점수화한 뒤, 계층적(tiered) 필터링과 라운드 수준(round-level) 억제(containment)를 적용해 적대적 영향을 제한한다. 고립된 신호가 놓칠 수 있는 흔적을 포착하기 위해 FedMAST는 squeeze-pair coherence scoring으로 결합된 특징(feature) 왜곡을 드러내고, signed spectral-drift tracking으로 시간에 따른 지속적인 방향 변화를 밝힌다. Constrain-and-Scale, Neurotoxin, BC-Layers, LGA, DBA, 3DFed 등 6가지 연합 백도어 공격에 대해 FedMAST는 9개의 공격–방어 비교 평가 모두에서 기준선(baseline) 방어보다 낮은 ASR(attack success rate)을 달성한다. 200라운드 전체 실행에서 평균 ASR 1.51%를 달성하면서 평균 주과제(main-task) 정확도 94.84%를 유지한다. method-aware CovertLayers 공격 하에서 FedAvg, MultiKrum, AlignIns, FLAME은 각각 전체 실행 ASR 100.00%, 99.67%, 99.53%, 32.84%를 기록한다. FedMAST는 평가된 모든 방법 중 최저 ASR을 달성하여 1.53%로 낮추면서 주과제 정확도 92.26%를 유지한다.

arXiv:2609.27124v1cs.CR공통 태그 Anomaly Detection, Federated Learning

클라이언트가 조율될 때: 연합 학습 서버를 격파하는 전략적 그래디언트 조작과 효율적 방어

When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense

연합 학습(Federated Learning)은 원시 데이터가 아니라 모델 업데이트를 중앙 매개변수 서버(PS)와 교환함으로써 분산 모델 학습을 가능하게 한다. 기존 방어의 대부분은 정적이거나 독립적으로 행동하는 적대자를 주로 가정하는 반면, 우리는 이러한 보호를 체계적으로 우회하는 새로운 유형의 동적·적응형 공격을 밝힌다. 우리는 악성 조율 서버(OS)가 표적·비표적 공격 클라이언트를 포함한 이질적 적대적 클라이언트 집합을 동적으로 조율하는 통합 공격 프레임워크 Fed-ADR을 제안한다. OS의 실시간 조율을 통해 악성 클라이언트는 PS에 배포된 방어를 회피하도록 그래디언트 업데이트를 전략적으로 조정하면서, 전역 모델 성능을 심각하게 저하시키거나 학습을 적대적 목표로 유도한다. 이 위협을 완화하기 위해, 우리는 각 클라이언트의 과거 업데이트로부터 실제 그래디언트를 추정하는 탐지 메커니즘을 제시하여 추가 오버헤드 없이 조율된 악성 행동의 실시간 탐지를 가능하게 한다. 또한 학습을 재시작하지 않고 전역 모델 성능을 복구하는 in-situ 복구 메커니즘을 도입하여 수렴을 유지하고 복구 시간을 최소화한다. MNIST, Fashion-MNIST, CIFAR-10 벤치마크 데이터셋에 대한 종합 실험은 Fed-ADR 공격 체계가 전역 정확도를 90% 이상에서 10% 미만으로 낮출 수 있으며 여러 최신(state-of-the-art) 방어를 우회함을 보여준다. 우리의 탐지 및 복구 모듈을 사용하면 악성 클라이언트를 식별하고 수 라운드 내에 정확도를 90% 이상으로 복구하며, 처음부터 재학습하는 것보다 훨씬 낮은 비용으로—계산 오버헤드를 최소 20배 줄이는—성과를 달성한다.

arXiv:2607.08978v1cs.LG공통 태그 Anomaly Detection, Federated Learning

IoT 시스템에서 다변량 시계열 이상 탐지를 위한 연합 저랭크 쿠프만 학습

Federated Low-Rank Koopman Learning for Multivariate Time-Series Anomaly Detection in IoT Systems

분산 IoT 시스템은 물리적 자산, 서버, 임베디드 센싱 플랫폼을 모니터링하기 위해 다변량 시계열 스트림을 생성한다. 비정상적인 시간적 동작을 탐지하는 것은 결함 진단, 예지 정비, 보안에 있어 매우 중요하다. 그러나 실제 IoT 이상 탐지는 분산되고 비독립동일분포(non-IID)인 데이터, 제한된 대역폭, 그리고 엣지 디바이스의 제약된 연산 및 메모리로 인해 어려움을 겪는다. 본 논문은 분산 IoT 다변량 시계열을 위한 자원 효율적인 연합 쿠프만 이상 탐지 프레임워크인 FedKAD를 제안한다. 대규모 신경망 모델의 학습과 통신이 필요한 딥러닝 기반 이상 탐지기와 달리, FedKAD는 경량 슬라이딩 윈도우 쿠프만 표현을 통해 정상 시간적 역학을 학습한다. 연합 학습은 저랭크 합의 문제로 정식화되며, 원시 센서 스트림과 로컬 축소 역학은 디바이스에 유지되고 소형 부분공간 변수만이 서버와 교환된다. 직교정규성 제약 하에서 공유 표현을 최적화하기 위해 연합 Stiefel-ADMM 알고리즘을 개발하고, 부분 클라이언트 참여 하에서의 수렴 및 정류성 분석을 제공한다. 추론 시, 각 클라이언트는 관측된 미래 궤적과 학습된 쿠프만 역학 간의 예측 잔차를 측정하여 로컬에서 이상을 탐지한다. 널리 사용되는 네 개의 다변량 시계열 이상 탐지 벤치마크에 대한 실험에서 FedKAD는 연합 딥러닝 기준선 대비 탐지 성능을 유지하거나 향상시키는 것으로 나타났다. IoT 배포 관점에서 더욱 중요한 점은, FedKAD가 신경망 기준선 대비 최대 $2.1\times10^3$배 빠른 학습, $80\times$ 낮은 통신량, $79\times$ 낮은 추론 지연을 제공함으로써 자원이 제한된 엣지 디바이스에 대한 적합성을 확인했다는 것이다.

arXiv:2607.09259v1cs.CR공통 태그 Anomaly Detection, Federated Learning

통신/IoT 사기 제어 요청을 위한 블록체인 연동 감사 가능 의사결정 관리

Blockchain-Linked Auditable Decision Management for Telecom/IoT Fraud-Control Requests

통신 사기 제어 연구는 탐지기 수준의 분류(classification)에서 멈추는 경우가 많지만, 실제 배포 환경에서는 요청 수준의 정책 결정, 생애주기 추적성, 감사 가능성이 필요하다. 본 논문은 사기 제어 문제를 합성 통신/IoT 사기 제어 요청에 대한 블록체인 연동 감사 가능 의사결정 관리로 재정의하며, 주요 결과는 QLoRA 튜닝된 대규모 언어 모델(LLM) 브랜치가 제로샷(zero-shot) 프롬프팅보다 훨씬 실용적이지만, 저비용 중앙 집중식 앙상블(ensemble)을 능가하기보다는 주로 근접하는 수준에 그친다는 것이다. 이 프레임워크는 각 합성 배포 레코드를 관리 요청으로 매핑하고, 결정론적 하드-사기 게이트를 통해 명시적 경계 초과 사례를 차단하며, 비하드 요청을 중앙 집중식 ML(M1), 연합 메타학습(M2), 또는 LLM 계열 위험 소스(M3)를 사용하여 점수화하고, 공유된 5-상태 정책, 2-구역 정제 메커니즘, 로컬 이더리움 호환 감사 레이어(layer)를 통해 조치를 결정한다. 평가는 별도의 합성 학습(training) 데이터와 100,000건의 레코드로 구성된 배포 재현 코퍼스를 사용하므로, 본 연구는 현장 검증이나 실제 배포 가능성의 증명이 아닌 통제된 드리프트 재현 증거로 해석해야 한다. 검증(validation) 결과, M1이 가장 균형 잡힌 성능을 보이며, 0.10 운영 상한 하에서 정상 요청 FPR 0.0890, 소프트-사기 재현율(recall) 0.8341을 달성한다. 그러나 레이블된 배포 재현에서는 정상-FPR 격차가 크게 벌어져, M1은 0.1646, M3-QLoRA는 0.1801로 상승하며, M3-QLoRA는 M3-Base의 정상 FPR을 0.3915에서 낮추고 소프트-사기 재현율 0.8240에 도달한다. 블록체인 텔레메트리는 생애주기 가스, 비용, 지연 시간, 처리량의 차이가 사기 로직의 변화가 아닌 제출된 오프체인 의사결정 프로파일에 의해 결정됨을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.