SPIN: Simulated Poisoning and Inversion Network for Federated Learning-Based 6G Vehicular Networks
원문 초록
The applications concerning vehicular networks benefit from the vision of beyond 5G and 6G technologies such as ultra-dense network topologies, low latency, and high data rates. Vehicular networks have always faced data privacy preservation concerns, which lead to the advent of distributed learning techniques such as federated learning. Although federated learning has solved data privacy preservation issues to some extent, the technique is quite vulnerable to model inversion and model poisoning attacks. We assume that the design of defense mechanism and attacks are two sides of the same coin. Designing a method to reduce vulnerability requires the attack to be effective and challenging with real-world implications. In this work, we propose simulated poisoning and inversion network (SPIN) that leverages the optimization approach for reconstructing data from a differential model trained by a vehicular node and intercepted when transmitted to roadside unit (RSU). We then train a generative adversarial network (GAN) to improve the generation of data with each passing round and global update from the RSU, accordingly. Evaluation results show the qualitative and quantitative effectiveness of the proposed approach. The attack initiated by SPIN can reduce up to 22% accuracy on publicly available datasets while just using a single attacker. We assume that revealing the simulation of such attacks would help us find its defense mechanism in an effective manner.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Generative AI and Federated Learning for Intrusion Detection Systems: A Survey
SCRUB-FL: 백도어 언러닝을 통한 표현 정화
SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors
연합 학습(Federated Learning, FL)은 원시 데이터를 공유하지 않고 협력적으로 모델을 학습할 수 있게 하므로, 프라이버시에 민감한 응용 분야에 유망한 패러다임이다. 그러나 분산 특성 때문에 악의적인 클라이언트가 로컬 학습 데이터에 숨겨진 트리거를 삽입하여 모델 예측을 조작하는 백도어 공격에 본질적으로 취약하다. 기존 방어 기법은 주로 집계 전과 집계 중에 작동하며, 수렴한 글로벌 모델에 남아 있는 백도어 행동을 완전히 제거하지 못한다. 또한 사후 학습 정화의 효과는 종종 수렴 후 트리거 패턴이나 오염된 클라이언트에 대한 서버의 지식 부족으로 제한되어, 잔존 백도어 행동이나 뉴런 얽힘(neuron entanglement)으로 인한 정확도 저하가 발생한다. 이 한계를 해결하기 위해, FL에서 사후 학습 백도어 제거를 위한 2단계 솔루션인 SCRUB-FL(Sanitizing and Cleansing Representations via Unlearning of Backdoors)을 제안한다. 학습 중, 클라이언트는 스펙트럴 분석과 활성화 클러스터링을 사용해 의심스러운 샘플을 식별한 뒤, 트리거 관련 분포를 포착하기 위해 경량 Wasserstein Generative Adversarial Network with Gradient Penalty(WGAN-GP) 모델을 학습한다. 생성기 파라미터는 서버 측에서 집계되어 원시 데이터를 노출하지 않고 의심스러운 패턴의 글로벌 표현을 구성한다. 수렴 후, 서버는 트리거를 근사하는 샘플을 합성하고 머신 언러닝(machine unlearning)을 적용하여 예측을 균등 분포로 재분배함으로써 트리거-타깃 연관을 지운다. CIFAR-10과 GTSRB에 대한 세 가지 공격 유형 및 최대 40%의 악의적 참여에 걸친 실험 평가는 SCRUB-FL이 백도어 공격 성공률을 최저 3.88%까지 낮추면서 정상 과제 정확도 91% 이상을 유지하며, 서버에서 사전 트리거 지식이나 대규모 클린 프록시 데이터셋 없이도 최신(state-of-the-art) 방어 기법을 능가함을 보여준다.
PSyGenTAB: 제약 최적화를 통한 합성 임상 테이블 데이터 생성을 위한 프라이버시 보호 프레임워크
PSyGenTAB: A Privacy-Preserving Framework for Synthetic Clinical Tabular Data Generation via Constrained Optimization
의료 AI 개발은 기관 간 사일로와 HIPAA 및 GDPR와 같은 엄격한 프라이버시 규정으로 인해 고품질 임상 데이터에 대한 접근이 제한됨에 따라 제약을 받고 있습니다. 합성 데이터 생성은 잠재적인 해결책을 제공하지만, 기존 방법은 프라이버시-유용성 트레이드오프를 명시적으로 관리하는 체계적인 메커니즘이 부족하여, 임상적으로 의미 있는 패턴을 훼손하거나 환자 재식별(re-identification) 위험을 초래하는 경우가 많습니다. 본 연구에서는 증대 라그랑주 방법(Augmented Lagrangian Method)을 사용하여 해결되는 제약 최적화 문제로 합성 헬스케어 데이터 생성을 정의하는 프라이버시 보호 생성적 프레임워크인 PSyGenTAB을 제시합니다. 구성 가능한 프라이버시 제약 조건을 모델 학습에 직접 통합함으로써, PSyGenTAB은 임상 데이터 유용성을 최대화하는 동시에 최소 프라이버시 임계값을 보장합니다. 다양한 임상 동기 벤치마크(benchmark)에서 PSyGenTAB은 신뢰할 수 있는 헬스케어 AI에 필수적인 특징 간 임상 관계와 소수 클래스 진단 패턴을 보존합니다. Train-on-Synthetic, Test-on-Real 및 Train-on-Real, Test-on-Synthetic 프로토콜을 사용한 다운스트림 평가 결과, 합성 데이터로 학습된 모델은 실제 환자 기록으로 학습된 모델과 유사한 성능을 달성하는 것으로 나타났습니다. 프라이버시 감사(auditing)를 통해 정확한 레코드 재현이 감소하고 멤버십 추론 공격(membership inference attack)에 대해 강력한 저항성을 가짐이 추가로 입증되었습니다. 이러한 결과는 PSyGenTAB이 합성 헬스케어 데이터에서 프라이버시 보호와 임상 유용성의 균형을 맞추는 원칙에 기반한 프레임워크임을 확립하며, 보안된 기관 간 AI 개발을 지원합니다.
OLS 회귀를 위한 데이터 분할에 대한 분산 스케칭
Distributed Sketching on Data Partitions for OLS Regression
본 논문은 분산 스케치에 기반한 최소제곱(OLS) 회귀의 확장 가능한 접근법을 연구한다. 대규모 데이터 집합의 작은 스케치를 여러 워커에 분산하고, 각 워커가 자신의 스케치로부터 로컬 OLS 추정량을 구성하며, 로컬 추정량들을 평균하여 전역 추정량을 얻는다. 기존 연구는 각 스케치가 전체 데이터로부터 생성된다고 가정하지만, 이 스케치 단계는 계산 비용이 높아 때로는 표준 OLS보다 더 높다. 이에 우리는 데이터를 분할한 부분집합으로부터 각 스케치를 생성할 것을 제안하며, 이로써 워커 수가 늘어날수록 스케치 비용이 감소한다. 고정 설계 설정에서 전역 추정량의 정확한 초과 손실을 규명한다. 이 손실은 기존 연구에서 확립된 손실보다 크지만, 부분집합 공분산 간의 평균 Burg 발산이 작을 때는 그에 가깝게 유지된다. 제안한 분할 설계에서는 워커가 많을수록 발산이 커지는 경향이 있으므로, 이는 추정량의 계산 효율성과 통계적 효율성 사이의 상충 관계를 드러낸다.
생성적 적대 신경망과 멤리스터 기반 분류기를 이용한 비정면 얼굴 인식
Non-frontal face recognition using GANs and memristor-based classifiers
얼굴 인식 시스템은 심층 학습(deep learning) 기법을 통해 크게 발전하여 복잡한 시나리오에서 높은 성능과 견고성을 제공하고 있다. 그러나 이러한 접근 방식은 상당한 연산 오버헤드를 수반하여, 비정면 얼굴 영상 처리 등의 과제를 해결해야 하는 드론과 같은 자원 제약적 플랫폼에서의 현장 적용성을 제한한다. 멤리스터 기반 뉴로모픽 시스템은 생물학적으로 영감을 받은 처리 방식과 효율적이고 확장 가능한 연산을 결합하여 엣지 AI 응용을 위한 유망한 접근법으로 부상하고 있다. 본 연구에서는 경량 생성적 적대 신경망(GAN) 기반의 포즈 정면화와 멤리스터 기반 뉴로모픽 인식을 통합하여 비정면 포즈 변화를 처리하는 얼굴 인식 프레임워크를 제안한다. 두 가지 데이터셋에 대한 실험 결과는 적대적 학습과 멤리스티브 기술의 결합이 효과적임을 입증하며, 최대 96%의 식별 정확도를 달성하였다. 제안된 접근 방식은 기존 AI의 연산 병목을 완화하고, 동적인 실세계 환경에서의 얼굴 인식을 위한 확장 가능하고 효율적인 솔루션을 제공한다.
A generalizable structural brain MRI foundation model via dual-priority federated pretraining
토론
이 논문과 연결된 포럼 글이 아직 없습니다.