arXiv:2410.12955

Long-Tailed Backdoor Attack Using Dynamic Data Augmentation Operations

Lu Pang, Tao Sun, Weimin Lyu, Haibin Ling, Chao Chen

제출 2024-10-16

원문 초록

Recently, backdoor attack has become an increasing security threat to deep neural networks and drawn the attention of researchers. Backdoor attacks exploit vulnerabilities in third-party pretrained models during the training phase, enabling them to behave normally for clean samples and mispredict for samples with specific triggers. Existing backdoor attacks mainly focus on balanced datasets. However, real-world datasets often follow long-tailed distributions. In this paper, for the first time, we explore backdoor attack on such datasets. Specifically, we first analyze the influence of data imbalance on backdoor attack. Based on our analysis, we propose an effective backdoor attack named Dynamic Data Augmentation Operation (D$^2$AO). We design D$^2$AO selectors to select operations depending jointly on the class, sample type (clean vs. backdoored) and sample features. Meanwhile, we develop a trigger generator to generate sample-specific triggers. Through simultaneous optimization of the backdoored model and trigger generator, guided by dynamic data augmentation operation selectors, we achieve significant advancements. Extensive experiments demonstrate that our method can achieve the state-of-the-art attack performance while preserving the clean accuracy.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.26285v1cs.CR공통 태그 Data Augmentation, Backdoor Attack

TEMPO-Diffusion: 확산 모델의 시간적 노출 악성 포이증

TEMPO-Diffusion: Temporally Exposed Malicious Poisoning of Diffusion Models

확산 모델에 대한 노이즈 기반 백도어(backdoor) 공격은 일반적으로 입력 시점 트리거 주입, 비타겟 활성화, 분포 밖(out-of-distribution) 타겟 생성에 의존한다. 이러한 가정은 해당 공격의 은밀성과 실용적 타당성을 모두 낮춘다. 본 연구에서는 악성 분포 이동을 시간적·분포 내(in-distribution) 노출로 한정하는 타겟 백도어 프레임워크인 TEMPO-Diffusion을 제안한다. TEMPO-Diffusion은 다음을 지원한다: (i) 특정 클래스에 대한/특정 클래스를 향한 타겟 공격, (ii) 서로 다른 여러 출력 이미지의 여러 위치에서 특정 특징을 재구성하는 다중 서브 이미지 백도어, (iii) 시간 조건 트리거를 이용한 인페인팅(in-painting). 백도어가 심어진 확산 모델을 합성 학습 데이터 생성에 활용할 때의 실용적 보안 문제를 연구하기 위해, 캐나다 및 미국 도로 표지판에 초점을 둔 균형 잡힌 지역 인식 교통 표지판 데이터셋 CALISA도 소개한다. CIFAR10, GTSRB, CALISA에 걸친 실험에서 TEMPO-Diffusion이 클래스별 합성 데이터 생성을 안정적으로 포이즌할 수 있으며, 해당 데이터로 학습된 다운스트림 분류기에서 높은 공격 성공률을 유도할 수 있음을 보여준다.

arXiv:2606.22837v1cs.LG공통 태그 Data Augmentation, Backdoor Attack

센서 기반 인간 활동 인식을 위한 CLIP 가이드 확산 모델 백도어 생성

CLIP-guided Diffusion Model for Backdoor Generation in Sensor-based Human Activity Recognition

센서는 현대 지능형 기기의 핵심 구성 요소이다. 사물인ternet(IoT)과 웨어러블 모바일 기기의 확산으로 이러한 센서를 통합하여 환경을 모니터링하고 사용자가 예측적 조치를 취할 수 있게 되었다. 인간 활동 인식(HAR)은 가속도계와 자이로스코프와 같은 관성 측정 장치(IMU) 기반 센서를 사용하여 건강, 운동, 의료 진단에 대한 통찰을 제공하는 널리 쓰이는 응용 분야이다. 그러나 이러한 모델의 정확도는 데이터 부족으로 인해 저해된다. 확산 모델 기반 기법은 HAR 모델 학습을 위한 합성 데이터 생성에 성공적으로 활용되어 왔다. 본 논문에서는 확산 모델을 활용하여 HAR 모델에 대한 트리거 기반 공격을 가능하게 하는 백도어 학습 기법 IMU-DM-CLIP을 제안한다. 실증 분석 결과, 백도어 주입 비율이 10%이고 확산 모델을 위한 가이드 데이터가 10%인 경우에도 공격이 성공함을 보였다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.