arXiv:2608.00732v1 cs.LG

미끼 지름길과 지식 디커플링을 통한 백도어 완화

Mitigating Backdoors via Decoy Shortcuts and Knowledge Decoupling

Zixuan Zhu, Rui Wang, Lihua Jing, Jinwen Zhong

제출 2026-08-01

한국어 초록

백도어 공격(Backdoor attack)은 특히 학습이 서드파티 데이터에 의존할 때 딥 뉴럴 네트워크에 심각한 위협이 되며, 공격자가 데이터 오염(data poisoning)을 통해 악의적인 동작을 주입할 수 있도록 합니다. 본 연구에서는 메인 네트워크와 함께 결합 학습될 때 백도어 동작이 더 단순한 병렬 브랜치에 흡수되는 경향이 있음을 밝힙니다. 이러한 통찰에 착안하여, 백도어 지식을 포획하기 위한 '허니팟(honeypot)'으로서 경량 지름길(shortcut) 브랜치를 도입하는 단순하면서도 효과적인 학습 단계 방어 기법인 Trapping and Removing (TR)을 제안합니다. 학습 후에는 추가적인 데이터 없이도 해당 지름길을 폐기함으로써 백도어를 제거할 수 있습니다. 정상 성능을 유지하면서 백도어 격리를 더욱 강화하기 위해, 엔트로피 기반 가중치 할당을 활용한 지식 디커플링(knowledge decoupling) 전략을 설계하여 오염된 샘플이 허니팟으로 흐르도록 유도하는 동시에 메인 네트워크는 정상적인 학습에 집중하도록 유도합니다. 또한 모델 아키텍처 전반에 걸친 일반화 성능을 향상시키기 위해 자동 지름길 생성 전략을 도입합니다. 4개의 벤치마크 데이터셋과 5개의 모델 아키텍처에 대한 광범위한 실험을 통해, 본 접근법이 정상 데이터에 대한 성능을 보존하면서 광범위한 백도어 공격을 효과적으로 완화함을 입증합니다. 코드: https://github.com/Zixuan-Zhu/TR}{github.com/Zixuan-Zhu/TR.

원문 초록

Backdoor attacks pose a serious threat to deep neural networks, especially when training relies on third-party data, allowing adversaries to inject malicious behaviors through data poisoning. In this work, we reveal that backdoor behaviors tend to be absorbed by a simpler parallel branch when jointly trained with the main network. Motivated by this insight, we propose Trapping and Removing (TR), a simple yet effective training-time defense that introduces a lightweight shortcut branch as a "honeypot" to trap backdoor knowledge. After training, backdoors can be removed by discarding the shortcut, without requiring any additional data. To further enhance backdoor isolation while maintaining benign performance, we design a knowledge decoupling strategy with entropy-based weight assignment, encouraging poisoned samples to flow through the honeypot while guiding the main network to focus on benign learning. In addition, we introduce an automatic shortcut generation strategy to improve generalization across model architectures. Extensive experiments on four benchmark datasets and five model architectures demonstrate that our approach effectively mitigates a wide range of backdoor attacks while preserving performance on benign data. Code: https://github.com/Zixuan-Zhu/TR}{github.com/Zixuan-Zhu/TR.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.00732v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.