회피 공격: 적대적 노이즈가 머신러닝 분류기를 우회하는 방식
Evasion Attacks: How Adversarial Noise Bypasses ML Classifiers
한국어 초록
본 논문은 이미지 분류 및 텍스트 분류에서의 회피 공격(evasion attack)에 대한 재현 가능하고 교육적인 연구를 제시한다. MNIST 데이터셋으로 학습된 소형 합성곱 신경망은 98.63%의 클린 테스트 정확도에 도달했으며 두 가지 화이트박스 공격 하에서 평가되었다. FGSM 공격에서 정확도는 $ε$ = 0.15일 때 60.20%, $ε$ = 0.30일 때 1.72%로 떨어졌으며, PGD 공격에서는 각각 32.47%와 0.41%로 하락했고, 비트 심도 감소 방어 기법은 이러한 손실의 일부만을 복구했다. 두 번째 실험에서는 SMS Spam Collection으로 파인튜닝된 DistilBERT가 98.75%의 정확도와 94.96%의 F1 점수를 달성했으나, 사전 정의된 섭동 시퀀스(문자 대체, 공백 노이즈, 무해한 접미사)를 통제하여 적용했을 때 제시된 대부분의 예제에서 확률 변화는 미미했으며 스팸에서 햄으로의 분류 전환은 발생하지 않았다. 적대적 취약성은 모달리티에 크게 의존한다. 즉, MNIST 실험은 명확한 회피 공격 실증인 반면, 텍스트 실험은 통제된 견고성 평가이다. 견고성은 클린 정확도로부터 추론하기보다 경험적으로 테스트되어야 한다.
원문 초록
This paper presents a reproducible, educational study of evasion attacks in image classification and text classification. A compact convolutional network trained on MNIST reached 98.63% clean test accuracy and was evaluated under two white-box attacks. Under FGSM, accuracy fell to 60.20% at $ε$ = 0.15 and 1.72% at $ε$ = 0.30; under PGD it fell to 32.47% and 0.41%, and a bit-depth-reduction defense recovered only part of the loss. In the second experiment, DistilBERT fine-tuned on the SMS Spam Collection reached 98.75% accuracy and a 94.96% F1-score, but a controlled sequence of pre-defined perturbations (character substitutions, whitespace noise, and a benign suffix) produced only modest probability shifts in most displayed examples and no flip from spam to ham. Adversarial vulnerability is strongly modality-dependent: the MNIST experiment is a clear evasion demonstration, whereas the text experiment is a controlled robustness evaluation. Robustness must be tested empirically rather than inferred from clean accuracy.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
Presented at the 58th Midwest Instruction and Computing Symposium (MICS 2026), Eau Claire, WI, March 27 to 28, 2026. 14 pages, 7 figures, 4 tables