arXiv:2310.03334

Untargeted White-box Adversarial Attack with Heuristic Defence Methods in Real-time Deep Learning based Network Intrusion Detection System

Khushnaseeb Roshan, Aasim Zafar, Sheikh Burhan Ul Haque

제출 2023-10-05

원문 초록

Network Intrusion Detection System (NIDS) is a key component in securing the computer network from various cyber security threats and network attacks. However, consider an unfortunate situation where the NIDS is itself attacked and vulnerable more specifically, we can say, How to defend the defender?. In Adversarial Machine Learning (AML), the malicious actors aim to fool the Machine Learning (ML) and Deep Learning (DL) models to produce incorrect predictions with intentionally crafted adversarial examples. These adversarial perturbed examples have become the biggest vulnerability of ML and DL based systems and are major obstacles to their adoption in real-time and mission-critical applications such as NIDS. AML is an emerging research domain, and it has become a necessity for the in-depth study of adversarial attacks and their defence strategies to safeguard the computer network from various cyber security threads. In this research work, we aim to cover important aspects related to NIDS, adversarial attacks and its defence mechanism to increase the robustness of the ML and DL based NIDS. We implemented four powerful adversarial attack techniques, namely, Fast Gradient Sign Method (FGSM), Jacobian Saliency Map Attack (JSMA), Projected Gradient Descent (PGD) and Carlini & Wagner (C&W) in NIDS. We analyzed its performance in terms of various performance metrics in detail. Furthermore, the three heuristics defence strategies, i.e., Adversarial Training (AT), Gaussian Data Augmentation (GDA) and High Confidence (HC), are implemented to improve the NIDS robustness under adversarial attack situations. The complete workflow is demonstrated in real-time network with data packet flow. This research work provides the overall background for the researchers interested in AML and its implementation from a computer network security point of view.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02552v1cs.CR공통 태그 Intrusion Detection, Adversarial Attack

동기화에서 벗어나 시야에서 사라지다: 산업용 사물인터넷(IIoT) 침입 탐지를 겨냥한 유령 상태 공격

Out of Sync, Out of Sight: Phantom State Attacks against IIoT Intrusion Detection

머신러닝 기반 침입 탐지 시스템(IDS)은 산업용 사물인터넷(IIoT) 환경의 보안을 유지하는 데 매우 중요합니다. 이에 대응하는 대부분의 적대적 공격 연구는 특징(feature) 벡터나 이를 생성하는 트래픽을 섭동(perturbation)하며, 그래디언트(gradient) 접근, 반복적인 모델 쿼리, 또는 정상 트래픽에 대해 학습된 모델에 의존합니다. 일부 연구에서는 탐지기에 쿼리하지 않고 패킷 타이밍을 재구성하기도 하지만, 악성 트래픽이 정상 타이밍의 학습된 모델을 모방하도록 만듭니다. 이러한 접근법 전반에서 산업 모니터링 파이프라인의 중요한 가정 하나가 거의 주목받지 못했는데, 바로 시간 동기화(temporal synchronization)입니다. IDS는 텔레메트리를 슬라이딩 또는 텀블링 윈도우로 집계하여 운영 상태를 재구성하므로, IDS의 관점은 무엇이 관측되었는지뿐만 아니라 각 관측치가 윈도우 경계와 비교하여 언제 발생하는지에도 의존합니다. 본 논문에서는 수동적이고 쿼리가 없는(zero-query) 위협 모델 하에서 이러한 의존성을 악용하는 유령 상태 공격(Phantom State Attack, PSA)을 소개합니다. PSA는 패킷을 수정하거나, 특징을 섭동하거나, 분류기에 쿼리하거나, 정상 트래픽 모델을 피팅하는 대신, 공격 흐름 자체의 패킷 도착 간 변동성에 맞춰 보정된 유계 타이밍 드리프트(bounded timing drift)를 주입하여 관측치를 가장 가까운 윈도우 경계 너머로 필요한 최소한의 이동량만큼 이동시킵니다. 그러면 IDS는 실제 프로세스 상태와 다른 유령 상태(phantom state)를 재구성하게 됩니다. 저자들은 ToN-IoT 및 CIC IIoT 2025(DataSense) 데이터셋에서 Random Forest, MLP, XGBoost를 대상으로 PSA를 평가하고, 탐지 성능 저하, 동기화 왜곡, 은닉성, 공격자 비용을 측정했습니다. PSA는 윈도우 경계 재배치가 가능할 만큼 충분한 패킷을 가진 플로우에서는 탐지 성능을 저하시키고 다른 플로우는 거의 변화시키지 않으므로 그 효과는 조건부입니다. 쿼리 기반 기준선(baseline)은 더 높은 원시 성공률에 도달하지만 윈도우당 많은 쿼리를 필요로 하는 반면, PSA는 쿼리를 전혀 필요로 하지 않습니다. 본 결과는 시간적 집계(temporal aggregation)가 기존 회피 기법보다 더 완화된 가정 하에서도 도달 가능한 공격 표면임을 입증합니다.

arXiv:2607.13541v1cs.CR공통 태그 Data Augmentation, Adversarial Attack

T2I 합성 데이터가 역효과를 낼 때: 실제-합성 혼합 학습에서 증폭되는 프라이버시 위험

When T2I Synthetic Data Backfires: Amplified Privacy Risks in Real-Synthetic Mix Training

데이터 수집에서의 데이터 부족과 프라이버시 제약을 극복하기 위해, 학계와 산업 전반에서 실제 학습 데이터를 텍스트-이미지(text-to-image, T2I) 생성 합성 데이터로 증강하는 것이 표준 관행이 되었으며, 우리는 이 패러다임을 실제-합성 혼합 학습(Real-Synthetic Mix-Training, RSMT)이라고 부른다. 민감한 실제 샘플을 합성 데이터로 대체하는 것이 대체된 데이터의 프라이버시 노출을 완화하는 수단으로 널리 여겨지지만, 학습에 적극적으로 참여하는 남은 실제 샘플에 대한 위험은 대체로 검토되지 않았다. 본 연구는 처음으로 RSMT가 이러한 실제 학습 샘플의 프라이버시 유출을 상당히 증폭시킬 수 있음을 밝힌다. 우리는 RSMT 기억 증폭(RSMT Memorization Amplification)이라는 이론적 프레임워크를 수립하여, 합성 데이터를 통합하면 실제 샘플이 혼합 특징(feature) 공간의 주변 영역으로 밀려나게 되고, 그 결과 모델이 이를 더욱 공격적으로 기억하도록 강요됨을 증명한다. 이 기반을 바탕으로, 우리는 멤버십 추론(membership inference) 공격(MIA)을 통해 이 위험을 체계적으로 평가하는 RSMixLeak을 제안한다. RSMixLeak은 적대자의 역량에 따라 두 가지 변형으로 구성된다. 비적대적(non-adversarial) 변형은 정직한 T2I 제공자를 갖춘 정상적인 RSMT 파이프라인을 감사하여, 실제 데이터와 T2I 생성 데이터 사이의 고유한 간극에 의해 유발되는 유출의 하한(lower bound)을 확립한다. 적대적(adversarial) 변형은 T2I 모델을 통제하거나 T2I 제공자에 조작된 데이터를 기여하는 적대자를 고려하며, 고수준 의미론적 속성 결합(semantic attribute binding) 또는 인지할 수 없는 픽셀 수준 코팅(coating) 중 하나를 통해 대상 클래스에서 이 분포 간극을 의도적으로 확대하여, 하류 모델 유용성을 개선하면서 실제 학습 데이터에 대한 유출을 더욱 증폭시킨다. 이러한 발견에 동기부여되어, 우리는 실제 데이터만으로 계산 가능한 경량 유출 성향(leakage propensity) 지표를 추가로 제안하며, 이는 RSMT에 진입하기에 부적합한 고위험 데이터셋(dataset)을 신뢰성 있게 식별하는 자가 평가(self-assessable) 가능한 완화(mitigation) 수단이다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.