arXiv:2408.15886

Enhancing Intrusion Detection in IoT Environments: An Advanced Ensemble Approach Using Kolmogorov-Arnold Networks

Amar Amouri, Mohamad Mahmoud Al Rahhal, Yakoub Bazi, Ismail Butun, Imad Mahgoub

제출 2024-08-28

원문 초록

In recent years, the evolution of machine learning techniques has significantly impacted the field of intrusion detection, particularly within the context of the Internet of Things (IoT). As IoT networks expand, the need for robust security measures to counteract potential threats has become increasingly critical. This paper introduces a hybrid Intrusion Detection System (IDS) that synergistically combines Kolmogorov-Arnold Networks (KANs) with the XGBoost algorithm. Our proposed IDS leverages the unique capabilities of KANs, which utilize learnable activation functions to model complex relationships within data, alongside the powerful ensemble learning techniques of XGBoost, known for its high performance in classification tasks. This hybrid approach not only enhances the detection accuracy but also improves the interpretability of the model, making it suitable for dynamic and intricate IoT environments. Experimental evaluations demonstrate that our hybrid IDS achieves an impressive detection accuracy exceeding 99% in distinguishing between benign and malicious activities. Additionally, we were able to achieve F1 scores, precision, and recall that exceeded 98%. Furthermore, we conduct a comparative analysis against traditional Multi-Layer Perceptron (MLP) networks, assessing performance metrics such as Precision, Recall, and F1-score. The results underscore the efficacy of integrating KANs with XGBoost, highlighting the potential of this innovative approach to significantly strengthen the security framework of IoT networks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2605.13922v2cs.CR공통 태그 Ensemble Learning, Intrusion Detection

UAVIDS-2025 데이터셋에서 신뢰할 수 있는 침입 탐지를 위한 XAI 및 통계 분석: 트리에서 하이브리드 및 테이블형 DNN 앙상블까지

XAI and Statistical Analysis for Reliable Intrusion Detection in the UAVIDS-2025 Dataset: From Tree to Hybrid and Tabular DNN Ensembles

최근 몇 년간, 설명 가능한 인공지능(XAI)의 하위 분야인 기계론적 해석 가능성(Mechanistic Interpretability) 개념이 도입되어, UAV 침입 탐지 시스템(UAVIDS)과 같은 핵심 시스템에서 복잡한 기계학습(ML) 모델의 의사결정을 설명하는 데 활용되고 있다. 본 논문에서는 데이터 전처리 모범 사례를 적용하고, 계층적 10-폴드 교차 검증을 통해 UAV 침입 탐지를 위한 다양한 트리 앙상블, 심층 신경망, 하이브리드 스태킹 모델, 최신 앙상블 신경망을 폭넓게 검토한다. 최고 성능 모델인 XGBoost를 바탕으로 Shapley Additive Explanations(SHAP)를 적용하여 전역 및 지역 특징 중요도를 분석하고, 각 공격이 정상 트래픽을 모방하기 위해 어떤 특징을 표적으로 삼는지, 그리고 오분류가 발생하는 지점을 파악한다. 이어서 바이올린 플롯과 커널 밀도 추정(KDE) 곡선을 시각적으로 비교하는 분포 분석을 수행한다. 다중 비교를 위한 Westfall-Young 순열 검정, KDE의 대역폭 최적화, Jensen-Shannon 거리 선택을 통해 UAVIDS-2025에서 웜홀 및 블랙홀 공격에서 관찰된 거짓 예측의 실제 원인을 규명한다. 본 연구의 결과는 UAV 침입 탐지를 위한 견고하고 신뢰할 수 있으며 설명 가능한 모델을 제공하는 동시에, 해당 데이터셋에서 이들 공격 간의 밀도 지지 교차(Density Support Intersection) 문제와 관련하여 공격의 은폐된 특성을 포착하고 명확히 하는 통계적 통찰을 제시한다.

arXiv:2607.02981v1cs.CR공통 태그 Intrusion Detection, Kolmogorov-Arnold Networks

GNN과 KAN을 활용한 IoT 네트워크 침입 탐지를 위한 향상된 특징 추출

Enhanced Feature Extraction for IoT Network Intrusion Detection Using GNNs and KAN

사물인터넷(IoT)의 최근 발전은 고급 네트워크 보안에 대한 긴박한 필요성을 강조하는데, IoT 네트워크는 동적 토폴로지, 불균형 트래픽, 복잡한 공격 패턴을 특징으로 한다. 일반 IT 네트워크와 달리 IoT 환경은 극도의 이기종성과 희소한 토폴로지를 보인다. 기존 GNN 기반 침입 탐지 방법은 이러한 환경에서 노드 및 에지 특징을 효율적으로 모델링하거나 세밀한 이상 징후를 포착하는 데 어려움을 겪는 경우가 많다. 이를 해결하기 위해, 우리는 다중 스케일 선택적 커널 어텐션 메커니즘으로 GraphSAGE를 강화하는 IoT 맞춤형 새로운 접근법인 SKGFusionKAN을 제안한다. 이를 통해 다양한 트래픽 조건에서 노드 및 에지 특징을 적응적으로 추출할 수 있다. 구체적으로, 에지 중심 메시지 패싱(edge-oriented message passing)이 정보 전파를 강화하는 한편, 선택적 커널 어텐션은 이기종성을 처리하기 위해 서로 다른 스케일에서 에지 파생 정보에 적응적으로 가중치를 부여한다. 또한 진화하는 공격에 대한 강건성을 향상시키기 위해 다중 스케일 특징을 동적으로 통합하는 게이트 융합 프로세스를 도입한다. 마지막으로, 분류를 위해 Kolmogorov-Arnold Networks(KAN)를 활용하여 복잡하고 저빈도 공격 탐지에 필수적인 우수한 비선형 모델링 능력을 제공한다. 우리가 아는 한, 이 연구는 IoT 침입 탐지를 위한 전용 아키텍처 혁신과 함께 GNN 및 KAN의 포괄적인 통합을 제시한다. 네 가지 NIDS 벤치마크에 대한 광범위한 실험을 통해 SKGFusionKAN이 이진 및 다중 클래스 태스크에서 최신 기법들을 일관되게 능가함을 보여주며, IoT 보안에 대한 잠재력을 입증한다.

arXiv:2606.12611v1cs.LG공통 태그 Ensemble Learning, Intrusion Detection

NSL-KDD 데이터셋의 불균형 데이터 조건에서 IDS를 위한 AutoML 프레임워크 평가

Evaluation of AutoML Frameworks for IDS under Imbalanced Data Conditions of the NSL-KDD Dataset

본 연구는 NSL-KDD 데이터셋을 사용한 다중 클래스 네트워크 침입 탐지에서 심각한 클래스 불균형이 자동화된 기계학습(AutoML) 프레임워크의 성능에 미치는 영향을 조사한다. 이진 분류나 소수 클래스 제거를 통해 문제를 단순화한 기존 연구와 달리, 본 연구는 R2L 및 U2R과 같이 매우 과소 대표된 공격 유형을 포함한 원래의 5개 클래스 분포를 유지하여, 불균형에 민감한 학습 동작의 현실적인 평가가 가능하도록 한다. 9개의 오픈소스 AutoML 프레임워크를 통합적이고 재현 가능한 실험 프로토콜 하에서 분석하였으며, 아키텍처 설계, 앙상블 전략, 검증 절차, 하이퍼파라미터 최적화, 불균형 처리 메커니즘의 차이를 고려하였다. 결과는 앙상블 학습과 불균형 인식 최적화를 포함하는 프레임워크가 소수 클래스 구별 성능에서 더 우수함을 보여준다. PyCaret이 66% macro-F1로 전체 성능에서 최고를 기록했으며, AutoGluon이 55%로 뒤를 이었다. 반면 기본적인 균형화 지원이 없는 프레임워크는 소수 클래스 탐지 능력에서 현저한 성능 저하를 보였다. 분석은 또한 정확도 중심의 최적화만으로는 고도로 불균형한 IDS 시나리오에 충분하지 않음을 보여주는데, 이는 높은 가중치 기반 지표가 희귀 공격 범주에 대한 일반화 부족과 공존할 수 있기 때문이다. 본 연구의 기여로서, 심각한 다중 클래스 불균형 조건에서 AutoML 기반 침입 탐지를 위한 표준화된 벤치마크를 수립하고, 현재 아키텍처의 한계와 자동화된 학습 파이프라인에 불균형 인식 최적화, 리샘플링, 계층화 평가 전략의 기본 통합이 필요함을 강조한다. 소스 코드는 공개되어 있다.

arXiv:2605.09028v5cs.LG공통 태그 Ensemble Learning

권한 기반 Android 악성코드 탐지에서 도메인 이동 진단 및 완화

Diagnosing and Mitigating Domain Shift in Permission-Based Android Malware Detection

기계 학습 기반 Android 악성코드 탐지기는 도메인 이동(domain shift) 때문에 실제 배포 환경에서 자주 실패하며, 한 데이터 소스에서 학습된 모델이 다른 소스의 애플리케이션에서는 성능이 크게 떨어진다. 본 논문은 교차 도메인(cross-domain) 조건에서 권한 기반 탐지기의 일반화 가능성과 해석 가능성에 대한 포괄적인 연구를 제시한다. PerMalDroid와 NATICUSdroid라는 두 상호 보완적 데이터셋과 다섯 가지 앙상블 분류기를 사용하여, 먼저 도메인 내(intra-domain) 기준선을 설정하며 모델이 92% 이상의 정확도를 달성함을 보인다. 이어 심각한 비대칭적 성능 하락을 정량화한다. PerMalDroid에서 학습된 모델은 NATICUSdroid에 잘 일반화되지만(정확도 86%), 반대 방향에서는 정확도가 73%까지 급격히 하락한다. 설명 가능한 AI(Explainable AI) 분석은 이봉(bimodal) 특징 분포를 밝히고, 특징 중요도가 매우 불안정하며 핵심 권한(permission)이 도메인에 따라 영향력을 잃거나 얻는다는 것을 보여준다. 서로 다른 도메인의 예측 특징 집합은 근본적으로 불일치하며, 모델은 데이터셋별로 서로 다른 권한에 의존한다. 가장 중요하게, 절삭(ablation) 연구는 대부분의 모델에서 노이즈가 있는 특징 집합으로 학습할 경우 일반화가 저조함을 보여 주며, 이는 누락된 특징보다 도메인 특이적 인공물(artifact)이 더 큰 장애물임을 확인한다. 이를 완화하기 위해 공통 특징의 교집합에 기반한 하이브리드 학습 전략을 검증하였으며, 교차 도메인 성능을 성공적으로 회복하여 PerMalDroid에서 88%의 정확도를 달성하고 NATICUSdroid에서는 97%를 유지한다. 이러한 결과는 설명 가능하고 교차 도메인에 강건한 악성코드 탐지 시스템의 중요성을 강조하며, 권한 기반 Android 악성코드 탐지기의 실제 배포 개선을 위한 실용적 경로를 제시한다.

arXiv:2607.05019v3cs.LG공통 태그 Ensemble Learning

이종 심층 앙상블을 이용한 융합 없는 멀티모달 분류

Fusion-Free Multimodal Classification with Heterogeneous Deep Ensembles

멀티모달 분류에서 후기 융합(late-fusion) 방식은 단일 모달 신경망이 추출한 모달리티별 특징을 연결하여 분류한다. 모달리티 불균형이 뚜렷할 때는 학습 과정의 균형을 맞추고 후기 융합 네트워크의 낮은 성능을 극복하기 위한 다양한 정규화 기법이 제안되어 왔다. 이에 반해 본 연구는 단일 모달 네트워크의 심층 앙상블을 사용하면 명시적인 모달리티 융합 없이도 멀티모달 데이터를 효과적으로 분류할 수 있음을 보인다. 동일한 파라미터 수에서 심층 앙상블과 후기 융합 네트워크를 체계적으로 비교하여, 무작위 초기화로 훈련할 때 앙상블이 모달리티 불균형을 해결하도록 설계된 최신 후기 융합 방법을 일관되게 능가함을 보인다. 이러한 우위는 본 연구에서 평가한 중간 융합 기법과 단일 모달 및 멀티모달 분류기를 결합한 하이브리드 방법에 대해서도 유지된다. 계산 비용이 큰 완전 탐색을 피하면서 앙상블에서 모달리티별 모델 수를 선택하는 방법을 제안하고 실험적으로 검증한다. 극단적인 모달리티 불균형과 작은 앙상블 크기에서는 이 휴리스틱이 더 강한 모달리티만으로 훈련된 단일 모달 모델의 앙상블이 더 바람직함을 시사한다. 앙상블 규모가 커지면 더 약한 모달리티의 모델을 포함하는 것이 유익해진다. 두 예측 모두 본 연구의 실험 결과와 일치한다. 다만 앙상블 구성원의 다양성이 낮으면 이 휴리스틱은 신뢰성이 떨어진다. 멀티모달 모델 최적화의 어려움을 체계적으로 탐구하기 위해, 모달리티 수와 예측 강도를 모두 제어할 수 있는 합성 멀티모달 프레임워크를 제안한다. 본 연구의 결과는 합성 데이터셋과 실제 데이터셋 전반에서 일관된다. 마지막으로 이중 모달 데이터셋에 스케일링 법칙을 적합하여 앙상블의 점근적 성능을 추정한다.

arXiv:2607.12075v3eess.IV공통 태그 Ensemble Learning

데이터셋 이동 하에서 갑상선 결절 초음파 분류를 위한 딥 앙상블 기반 보정된 선택적 예측

Calibrated selective prediction using deep ensembles for thyroid nodule ultrasound classification under dataset shift

배경: 딥러닝은 초음파에서 갑상선 결절을 분류할 수 있으나, 판별 성능만으로는 임상적 신뢰성이 확립되지 않는다. 우리는 불확실성 인지 선택적 예측과 보수적인 영상 기반 선별을 갖춘 보정된 딥 앙상블 프레임워크를 개발하였다. 방법: 3겹 내부 아키텍처 선택을 포함한 중첩 5겹 교차 검증으로 squeeze-and-excitation 블록을 갖춘 ConvNeXt-Tiny를 선택하였고, 이를 이용해 결정론적 5개 구성원 앙상블을 구축하였다. 각 폴드 내에서 학습, 조기 종료, 보정, 임계값 부분집합을 분리하였으며, 외부 테스트 데이터는 격리된 상태로 유지하였다. 상호 정보량(MI), 예측 분산, 최대 소프트맥스 확률(MSP) 불확실성을 위험-커버리지 및 선별 분석과, 가정한 악성 유병률 5%-70%에 걸친 예측값으로 비교하였다. 고정된 TN5000 앙상블을 재보정 없이 TN3K에 적용하였다. 결과: TN5000에서 풀링된 out-of-fold AUC-ROC는 0.9377, 평균 정밀도는 0.9708, 기대 보정 오차는 0.0138, Brier 점수는 0.0827이었다. MI 기반 주 정책에서 영상의 8.86%가 No-FNA 제안을, 60.00%가 FNA 권고를, 31.14%가 영상의학과 의사 검토를 받았으며, 악성 영상 3574건 중 14건(0.39%)이 No-FNA, 708건(19.81%)이 검토를 받았다. 예측 분산과 MSP가 MI보다 오류를 더 잘 순위화하였고(AURC, AUGRC), 모든 선별 결과를 최적화한 척도는 없었다. 유병률 5%-70% 전반에서 NPV는 99.95%-97.93%, PPV는 29.28%-94.75%였다. TN3K에서 AUC-ROC는 0.7870, 평균 정밀도는 0.7254, 기대 보정 오차는 0.1899, 영상의학과 의사 검토율은 83.7%였다. 결론: 앙상블은 내부적으로 강한 판별 및 보정 성능을 보였으나 TN3K에서는 성능이 크게 저하되어, 데이터셋 이동 하에서 이식성이 제한적임을 나타냈다. 임상 사용 전에 다기관 검증, 기관별 재보정, 임계값 검증, 전향적 평가가 필요하다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.