arXiv:2410.08390

KnowGraph: Knowledge-Enabled Anomaly Detection via Logical Reasoning on Graph Data

Andy Zhou, Xiaojun Xu, Ramesh Raghunathan, Alok Lal, Xinze Guan, Bin Yu, Bo Li

제출 2024-10-10

원문 초록

Graph-based anomaly detection is pivotal in diverse security applications, such as fraud detection in transaction networks and intrusion detection for network traffic. Standard approaches, including Graph Neural Networks (GNNs), often struggle to generalize across shifting data distributions. Meanwhile, real-world domain knowledge is more stable and a common existing component of real-world detection strategies. To explicitly integrate such knowledge into data-driven models such as GCNs, we propose KnowGraph, which integrates domain knowledge with data-driven learning for enhanced graph-based anomaly detection. KnowGraph comprises two principal components: (1) a statistical learning component that utilizes a main model for the overarching detection task, augmented by multiple specialized knowledge models that predict domain-specific semantic entities; (2) a reasoning component that employs probabilistic graphical models to execute logical inferences based on model outputs, encoding domain knowledge through weighted first-order logic formulas. Extensive experiments on these large-scale real-world datasets show that KnowGraph consistently outperforms state-of-the-art baselines in both transductive and inductive settings, achieving substantial gains in average precision when generalizing to completely unseen test graphs. Further ablation studies demonstrate the effectiveness of the proposed reasoning component in improving detection performance, especially under extreme class imbalance. These results highlight the potential of integrating domain knowledge into data-driven models for high-stakes, graph-based security applications.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2608.10434v2cs.AI공통 태그 Anomaly Detection, Intrusion Detection

무인 항공기(UAV) 침입 탐지를 위한 대화형 대 대시보드 설명가능한 AI: 운용자 신뢰 및 의존성에 대한 실증 연구

Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance

머신러닝 기반 침입 탐지 시스템(IDS)은 무인 항공기(UAV) 네트워크 보안에서 우수한 성능을 입증해 왔습니다. 그러나 이러한 모델의 '블랙박스' 특성과 다중모달(multimodal) 사이버-물리 데이터의 고차원성이 결합되어 심각한 해석 가능성 문제를 야기합니다. 정적 시각화 대시보드는 다중모달 사이버-물리적 특징 간의 복잡한 관계를 운용자가 쉽게 점검하고 해석할 수 있는 형태로 표현하는 데 어려움을 겪을 수 있습니다. 이를 해결하기 위해, 우리는 온디맨드 조사를 용이하게 하는 대규모 언어 모델(LLM) 기반의 대화형 설명가능한 AI(XAI) 인터페이스를 제안합니다. 참가자를 대상으로 한 통제된 실험을 통해, 사후 침해 감사 작업 중 운용자의 이해도, 신뢰 및 의존성에 미치는 대화형 인터페이스와 기존 XAI 대시보드의 영향을 체계적으로 평가했습니다. 연구 결과에 따르면 대화형 인터페이스는 대시보드보다 더 유용한 것으로 인식되었으며, 이는 참가자들이 관련 정보에 더 쉽게 접근하고 이를 종합할 수 있도록 도왔기 때문인 것으로 보입니다. 그러나 이러한 이점은 적절한 자립성(self-reliance) 수준 저하를 동반하여, 과도한 의존의 잠재적 위험을 나타냈습니다. 한 가지 가능한 해석은 자연어 응답이 AI의 조언을 더 쉽게 수용하도록 만들어, IDS가 올바르지 않았을 때 참가자들이 근본적인 증거를 검증하려는 경향을 감소시켰을 수 있다는 점입니다. 이러한 발견은 UAV 침입 감사에서 인간-AI 협업의 잠재적 트레이드오프를 시사합니다. 즉, 인지된 유용성을 높이는 상호작용 메커니즘이 부적절한 의존 위험을 증가시킬 수도 있다는 것입니다. 결론에서는 원활한 상호작용과 인지적 강제 기능(cognitive forcing functions) 사이의 균형을 유지하여 적절한 의존성을 촉진하는 미래 XAI 시스템에 대한 설계 시사점을 논의합니다.

arXiv:2610.10613v1cs.LG공통 태그 Anomaly Detection, Intrusion Detection

이상 탐지를 위한 연합 경량 헤드 기반 시계열 트랜스포머 CAN 인코더

Temporal transformer CAN encoder with federated lightweight heads for anomaly detection

현대 차량은 CAN(Controller Area Network) 버스를 통해 지속적으로 정보를 교환하는 수많은 전자제어장치(ECU)에 의존합니다. 이러한 통신의 신속성, 구조, 반복성으로 인해 타이밍, 페이로드 값, 메시지 패턴의 미세한 변화조차도 비정상적인 활동을 나타낼 수 있습니다. 오류, 오작동, 의도적인 간섭 등 원인에 관계없이 이러한 이상 현상은 매우 미묘하여, 메시지를 개별적으로 처리하거나 수작업으로 생성된 규칙에 의존하는 기존 방식으로는 식별하기 어렵습니다. 이러한 한계점을 해결하기 위해, 본 논문에서는 이러한 불규칙성을 더 효과적으로 포착할 수 있도록 연합 경량 헤드를 갖춘 시계열 트랜스포머 CAN 인코더 기반의 차량 내 네트워크 이상 탐지용 프라이버시 보존 프레임워크를 제안합니다. 이 신호들이 시간에 따라 어떻게 변화하는지 학습하는 경량 트랜스포머 인코더를 통해 미묘한 시계열 및 문맥적 이상 현상의 탐지가 가능해지며, 연합학습(federated learning) 메커니즘을 통해 여러 차량이나 ECU가 원시 CAN 데이터를 교환하지 않고도 협력하여 공유 모델을 개선할 수 있습니다. 오픈소스 데이터셋을 대상으로 수행한 실험에 따르면, 이러한 연합학습과 시계열 시퀀스 모델링의 결합은 효율성과 프라이버시를 유지하면서도 견고한 이상 탐지 성능을 제공합니다.

arXiv:2610.10957v1cs.LG공통 태그 Anomaly Detection, Fraud Detection

TRACE: 프로덕션 AI 시스템의 설명가능성 부채 측정을 위한 거버넌스 프레임워크

TRACE: A Governance Framework for Measuring Explainability Debt in Production AI Systems

중대한 영향을 미치는 고위험(high-stakes) 영역에 배포된 프로덕션 AI 시스템에는 기존 모니터링 프레임워크로는 감지하지 못하는 거버넌스 부채가 축적됩니다. 바로 규제 기관, 감사인 또는 영향을 받는 개인이 책무성을 요구할 때 개별 결정을 설명하지 못하는 능력이 점진적으로 심화되는 현상입니다. 본 논문에서는 프로덕션 AI 시스템에서 설명가능성 부채(Explainability Debt)를 측정, 추적 및 개선하기 위한 7가지 도구 기반의 거버넌스 프레임워크인 TRACE(Transparency, Risk, Accountability, Compliance, and Explainability)를 소개합니다. 핵심 도구인 설명가능성 부채 점수(EDS, Explainability Debt Score)는 임의의 시점에서 거버넌스에서 정의한 설명가능성 신뢰도 임계값에 미치지 못하는 프로덕션 결정의 비율을 정량화합니다. 보완 도구로는 DART(위반 예측을 위한 부채 축적률 추적기), SHIV(일일 거버넌스를 위한 시나리오 건전성 및 무결성 검증기), FDE(인과 관계 귀속을 위한 특징 드리프트 평가기), HVE(인간 검증 엔진), AIDE(감사 개입 결정 엔진), ZERO(개선을 위한 무결점 설명가능성 위험 최적화기)가 포함됩니다. 매일 50,000건의 금융 거래를 처리하며 98.46%의 정확도와 0.9990의 ROC-AUC를 달성한 프로덕션 이상거래 탐지(fraud detection) 시스템에 대한 12개월간의 종단적 사례 연구를 통해, 감사 당일 0.23의 EDS를 DART 궤적 분석을 통해 6개월 전에 통계적으로 예측할 수 있었음을 입증했습니다(beta = 0.008/주, R-squared = 0.94, 95% CI: [0.006, 0.010]). 또한 설명가능성 부채의 78%가 가장 규제 위험이 높은 결정 범주(10,000달러 초과 거래)에 집중되어 있었으며, 이는 시스템 수준의 지표로는 전혀 감지할 수 없는 위험 비대칭성이었습니다. TRACE는 프로덕션 AI 배포 환경에서 EU AI 법(EU AI Act) 제13조 준수를 위한 최초의 정량적 운영 아키텍처를 제공하며, 설명 생성(explanation generation)과는 구별되는 설명 거버넌스(explanation governance)라는 새로운 하위 분야를 정립합니다.

arXiv:2608.24631v2quant-ph공통 태그 Anomaly Detection, Fraud Detection

유사도가 상호작용에 의해 결정될 때: 체제 민감 학습을 위한 양자 커널

When Similarity Is Interaction-Driven: Quantum Kernels for Regime-Sensitive Learning

많은 의사결정 시스템에서 유사도는 거리만으로 결정되는 것이 아니라 변수들 간의 상호작용에 의해 좌우된다. 사기 탐지 및 이상 탐지(anomaly detection)에서는, 국소적인 작은 교란(perturbation)이 주변 거리는 거의 변화시키지 않으면서도 상호작용에 민감한 결정 경계(decision boundary)를 넘어설 수 있다. 이러한 상황에 착안하여, 우리는 박층(thin-slab) 상호작용 모델과, 얽힌(entangled) 파울리 문자열(Pauli-string) 특징 맵으로 구성된 상호작용 기반 양자 커널(quantum kernel)을 제안한다. 이 특징 맵은 희소한 고차 블록 상호작용(sparse high-order block interactions)을 명시적으로 인코딩한다. 우리는 그 결과로 얻어지는 충실도 커널(fidelity kernel)이 양의 준정부호(positive semidefinite)이며, 정확한 블록 분해(block-factorized) 형태로 표현 가능하고, 상호작용 체제(interaction regime)의 변화에 민감한 기하 구조를 유도함을 보인다. 3차, 4차, 6차, 8차 상호작용을 포괄하는 균형 및 불균형 합성 실험 전반에서, 제안된 커널은 선형 커널, 방사 기저 함수(RBF) 커널, 라플라시안(Laplacian) 커널, 다항(polynomial) 커널은 물론, 심어진(planted) 블록 곱을 제공받은 조작된 상호작용 선형 기준선(baseline)보다도 일관되게 더 우수한 성능을 보인다. 실제 사기 탐지 벤치마크에서는, Credit Card Fraud Detection 데이터셋에서 가장 높은 평균 정확도와 F1 점수를 달성하며, IEEE-CIS Fraud Detection에서는 2위를 기록한다. 156큐비트(qubit) IBM Quantum 프로세서에서 4차 설정으로 실행한 결과, 하드웨어로 추정한 커널은 시드 간 변동성(seed-to-seed variability) 범위 내에서 노이즈 없는 시뮬레이터와 일치하며, 기준선들에 대한 우위를 그대로 유지한다. 이러한 결과는 양자 커널의 성능이 힐베르트 공간(Hilbert space)의 차원만이 아니라, 특징 맵의 기하 구조와 기저의 예측 구조 사이의 정합(alignment) 여부에 좌우됨을 보여준다. 제안된 블록 분해 커널은 고전 컴퓨터에서도 정확하게 계산될 수 있으므로, 본 연구의 결과는 계산적인 양자 가속(quantum speedup)이 아니라 예측적 및 표현적 가치를 입증하는 것이다.

arXiv:2610.02552v1cs.CR공통 태그 Anomaly Detection, Intrusion Detection

동기화에서 벗어나 시야에서 사라지다: 산업용 사물인터넷(IIoT) 침입 탐지를 겨냥한 유령 상태 공격

Out of Sync, Out of Sight: Phantom State Attacks against IIoT Intrusion Detection

머신러닝 기반 침입 탐지 시스템(IDS)은 산업용 사물인터넷(IIoT) 환경의 보안을 유지하는 데 매우 중요합니다. 이에 대응하는 대부분의 적대적 공격 연구는 특징(feature) 벡터나 이를 생성하는 트래픽을 섭동(perturbation)하며, 그래디언트(gradient) 접근, 반복적인 모델 쿼리, 또는 정상 트래픽에 대해 학습된 모델에 의존합니다. 일부 연구에서는 탐지기에 쿼리하지 않고 패킷 타이밍을 재구성하기도 하지만, 악성 트래픽이 정상 타이밍의 학습된 모델을 모방하도록 만듭니다. 이러한 접근법 전반에서 산업 모니터링 파이프라인의 중요한 가정 하나가 거의 주목받지 못했는데, 바로 시간 동기화(temporal synchronization)입니다. IDS는 텔레메트리를 슬라이딩 또는 텀블링 윈도우로 집계하여 운영 상태를 재구성하므로, IDS의 관점은 무엇이 관측되었는지뿐만 아니라 각 관측치가 윈도우 경계와 비교하여 언제 발생하는지에도 의존합니다. 본 논문에서는 수동적이고 쿼리가 없는(zero-query) 위협 모델 하에서 이러한 의존성을 악용하는 유령 상태 공격(Phantom State Attack, PSA)을 소개합니다. PSA는 패킷을 수정하거나, 특징을 섭동하거나, 분류기에 쿼리하거나, 정상 트래픽 모델을 피팅하는 대신, 공격 흐름 자체의 패킷 도착 간 변동성에 맞춰 보정된 유계 타이밍 드리프트(bounded timing drift)를 주입하여 관측치를 가장 가까운 윈도우 경계 너머로 필요한 최소한의 이동량만큼 이동시킵니다. 그러면 IDS는 실제 프로세스 상태와 다른 유령 상태(phantom state)를 재구성하게 됩니다. 저자들은 ToN-IoT 및 CIC IIoT 2025(DataSense) 데이터셋에서 Random Forest, MLP, XGBoost를 대상으로 PSA를 평가하고, 탐지 성능 저하, 동기화 왜곡, 은닉성, 공격자 비용을 측정했습니다. PSA는 윈도우 경계 재배치가 가능할 만큼 충분한 패킷을 가진 플로우에서는 탐지 성능을 저하시키고 다른 플로우는 거의 변화시키지 않으므로 그 효과는 조건부입니다. 쿼리 기반 기준선(baseline)은 더 높은 원시 성공률에 도달하지만 윈도우당 많은 쿼리를 필요로 하는 반면, PSA는 쿼리를 전혀 필요로 하지 않습니다. 본 결과는 시간적 집계(temporal aggregation)가 기존 회피 기법보다 더 완화된 가정 하에서도 도달 가능한 공격 표면임을 입증합니다.

arXiv:2610.01872v1cs.CR공통 태그 Anomaly Detection, Intrusion Detection

네트워크 침입 탐지부터 블록체인 기반 엔드포인트 탐지 및 대응까지: 탈중앙화 탐지 및 대응 아키텍처의 현황 분석

From Network Intrusion Detection to Blockchain-Backed Endpoint Detection and Response: Mapping the Landscape of Decentralized Detection-and-Response Architectures

사물인터넷(IoT) 및 산업용 사물인터넷(IIoT) 네트워크를 위한 블록체인 지원 침입 탐지 및 방지 시스템(IDS/IPS)에 관한 연구는 성숙 단계에 접어들었으나, 기존의 체계적 문헌고찰(systematic review)들은 두 가지 결정적인 한계를 지닙니다. 즉, 현대적인 엔드포인트 탐지 및 대응(EDR)과 확장 탐지 및 대응(XDR) 아키텍처로의 구조적 전환을 간과하고 있으며, 블록체인의 고유한 기능적 역할들을 단일한 하나의 범주로 혼동하고 있다는 점입니다. 본 지식 체계화(SoK) 연구는 탐지 시스템 클래스(NIDS, HIDS, EDR/XDR), 블록체인의 기능적 역할, 대응 자동화 성숙도를 기준으로 제안들을 분류하는 3축 분류 체계(taxonomy)를 제안하여 이러한 공백을 해소합니다. 2019년부터 2026년 사이에 저명 학술지에 발표된 연구를 종합하여, 지연 시간, 배포, 커뮤니티 간의 불일치로 인해 엔드포인트별 진정한 블록체인 연계 대응 루프가 거의 존재하지 않는 이유를 밝히는 엄밀한 갭 분석(gap analysis)을 제공합니다. 나아가 제한된 기기에서의 합의 지연 시간, 양자 내성 암호화 취약성, 스마트 계약 공격 표면, 그리고 진화하는 대규모 언어 모델(LLM) 기반 탐지 엔진의 적대적 취약성을 포함하여 문헌 전반에 지속되는 구조적이고 교차적인 도전 과제들을 평가합니다. 마지막으로, 탈중앙화된 신뢰와 신속한 대응 자동화 사이의 격차를 해소하기 위해 온체인/오프체인 하이브리드 오케스트레이션을 중심으로 한 포괄적인 연구 로드맵을 제시합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.