Performance Analysis of a Foreground Segmentation Neural Network Model
원문 초록
In recent years the interest in segmentation has been growing, being used in a wide range of applications such as fraud detection, anomaly detection in public health and intrusion detection. We present an ablation study of FgSegNet_v2, analysing its three stages: (i) Encoder, (ii) Feature Pooling Module and (iii) Decoder. The result of this study is a proposal of a variation of the aforementioned method that surpasses state of the art results. Three datasets are used for testing: CDNet2014, SBI2015 and CityScapes. In CDNet2014 we got an overall improvement compared to the state of the art, mainly in the LowFrameRate subset. The presented approach is promising as it produces comparable results with the state of the art (SBI2015 and Cityscapes datasets) in very different conditions, such as different lighting conditions.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
DATE: Dual Attentive Tree-aware Embedding for Customs Fraud Detection
무인 항공기(UAV) 침입 탐지를 위한 대화형 대 대시보드 설명가능한 AI: 운용자 신뢰 및 의존성에 대한 실증 연구
Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance
머신러닝 기반 침입 탐지 시스템(IDS)은 무인 항공기(UAV) 네트워크 보안에서 우수한 성능을 입증해 왔습니다. 그러나 이러한 모델의 '블랙박스' 특성과 다중모달(multimodal) 사이버-물리 데이터의 고차원성이 결합되어 심각한 해석 가능성 문제를 야기합니다. 정적 시각화 대시보드는 다중모달 사이버-물리적 특징 간의 복잡한 관계를 운용자가 쉽게 점검하고 해석할 수 있는 형태로 표현하는 데 어려움을 겪을 수 있습니다. 이를 해결하기 위해, 우리는 온디맨드 조사를 용이하게 하는 대규모 언어 모델(LLM) 기반의 대화형 설명가능한 AI(XAI) 인터페이스를 제안합니다. 참가자를 대상으로 한 통제된 실험을 통해, 사후 침해 감사 작업 중 운용자의 이해도, 신뢰 및 의존성에 미치는 대화형 인터페이스와 기존 XAI 대시보드의 영향을 체계적으로 평가했습니다. 연구 결과에 따르면 대화형 인터페이스는 대시보드보다 더 유용한 것으로 인식되었으며, 이는 참가자들이 관련 정보에 더 쉽게 접근하고 이를 종합할 수 있도록 도왔기 때문인 것으로 보입니다. 그러나 이러한 이점은 적절한 자립성(self-reliance) 수준 저하를 동반하여, 과도한 의존의 잠재적 위험을 나타냈습니다. 한 가지 가능한 해석은 자연어 응답이 AI의 조언을 더 쉽게 수용하도록 만들어, IDS가 올바르지 않았을 때 참가자들이 근본적인 증거를 검증하려는 경향을 감소시켰을 수 있다는 점입니다. 이러한 발견은 UAV 침입 감사에서 인간-AI 협업의 잠재적 트레이드오프를 시사합니다. 즉, 인지된 유용성을 높이는 상호작용 메커니즘이 부적절한 의존 위험을 증가시킬 수도 있다는 것입니다. 결론에서는 원활한 상호작용과 인지적 강제 기능(cognitive forcing functions) 사이의 균형을 유지하여 적절한 의존성을 촉진하는 미래 XAI 시스템에 대한 설계 시사점을 논의합니다.
이상 탐지를 위한 연합 경량 헤드 기반 시계열 트랜스포머 CAN 인코더
Temporal transformer CAN encoder with federated lightweight heads for anomaly detection
현대 차량은 CAN(Controller Area Network) 버스를 통해 지속적으로 정보를 교환하는 수많은 전자제어장치(ECU)에 의존합니다. 이러한 통신의 신속성, 구조, 반복성으로 인해 타이밍, 페이로드 값, 메시지 패턴의 미세한 변화조차도 비정상적인 활동을 나타낼 수 있습니다. 오류, 오작동, 의도적인 간섭 등 원인에 관계없이 이러한 이상 현상은 매우 미묘하여, 메시지를 개별적으로 처리하거나 수작업으로 생성된 규칙에 의존하는 기존 방식으로는 식별하기 어렵습니다. 이러한 한계점을 해결하기 위해, 본 논문에서는 이러한 불규칙성을 더 효과적으로 포착할 수 있도록 연합 경량 헤드를 갖춘 시계열 트랜스포머 CAN 인코더 기반의 차량 내 네트워크 이상 탐지용 프라이버시 보존 프레임워크를 제안합니다. 이 신호들이 시간에 따라 어떻게 변화하는지 학습하는 경량 트랜스포머 인코더를 통해 미묘한 시계열 및 문맥적 이상 현상의 탐지가 가능해지며, 연합학습(federated learning) 메커니즘을 통해 여러 차량이나 ECU가 원시 CAN 데이터를 교환하지 않고도 협력하여 공유 모델을 개선할 수 있습니다. 오픈소스 데이터셋을 대상으로 수행한 실험에 따르면, 이러한 연합학습과 시계열 시퀀스 모델링의 결합은 효율성과 프라이버시를 유지하면서도 견고한 이상 탐지 성능을 제공합니다.
TRACE: 프로덕션 AI 시스템의 설명가능성 부채 측정을 위한 거버넌스 프레임워크
TRACE: A Governance Framework for Measuring Explainability Debt in Production AI Systems
중대한 영향을 미치는 고위험(high-stakes) 영역에 배포된 프로덕션 AI 시스템에는 기존 모니터링 프레임워크로는 감지하지 못하는 거버넌스 부채가 축적됩니다. 바로 규제 기관, 감사인 또는 영향을 받는 개인이 책무성을 요구할 때 개별 결정을 설명하지 못하는 능력이 점진적으로 심화되는 현상입니다. 본 논문에서는 프로덕션 AI 시스템에서 설명가능성 부채(Explainability Debt)를 측정, 추적 및 개선하기 위한 7가지 도구 기반의 거버넌스 프레임워크인 TRACE(Transparency, Risk, Accountability, Compliance, and Explainability)를 소개합니다. 핵심 도구인 설명가능성 부채 점수(EDS, Explainability Debt Score)는 임의의 시점에서 거버넌스에서 정의한 설명가능성 신뢰도 임계값에 미치지 못하는 프로덕션 결정의 비율을 정량화합니다. 보완 도구로는 DART(위반 예측을 위한 부채 축적률 추적기), SHIV(일일 거버넌스를 위한 시나리오 건전성 및 무결성 검증기), FDE(인과 관계 귀속을 위한 특징 드리프트 평가기), HVE(인간 검증 엔진), AIDE(감사 개입 결정 엔진), ZERO(개선을 위한 무결점 설명가능성 위험 최적화기)가 포함됩니다. 매일 50,000건의 금융 거래를 처리하며 98.46%의 정확도와 0.9990의 ROC-AUC를 달성한 프로덕션 이상거래 탐지(fraud detection) 시스템에 대한 12개월간의 종단적 사례 연구를 통해, 감사 당일 0.23의 EDS를 DART 궤적 분석을 통해 6개월 전에 통계적으로 예측할 수 있었음을 입증했습니다(beta = 0.008/주, R-squared = 0.94, 95% CI: [0.006, 0.010]). 또한 설명가능성 부채의 78%가 가장 규제 위험이 높은 결정 범주(10,000달러 초과 거래)에 집중되어 있었으며, 이는 시스템 수준의 지표로는 전혀 감지할 수 없는 위험 비대칭성이었습니다. TRACE는 프로덕션 AI 배포 환경에서 EU AI 법(EU AI Act) 제13조 준수를 위한 최초의 정량적 운영 아키텍처를 제공하며, 설명 생성(explanation generation)과는 구별되는 설명 거버넌스(explanation governance)라는 새로운 하위 분야를 정립합니다.
유사도가 상호작용에 의해 결정될 때: 체제 민감 학습을 위한 양자 커널
When Similarity Is Interaction-Driven: Quantum Kernels for Regime-Sensitive Learning
많은 의사결정 시스템에서 유사도는 거리만으로 결정되는 것이 아니라 변수들 간의 상호작용에 의해 좌우된다. 사기 탐지 및 이상 탐지(anomaly detection)에서는, 국소적인 작은 교란(perturbation)이 주변 거리는 거의 변화시키지 않으면서도 상호작용에 민감한 결정 경계(decision boundary)를 넘어설 수 있다. 이러한 상황에 착안하여, 우리는 박층(thin-slab) 상호작용 모델과, 얽힌(entangled) 파울리 문자열(Pauli-string) 특징 맵으로 구성된 상호작용 기반 양자 커널(quantum kernel)을 제안한다. 이 특징 맵은 희소한 고차 블록 상호작용(sparse high-order block interactions)을 명시적으로 인코딩한다. 우리는 그 결과로 얻어지는 충실도 커널(fidelity kernel)이 양의 준정부호(positive semidefinite)이며, 정확한 블록 분해(block-factorized) 형태로 표현 가능하고, 상호작용 체제(interaction regime)의 변화에 민감한 기하 구조를 유도함을 보인다. 3차, 4차, 6차, 8차 상호작용을 포괄하는 균형 및 불균형 합성 실험 전반에서, 제안된 커널은 선형 커널, 방사 기저 함수(RBF) 커널, 라플라시안(Laplacian) 커널, 다항(polynomial) 커널은 물론, 심어진(planted) 블록 곱을 제공받은 조작된 상호작용 선형 기준선(baseline)보다도 일관되게 더 우수한 성능을 보인다. 실제 사기 탐지 벤치마크에서는, Credit Card Fraud Detection 데이터셋에서 가장 높은 평균 정확도와 F1 점수를 달성하며, IEEE-CIS Fraud Detection에서는 2위를 기록한다. 156큐비트(qubit) IBM Quantum 프로세서에서 4차 설정으로 실행한 결과, 하드웨어로 추정한 커널은 시드 간 변동성(seed-to-seed variability) 범위 내에서 노이즈 없는 시뮬레이터와 일치하며, 기준선들에 대한 우위를 그대로 유지한다. 이러한 결과는 양자 커널의 성능이 힐베르트 공간(Hilbert space)의 차원만이 아니라, 특징 맵의 기하 구조와 기저의 예측 구조 사이의 정합(alignment) 여부에 좌우됨을 보여준다. 제안된 블록 분해 커널은 고전 컴퓨터에서도 정확하게 계산될 수 있으므로, 본 연구의 결과는 계산적인 양자 가속(quantum speedup)이 아니라 예측적 및 표현적 가치를 입증하는 것이다.
동기화에서 벗어나 시야에서 사라지다: 산업용 사물인터넷(IIoT) 침입 탐지를 겨냥한 유령 상태 공격
Out of Sync, Out of Sight: Phantom State Attacks against IIoT Intrusion Detection
머신러닝 기반 침입 탐지 시스템(IDS)은 산업용 사물인터넷(IIoT) 환경의 보안을 유지하는 데 매우 중요합니다. 이에 대응하는 대부분의 적대적 공격 연구는 특징(feature) 벡터나 이를 생성하는 트래픽을 섭동(perturbation)하며, 그래디언트(gradient) 접근, 반복적인 모델 쿼리, 또는 정상 트래픽에 대해 학습된 모델에 의존합니다. 일부 연구에서는 탐지기에 쿼리하지 않고 패킷 타이밍을 재구성하기도 하지만, 악성 트래픽이 정상 타이밍의 학습된 모델을 모방하도록 만듭니다. 이러한 접근법 전반에서 산업 모니터링 파이프라인의 중요한 가정 하나가 거의 주목받지 못했는데, 바로 시간 동기화(temporal synchronization)입니다. IDS는 텔레메트리를 슬라이딩 또는 텀블링 윈도우로 집계하여 운영 상태를 재구성하므로, IDS의 관점은 무엇이 관측되었는지뿐만 아니라 각 관측치가 윈도우 경계와 비교하여 언제 발생하는지에도 의존합니다. 본 논문에서는 수동적이고 쿼리가 없는(zero-query) 위협 모델 하에서 이러한 의존성을 악용하는 유령 상태 공격(Phantom State Attack, PSA)을 소개합니다. PSA는 패킷을 수정하거나, 특징을 섭동하거나, 분류기에 쿼리하거나, 정상 트래픽 모델을 피팅하는 대신, 공격 흐름 자체의 패킷 도착 간 변동성에 맞춰 보정된 유계 타이밍 드리프트(bounded timing drift)를 주입하여 관측치를 가장 가까운 윈도우 경계 너머로 필요한 최소한의 이동량만큼 이동시킵니다. 그러면 IDS는 실제 프로세스 상태와 다른 유령 상태(phantom state)를 재구성하게 됩니다. 저자들은 ToN-IoT 및 CIC IIoT 2025(DataSense) 데이터셋에서 Random Forest, MLP, XGBoost를 대상으로 PSA를 평가하고, 탐지 성능 저하, 동기화 왜곡, 은닉성, 공격자 비용을 측정했습니다. PSA는 윈도우 경계 재배치가 가능할 만큼 충분한 패킷을 가진 플로우에서는 탐지 성능을 저하시키고 다른 플로우는 거의 변화시키지 않으므로 그 효과는 조건부입니다. 쿼리 기반 기준선(baseline)은 더 높은 원시 성공률에 도달하지만 윈도우당 많은 쿼리를 필요로 하는 반면, PSA는 쿼리를 전혀 필요로 하지 않습니다. 본 결과는 시간적 집계(temporal aggregation)가 기존 회피 기법보다 더 완화된 가정 하에서도 도달 가능한 공격 표면임을 입증합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.