무인 항공기(UAV) 침입 탐지를 위한 대화형 대 대시보드 설명가능한 AI: 운용자 신뢰 및 의존성에 대한 실증 연구
Conversational versus Dashboard Explainable AI for UAV Intrusion Detection: An Empirical Study of Operator Trust and Reliance
머신러닝 기반 침입 탐지 시스템(IDS)은 무인 항공기(UAV) 네트워크 보안에서 우수한 성능을 입증해 왔습니다. 그러나 이러한 모델의 '블랙박스' 특성과 다중모달(multimodal) 사이버-물리 데이터의 고차원성이 결합되어 심각한 해석 가능성 문제를 야기합니다. 정적 시각화 대시보드는 다중모달 사이버-물리적 특징 간의 복잡한 관계를 운용자가 쉽게 점검하고 해석할 수 있는 형태로 표현하는 데 어려움을 겪을 수 있습니다. 이를 해결하기 위해, 우리는 온디맨드 조사를 용이하게 하는 대규모 언어 모델(LLM) 기반의 대화형 설명가능한 AI(XAI) 인터페이스를 제안합니다. 참가자를 대상으로 한 통제된 실험을 통해, 사후 침해 감사 작업 중 운용자의 이해도, 신뢰 및 의존성에 미치는 대화형 인터페이스와 기존 XAI 대시보드의 영향을 체계적으로 평가했습니다. 연구 결과에 따르면 대화형 인터페이스는 대시보드보다 더 유용한 것으로 인식되었으며, 이는 참가자들이 관련 정보에 더 쉽게 접근하고 이를 종합할 수 있도록 도왔기 때문인 것으로 보입니다. 그러나 이러한 이점은 적절한 자립성(self-reliance) 수준 저하를 동반하여, 과도한 의존의 잠재적 위험을 나타냈습니다. 한 가지 가능한 해석은 자연어 응답이 AI의 조언을 더 쉽게 수용하도록 만들어, IDS가 올바르지 않았을 때 참가자들이 근본적인 증거를 검증하려는 경향을 감소시켰을 수 있다는 점입니다. 이러한 발견은 UAV 침입 감사에서 인간-AI 협업의 잠재적 트레이드오프를 시사합니다. 즉, 인지된 유용성을 높이는 상호작용 메커니즘이 부적절한 의존 위험을 증가시킬 수도 있다는 것입니다. 결론에서는 원활한 상호작용과 인지적 강제 기능(cognitive forcing functions) 사이의 균형을 유지하여 적절한 의존성을 촉진하는 미래 XAI 시스템에 대한 설계 시사점을 논의합니다.