신뢰할 수 있는 ML 기반 광 네트워크를 위한 설명 기반 런타임 검증
Explanation-Based Runtime Verification for Trustworthy ML-driven Optical Networks
머신러닝(ML) 모델은 장애 관리, 성능 모니터링, 자원 할당과 같은 작업을 지원하기 위해 광 네트워크 자동화 프레임워크에 점점 더 통합되고 있다. 이러한 환경에서 ML 기반 예측은 제어 평면(control-plane) 동작과 직접 결합될 수 있으며, 잘못된 결정은 서비스 품질, 자원 효율성, 네트워크 안정성에 즉각적인 영향을 미칠 수 있다. 자동화 수준이 높아질수록 배포 시점에 개별 결정의 신뢰성을 보장하는 것이 핵심 요구사항이 된다. 설명 가능한 인공지능(XAI) 기법은 ML 예측에 영향을 미치는 요인을 강조함으로써 투명성을 개선하기 위해 등장했다. 영향력 있는 특징을 식별하는 것 외에도, 모델의 기저 추론 과정에 대한 통찰을 제공하여 다양한 입력 변수가 최종 결과에 어떻게 기여하는지, 그리고 특징 상호작용이 결정 경계(decision boundary)를 어떻게 형성하는지를 드러낸다. 본 연구에서는 설명 기반 런타임 검증(explanation-based runtime verification)을 제안한다. 이는 네트워크 제어 루프에서 실행되기 전에 개별 ML 결정의 타당성(soundness)을 평가하기 위해 모델 설명을 활용하는 접근법이다. 제안된 접근법은 런타임에 설명 일관성(explanation coherence)과 물리적 그라운딩(physics grounding) 일관성을 평가하여, 불확실한 것으로 표시된 결정을 연기하거나 거부할 수 있게 한다. 광경로 전송 품질(QoT) 분류의 대표적 사용 사례에서 접근법의 효과를 입증한다. 실험 결과, 설명 기반 검증이 높은 자동화율을 유지하면서 상당한 비율의 오류 결정을 가로챌 수 있음을 보여준다.