머신러닝(ML) 모델은 장애 관리, 성능 모니터링, 자원 할당과 같은 작업을 지원하기 위해 광 네트워크 자동화 프레임워크에 점점 더 통합되고 있다. 이러한 환경에서 ML 기반 예측은 제어 평면(control-plane) 동작과 직접 결합될 수 있으며, 잘못된 결정은 서비스 품질, 자원 효율성, 네트워크 안정성에 즉각적인 영향을 미칠 수 있다. 자동화 수준이 높아질수록 배포 시점에 개별 결정의 신뢰성을 보장하는 것이 핵심 요구사항이 된다. 설명 가능한 인공지능(XAI) 기법은 ML 예측에 영향을 미치는 요인을 강조함으로써 투명성을 개선하기 위해 등장했다. 영향력 있는 특징을 식별하는 것 외에도, 모델의 기저 추론 과정에 대한 통찰을 제공하여 다양한 입력 변수가 최종 결과에 어떻게 기여하는지, 그리고 특징 상호작용이 결정 경계(decision boundary)를 어떻게 형성하는지를 드러낸다. 본 연구에서는 설명 기반 런타임 검증(explanation-based runtime verification)을 제안한다. 이는 네트워크 제어 루프에서 실행되기 전에 개별 ML 결정의 타당성(soundness)을 평가하기 위해 모델 설명을 활용하는 접근법이다. 제안된 접근법은 런타임에 설명 일관성(explanation coherence)과 물리적 그라운딩(physics grounding) 일관성을 평가하여, 불확실한 것으로 표시된 결정을 연기하거나 거부할 수 있게 한다. 광경로 전송 품질(QoT) 분류의 대표적 사용 사례에서 접근법의 효과를 입증한다. 실험 결과, 설명 기반 검증이 높은 자동화율을 유지하면서 상당한 비율의 오류 결정을 가로챌 수 있음을 보여준다.
AI 에이전트가 규제 데이터 조회·도구 호출·상태 변경 등 실질적인 실행을 수행할 때, 각 단계의 승인 여부·기록 무결성·결정론적 재현 가능성을 보장하기 위해 실행을 계약 $C$, 실행 인과 이벤트 스트림 $T$, 재현 컨텍스트 $R$의 트리플로 형식화한 런타임 실행 증명(Proof of Execution, PoE) 프레임워크를 제안한다. 다섯 가지 불변 조건과 Prime Execution Model(PEM)을 통해 승인·경로 준수·이력 무결성을 단일 런타임 검증 객체로 결합하며, TypeScript 프로토타입에서 최소 2.7 ms의 오버헤드로 게이트웨이 우회 및 트레이스 변조 공격을 탐지하는 성능을 검증하였다.
We present an integrated framework that unifies runtime verification and model-based diagnosis within the stream specification language LOLA. By encoding system descriptions, component health states, and observations into a single stream-based formalism, the approach enables continuous, online fault localization directly alongside fault detection, without requiring separate toolchains. The framework supports both time-invariant and transient faults, and naturally accommodates nondeterministic observations.
복잡한 연속 역학을 가진 반응형 시스템의 안전성을 보장하기 위해 하이브리드 오토마타(Hybrid Automata)를 기반으로 한 런타임 강제(runtime enforcement) 프레임워크를 제안한다. 이 방법은 이산 이벤트 편집과 연속 시간 모니터링을 결합하여 런타임 도달 가능성 분석을 통해 안전한 교정 작업을 합성함으로써 실시간으로 안전 요구 사항을 준수한다.