항공 교통 관제사 지원을 위한 설명 가능한 강화학습
Explainable Reinforcement Learning for assisting Air Traffic Controllers
의료, 자율 주행, 항공과 같은 고위험·임계 환경에 AI를 효과적으로 통합하고, 더 높은 수준의 자동화와 원활한 인간-AI 협업을 향해 나아가기 위해서는 AI 기반 솔루션에 대한 신뢰 구축이 필수적이다. 신뢰는 다시 AI 시스템의 설명 가능성(explainability)과 밀접하게 연결된다. 다양한 분야에서 AI의 급속한 발전은 신뢰 구축의 어려움을 부각시켰으며, 특히 심층 학습에 적용될 때 AI 설명 가능성에 대한 관심을 더욱 높였다. 이러한 맥락에서 본 연구는 강화학습(RL) 알고리즘, 특히 안전 임계(safety-critical) 영역인 항공 교통 관제(ATC)에서 설명 가능성 기법의 적용을 탐구하는 것을 목표로 한다. 단순화된 ATC 환경을 초기 테스트베드(testbed)로 사용하여, 지능형 에이전트가 강화학습 알고리즘으로 학습되어 비행 금지 구역을 회피하는 대체 항로에 대한 의사결정을 내리도록 한다. 예비적인 설명 가능성 접근법으로 saliency map을 사용하여, 에이전트의 의사결정 과정에 가장 크게 영향을 미치는 입력 특징(feature)에 대한 통찰을 제공한다.