인공지능에 대한 신뢰 구축: 철도 응용 분야를 위한 필수 과제
Building Trust in Artificial Intelligence: A Necessity for Railway Applications
철도 산업의 엄격한 표준과 규제로 인해 현재 인공지능(AI)은 안전과 직결되지 않는 비안전 필수(non-safety critical) 응용 분야에만 적용되고 있습니다. 본 논문에서는 데이터 과학 및 AI 알고리즘에 대한 신뢰를 높이고 규정 준수(compliance)를 달성하는 데 필요한 세 가지 주요 분야인 강건성(robustness), 운용 설계 영역(ODD, Operational Design Domain), 설명가능성(explainability)을 검토할 것을 제안합니다. 강건성은 어떠한 환경에서도 AI 시스템이 성능 수준을 유지할 수 있는 능력입니다(ISO24029). 최근 발표된 DIN DKE SPEC 99004에 따르면, ODD는 시스템이 작동하도록 의도된 운용 조건을 명시적으로 정의할 수 있게 해줍니다. 설명가능성은 AI 시스템의 결과에 영향을 미치는 주요 요인을 인간이 이해할 수 있는 방식으로 표현하는 AI 시스템의 특성입니다. 이러한 3가지 연구 영역은 비철도 분야의 주체들에 의해 이미 활발히 연구되어 왔으며, 철도 응용 분야에 즉시 사용할 수 있는 알고리즘과 방법론들이 갖추어져 있습니다. 안전한 MLOps 환경 내에서 모든 신뢰성 요구사항이 지속적으로 상호작용하도록 보장함으로써 규제 기관, 운영자 및 대중의 수용성을 높이려면 시스템적 관점(system view)이 필수적입니다. 안전 필수 응용 분야를 보호하는 것을 넘어, 현재 전 세계 규제 프레임워크에서 요구하는 바와 같이 AI에 대한 깊은 신뢰를 구축하는 것이 AI의 잠재력을 온전히 실현하고 미션 크리티컬(mission-critical) 도메인 전반에 걸친 도입 속도를 혁신적으로 변화시킬 것임을 보여주고자 합니다.