설명 알고리즘을 현실 세계와 연결하기 위한 설명 카드의 필요성
We Need Explanation Cards to Connect Explanation Algorithms to the Real World
알고리즘적 설명(algorithmic explanation)은 이해관계자가 불투명한 알고리즘의 의사결정을 이해하도록 돕기 위한 것이지만, 실제로는 기대에 미치지 못하는 경우가 많습니다. 첫째, 알고리즘적 설명의 의미는 직관적으로 기대하는 바와 다른 경우가 많아 올바르게 해석하려면 전문가 수준의 지식이 필요합니다. 둘째, 최근 연구에 따르면 널리 사용되는 설명 알고리즘들이 복잡한 결정 함수의 동작에 대해 유의미한 정보를 제공하지 못하는 것으로 나타났습니다. 이러한 문제들이 결합되어 설명이 전달하는 것처럼 보이는 것과 실제로 제공하는 것 사이에 격차가 발생합니다. 본 연구에서는 표준적인 설명에 견고성(robustness) 및 유효성(validity)에 관한 보완 정보와 명확한 해석 지침을 더하는 '설명 알고리즘을 위한 설명 카드(Explanation Cards)'를 제안합니다. 이러한 보완 정보는 유의미하지 않던 설명을 실질적으로 유용하게 만들 수 있으며, 그렇지 못한 경우를 감지하는 데도 도움을 줍니다. 특히 설명 카드의 해석 지침은 책임을 사용자에서 제공자로 전환합니다. 즉, 사용자가 설명으로부터 무엇을 결론지을 수 있고 무엇을 결론지을 수 없는지 알아차리기를 기대하기보다, 제공자가 이를 사전에 명시해야 합니다. 본 논문에서는 반사실적 설명(counterfactual explanation)과 SHAP을 예시로 들어 제공자가 설명 카드를 어떻게 구축할 수 있는지, 그리고 이러한 카드가 사용자에게 타당한 해석에 필요한 지침을 어떻게 제공하는지 실증합니다. 나아가 설명 카드가 EU 인공지능법(EU AI Act)의 설명가능성 규정을 실무적으로 운용할 수 있는 실질적인 방안을 제공한다고 주장합니다. 종합적으로 설명 카드는 설명 알고리즘을 실제 적용 사례에 적합하게 만드는 중요한 진전입니다.