SketchXplain: 스케치를 활용한 이미지 분류기의 직관적인 시각적 설명
SketchXplain: Intuitive Visual Explanations of Image Classifiers with Sketches
살리언시 맵(saliency map) 시각화는 영역을 지정하여 이미지 기반 AI 예측을 설명하지만, 이는 종종 비직관적이고 의미적으로 불명확하여 해석 가능성 격차를 남깁니다. 우리는 AI 설명이 직관적이어야 한다고 주장합니다. 즉, 사용자 지식과 일관되면서도 해석을 가속화하기 위해 단순하고 선택적이어야 합니다. 예술적 드로잉에서 영감을 받아, 우리는 직관적인 이미지 기반 설명 가능한 AI(XAI)를 위한 스케치 기반 시각적 설명을 생성하는 SketchXplain을 제안합니다. 살리언시 맵, 개념 병목 모델(concept-bottleneck models), 스케치 최적화의 기법을 결합하여, SketchXplain은 일관된 관찰 요소를 선택하기 위해 살리언시를 통합하고, 지식의 일관성을 위한 개념, 이를 나타내는 단서, 그리고 단순성을 위한 추상화를 통합합니다. 얼굴 표정 인식에 대한 평가에서, 모델링 및 사용자 연구는 SketchXplain이 살리언시 맵이나 단순한 그림보다 더 부합하는 시각화로 더 빠른 해석을 지원했음을 보여주었습니다. 피부 병변 진단에 대한 추가 평가에서는 SketchXplain이 질병 증상을 더 일관되게 시각화하여 비전문가 진단을 더 잘 지원함을 발견했습니다. 따라서 이 연구는 직관적이고, 단순하며, 일관되고, 빠른 이미지 기반 XAI 시각화를 위한 스케치의 가치를 보여줍니다.