PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.07180v1cs.CV

OPTIMUS-Prime: 딥 비전 모델을 위한 최소 및 충분 개념 설명

OPTIMUS-Prime: Minimal and Sufficient Concept Explanations for Deep Vision Models

자동화된 의사결정에 대한 투명성 요구가 증가함에 따라 설명 가능한 인공지능(XAI)은 머신러닝 연구의 최전선으로 부상했습니다. 그러나 컴퓨터 비전(CV) 분야에서 기존 설명 방법들은 종종 형식적 보장을 희생하면서 최종 사용자의 접근성을 우선시하여, 실용적 유용성과 이론적 엄밀함 사이에 중요한 격차를 남겨두었습니다. 본 논문에서는 심층 분류 모델을 위한 개념 기반 시각적 설명을 생성하는 새로운 프레임워크인 OPTIMUS를 소개하여 이 격차를 해결합니다. OPTIMUS 설명은 시각적 히트맵 형태를 취하며, 이는 최종 사용자에게 해석 가능할 뿐만 아니라 잘 정립된 주임플리컨트(prime implicant) 이론에 기반하고 있어, 기존 살리언시(saliency) 기반 방법에서 대부분 결여되어 있던 형식적 보장을 제공합니다. 구체적으로, OPTIMUS 설명은 두 가지 바람직한 속성을 만족합니다: 강조된 개념이 분류기의 예측을 증명 가능하게 보장하는 충분성(sufficiency), 그리고 해당 개념들의 진부분집합이 이 보장을 유지하지 않음을 보장하는 최소성(minimality)입니다. 이러한 속성들이 함께 작용하여 논리적으로 엄밀하고 시각적으로 일관된 설명을 생성합니다. 본 연구는 시각적 분류 벤치마크에서 제안하는 접근 방식을 검증하였으며, OPTIMUS 히트맵이 모델 예측의 기반이 되는 의사결정 관련 개념들을 자연스럽고 충실하게 드러냄을 보여줍니다.