PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2601.06701v2cs.LG

상관 영향 비율을 활용한 복잡한 AI 모델의 설명가능성

Explainability of Complex AI Models with Correlation Impact Ratio

복잡한 인공지능(AI) 시스템은 더 뛰어난 예측을 수행하지만 투명성이 부족한 경우가 많아 신뢰성, 해석 가능성, 안전한 배포를 저해합니다. LIME, SHAP, HSIC, SAGE와 같은 일반적인 사후(post hoc) AI 설명 방법들은 모델에 구애받지 않는(model-agnostic) 방식이지만, 상관관계가 있는 특징들의 순위를 잘못 매기는 경향이 있고 비용이 많이 드는 섭동(perturbation)을 필요로 하여 고차원 데이터로 확장되지 않는다는 한 가지 중요한 한계점이 있습니다. 본 논문에서는 모델 출력에 대한 입력 특징의 기여도를 설명하기 위한 이론적으로 근거 있고 단순하며 신뢰할 수 있는 지표인 ExCIR(Explainability through Correlation Impact Ratio)을 소개합니다. 이 지표는 노이즈 및 샘플링 변동 하에서도 안정적이고 일관성을 유지합니다. 우리는 ExCIR이 경량화된 단일 패스(single-pass) 정식화를 통해 상관된 특징들로부터 발생하는 의존성을 포착함을 입증합니다. EEG, 합성 차량 데이터, Digits, Cats-Dogs를 포함한 다양한 데이터셋에 대한 실험적 평가는 여러 도메인에 걸쳐 ExCIR의 효과성과 안정성을 검증하며, 기존 방법보다 계산 효율적이면서도 더 해석 가능한 특징 설명을 달성함을 보여줍니다. 나아가 우리는 상호 정보량(mutual information) 경계 조건 하에서 상관비(correlation ratio)와 정규상관분석(Canonical Correlation Analysis)을 통합하는 정보 이론적 기반으로 ExCIR을 확장하여, 대규모에서 다중 출력 및 클래스 조건부 설명가능성을 실현합니다.