PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2208.09970v3stat.ME공식 코드 · Papers with Code

SHAP의 통계적 측면: 모델 해석을 위한 함수형 ANOVA

Statistical Aspects of SHAP: Functional ANOVA for Model Interpretation

SHAP은 머신러닝 모델(model)에서 변수 중요도를 측정하는 데 널리 사용되는 방법입니다. 본 논문에서는 SHAP 점수를 추정하는 데 사용되는 알고리즘을 연구하고, 이 알고리즘과 함수형 ANOVA 분해(functional ANOVA decomposition) 간의 연결성을 설명합니다. 이러한 연결성을 활용하여 SHAP 근사화의 난제들이 주로 특징(feature) 분포의 선택 및 추정되는 $2^p$개 ANOVA 항의 수와 관련되어 있음을 보입니다. 또한 머신러닝 설명가능성(explainability)과 민감도 분석(sensitivity analysis) 간의 연결성이 본 사례에서 통찰을 제공하지만, 두 분야가 서로 다른 제약 조건에 직면해 있기 때문에 즉각적인 실질적 귀결이 명확하지는 않다고 주장합니다. 머신러닝 설명가능성은 평가 비용은 낮지만 종종 수백 개, 많게는 수천 개의 특징을 가지는 모델을 다룹니다. 반면 민감도 분석은 일반적으로 실행에 매우 많은 시간이 걸릴 수 있지만 상대적으로 작은 입력 공간에서 작동하는 물리학이나 공학 분야의 모델을 다룹니다.