arXiv:2610.11953v1 cs.LG

트리 기반 모델에서의 구간값 SHAP

Interval-valued SHAP in Tree-Based Models

Chenrui Zhu, Vu-Linh Nguyen, Marie-Hélène Masson, Sébastien Destercke

제출 2026-10-08

한국어 초록

샤플리 값(Shapley value)은 가장 널리 쓰이는 특징 기여도(feature-attribution) 설명 방식 중 하나입니다. 정형 데이터셋에서 최고 성능을 보이는 트리 기반 모델을 대상으로 샤플리 값을 효율적으로 계산하거나 추정하는 접근법들이 개발되어 왔습니다. 그러나 샤플리 값은 작고 현실적인 변화에도 (매우) 취약할 수 있는 것으로 알려져 있습니다. 본 논문에서는 비정밀 디리클레 모델(IDM, imprecise Dirichlet model) 기반의 방법을 제안하여 의사결정 트리와 랜덤 포레스트에서 샤플리 값의 강건성을 분석합니다. 기술적으로는 트리의 리프 노드에 레이블이 지정되지 않은 소수의 인스턴스가 무작위로 유입될 때 발생하는 구간값 샤플리 값을 정량화하고 분석함으로써 수행됩니다. 이러한 구간값 샤플리 값은 불완전한 데이터를 다루는 일반적인 원칙인 비관적 원칙과 평균화 원칙에 따라 정의될 수 있습니다. 본 연구에서는 구간값 샤플리 값을 효율적으로 계산할 수 있도록 이끄는 다양한 이론적 결과를 도출합니다. 또한 제안된 방법이 반자프 값(Banzhaf value)의 경우로도 직관적으로 일반화될 수 있음을 보입니다. 마지막으로 다양한 사례 연구와 실험을 제시하여 제안된 구간값 샤플리 값의 동작 특성과 정보가 없는 특징의 편향 완화(debiasing)에 적용되는 방식을 실증합니다.

원문 초록

Shapley values are among the most popular feature-attribution explanations. Efficient approaches for computing/estimating Shapley values for tree-based models, which are state-of-the-art for tabular data sets, have been developed. However, it is known that Shapley values can be (highly) unrobust due to small and realistic changes. In this paper, we propose an imprecise Dirichlet model (IDM) based method to analyze the robustness of Shapley values in decision trees and random forests. Technically, it is done by quantifying and analyzing the interval-valued Shapley values when a few unannotated instances are randomly introduced to the leaves of the trees. The interval-valued Shapley values can be defined following common principles in handling incomplete data: the pessimistic and averaging principles. We derive various theoretical results that lead to efficient computation of the interval-valued Shapley values. We also show that the proposed method can be straightforwardly generalized to the case of Banzhaf values. We then present various case studies and experiments to illustrate the behaviour of the proposed interval-valued Shapley values and their applications in debiasing uninformative features.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.11953v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.