arXiv:2608.27821v4 cs.LG

개별 예측에서 특성은 어떻게 작용하는가? 사례 기반 분류 체계로 단독 효과와 상호작용 효과 분리하기

How do features act in an individual prediction? Separating standalone and interaction effects with a case-based taxonomy

Sejong Oh

제출 2026-08-28

한국어 초록

SHAP와 LIME 같은 지역 설명 방법은 각 특성을 하나의 기여도 점수로 요약하며, 상호작용 지수는 특성들이 얼마나 강하게 상호작용하는지를 정량화한다. 그러나 어느 쪽도 주어진 예측에서 특성이 어떻게 작용하는지, 즉 그 효과가 단독일 때와 맥락 속에서 같은지, 아니면 다른 특성들이 이를 증폭하거나, 불필요하게 만들거나, 꺼 버리거나, 반전시키는지를 사용자에게 알려 주지 못한다. 우리는 원래 전역 방법이었던 사례 기반 특성 중요도(case-based feature importance, CBFI)를 개별 예측으로 확장한다. 배경 표본마다 네 가지 혼합 상태에서 모델을 평가하면 특성의 맥락 내 중요도가 단독 효과와 상호작용 효과로 분해되며, 사례 분류 체계는 인스턴스의 각 특성에 비활성, 단독, 증폭, 중복, 게이트, 반전 중 하나의 라벨을 부여한다. 합성 함수에서 이 방법을 k-SII, TreeSHAP 상호작용 값, H-통계량과 비교하고, 여섯 가지 모델 계열로 여덟 개의 실제 표 형식 데이터셋을 연구한다. 참 함수에서 이 분해는 상호작용을 정확히 복원하였다(해석적 지역 상호작용과의 상관 0.99). 적합된 모델에서 쌍 복원 성능은 전용 지수보다 약간 낮았다(지역 precision@k 0.86-0.91 대 0.91-0.95). 상호작용 값만으로는 대체와 게이팅을 구별하지 못했지만, 분류 체계는 상대 특성을 알지 못하고도 둘 모두를 식별하였다(정확도 0.74-0.76). 샤플리 상호작용 값에 적용했을 때도 비슷한 성능을 보였다. 실제 데이터에서는 SHAP 값이 거의 같은 특성 쌍의 45-57%가 서로 다른 라벨을 받았으며, 의료 보험 모델에서는 흡연의 상호작용 성분이 체질량지수 30에서 부호가 바뀐다는 점을 이 방법이 보여 주었다. 지역화된 CBFI는 기존 지수보다 상호작용을 더 정확하게 탐지하지는 못한다. 이 방법이 더하는 것은 단독 효과와 상호작용 효과로의 분해와 각 특성이 어떻게 작용하는지를 나타내는 라벨이다.

원문 초록

Local explanation methods such as SHAP and LIME summarize each feature with a single attribution score, and interaction indices quantify how strongly features interact. Neither tells a user how a feature acts in a given prediction: whether its effect is the same alone and in context, or whether the other features amplify it, make it unnecessary, switch it off or reverse it. We extend case-based feature importance (CBFI), originally a global method, to individual predictions. Evaluating the model in four hybrid states per background sample decomposes the in-context importance of a feature into a standalone and an interaction effect, and a case taxonomy labels each feature of an instance as inactive, standalone, amplified, redundant, gated or reversed. We compare the method with k-SII, TreeSHAP interaction values and the H-statistic on synthetic functions, and study eight real tabular datasets with six model families. On the true functions, the decomposition recovered interactions exactly (correlation 0.99 with the analytic local interaction). On fitted models, pair recovery was slightly below that of dedicated indices (local precision@k 0.86-0.91 versus 0.91-0.95). Interaction values alone could not distinguish substitution from gating, whereas the taxonomy identified both without knowing the partner (accuracy 0.74-0.76); applied to Shapley interaction values, it performed comparably. On real data, 45-57% of feature pairs with nearly identical SHAP values received different labels, and in a medical-insurance model the method showed that the interaction component of smoking changes sign at a body-mass index of 30. Localized CBFI does not detect interactions more accurately than existing indices; what it adds is a decomposition into standalone and interaction effects and a label stating how each feature acts.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.27821v4제출 시각 미확인
  2. arXiv:2608.27821v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.