안정적인 특징 기여도를 위한 엔트로피 정규화 적분 기울기
Entropy-Regularized Integrated Gradients for Stable Feature Attribution
한국어 초록
적분 기울기(IG)와 같은 경로 기반 기여도 방법은 신경망을 해석하는 데 널리 사용되지만, 지각할 수 없는 입력 섭동이 모델 예측은 그대로 둔 채 기여도 맵을 크게 바꿀 수 있다. 우리는 온도 매개변수 $\tau$를 갖는 최대 엔트로피 소프트맥스 가중치를 사용하여 적분 경로를 따른 기울기 불규칙성을 본질적으로 완화하는 경로 기반 기여도 방법인 엔트로피 정규화 적분 기울기(ERIG)를 제안한다. 우리는 모델과 그 기울기의 립시츠 성질을 이용하여 엔트로피 정규화 가중치가 기여도 안정성에 미치는 효과를 정량화한다. 입력 섭동에 따른 기여도 변화를 모델 응답 항과 가중치 변동 항으로 분해하며, 전자의 경계는 $\tau$에 무관하고 후자의 경계는 $\mathcal{O}(1/(2\tau))$의 비율로 감소한다. 이들의 비 $R(\tau)$는 기울기 정보와 기여도 안정성 사이의 절충을 특징짓는다. 나아가 고전적인 잡음 추정기를 기여도 잡음을 정량화하는 두 지표 LINV-C와 LINV-P로 변형하여 기여도 평가에 새로운 차원을 추가한다. ImageNet과 Oxford-IIIT Pet 데이터셋에서 11개의 CNN 및 Transformer 백본에 걸친 실험 결과, 차선 방법과 비교하여 ERIG는 순위 기반 충실도 지표에서 대등한 수준을 유지하면서 위치 지정 성능을 약 24%, 기여도 안정성을 평균 약 47배 향상시키고, IG 대비 최대 4자릿수의 개선에 이르며, 추가 계산 비용은 무시할 만하다.
원문 초록
Path-based attribution methods like Integrated Gradients (IG) are widely used to interpret neural networks, yet imperceptible input perturbations can drastically alter their attribution maps while leaving model predictions unchanged. We introduce Entropy-Regularized Integrated Gradients (ERIG), a path-based attribution method that intrinsically attenuates gradient irregularities along the integration path using maximum-entropy softmax weighting with temperature parameter $\tau$. We quantify the effect of the entropy-regularized weighting on attribution stability by using the Lipschitz properties of the model and its gradients. We decompose the attribution change under an input perturbation into a model-response term, whose bound is $\tau$-independent, and a weight-variation term, whose bound decreases at rate $\mathcal{O}(1/(2\tau))$. Their ratio $R(\tau)$ characterizes the trade-off between gradient information and attribution stability. We further add a new dimension to attribution evaluation by adapting classical noise estimators into two metrics, LINV-C and LINV-P, that quantify attribution noise. Across eleven CNN and Transformer backbones on ImageNet and Oxford-IIIT Pet datasets, our experiments show that, relative to the next-best method, ERIG remains comparable on ranking-based fidelity metrics while improving localization by approximately 24% and attribution stability by approximately 47-fold on average, reaching up to four orders of magnitude improvement over IG, all at negligible additional computational cost.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23600v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.