레이블은 맞지만 이유는 틀릴 수 있다: 다중 레이블 분류를 설명하는 부호 있는 특징 기여도
Right Labels, Wrong Reasons: Signed Feature Attribution for Multi-Label Explainability
한국어 초록
다중 레이블 분류기가 레이블을 올바르게 붙여도 잘못된 근거에 의존했을 수 있다. 여러 특징에 흩어진 조합은 분류기 계열마다 다를 수 있으며 지배적인 특징이 없을 수도 있다. 전체 이진 레이블 행렬에 다중 레이블 피셔 선형 판별 분석(LDA) 하나를 직접 적합하는 전역 대리 모델 FLEX(Fisher LDA Explainer)를 제안한다. 공통 좌표계에서 레이블마다 특징의 기여 방향과 크기를 나타내는 부호 있는 기여도 목록을 만든다. 평가한 벤치마크와 분류기 계열 전반에서 FLEX는 블랙박스 모델의 예측을 일관되게 높은 충실도로 재현했다. 레이블 간 공분산을 풀링하는 방식은 대부분의 데이터셋에서 레이블별로 따로 계산하는 방식보다 우수했다. 특히 레이블이 많고 양성 예시가 드문 데이터셋에서 이점이 컸다. FLEX의 충실도–복잡도 파레토 곡선은 단조 증가한다. 따라서 특징 수를 늘릴 때 설명의 충실도가 어떻게 개선될지 예측할 수 있다. 적당한 수의 특징을 사용할 수 있으면 적합에 사용한 표본에서의 충실도가 레이블별 이진 분류(Binary Relevance) 대안과 같거나 더 높았다. 각 판별 가중치 벡터의 크기는 해당 레이블의 분리도에 경계를 부여해, 분류가 맞더라도 근거가 틀릴 수 있는 레이블을 찾는 데 도움이 된다. 평가한 분류기들은 대체로 같은 예측을 했지만 지배적인 특징이 하나도 없을 때는 서로 다른 특징 부분집합을 바탕으로 판단했다.
원문 초록
When a multi-label classifier assigns the right labels, it may do so for the wrong reasons. Diffuse feature combinations may vary across classifier families and lack a dominant feature. This paper proposes FLEX (Fisher LDA Explainer), a global surrogate that fits a single direct multi-label Fisher LDA over the full binary label matrix, producing signed feature attribution lists for each label in a single coherent coordinate system. Across the evaluated benchmarks and classifier families, FLEX reproduces the black box's predictions with consistently high fidelity. Pooling covariance across labels outperforms a per-label alternative on most datasets, with the advantage growing largest where labels are numerous and positive examples are scarce. FLEX's fidelity-complexity Pareto curve is monotonically increasing, giving practitioners a predictable path to higher-fidelity explanations as more features are used, and its in-sample fidelity matches or leads Binary Relevance alternatives once a modest feature budget is allowed. The magnitude of each discriminant weight vector bounds its label's separability, flagging labels that may be predicted correctly for the wrong reasons. The evaluated classifiers largely agree on which predictions to make, but reach those decisions through different feature subsets when no single feature dominates.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22515v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.