arXiv:2611.24831v1 cs.LG

간과되고 활용되지 못한 프로토타입: 표 형식 데이터 XAI의 빠진 조각

Overlooked and Underutilized: Prototypes are the Missing Piece in Tabular XAI

Jacek Karolczak, Jerzy Stefanowski

제출 2026-11-19

한국어 초록

설명 가능한 AI(XAI)는 중대한 결과를 수반하는 표 형식 데이터에 자주 적용되지만, 이 분야는 특징 기여도 방법에 크게 의존한다. 이러한 접근법은 기술적 투명성을 제공하나, 수십 개의 개별 특징을 평가하는 일은 비전문가 사용자에게 과도한 인지적 노력을 요구한다. 본 논문에서는 프로토타입이 여전히 간과되고 활용되지 못하고 있으며, 복잡한 기계학습 모델을 감사하기 위한 보완적이고 직관적인 관문으로 통합되어야 한다고 주장한다. 전체 예시(exemplar)가 프로토타입 기반 설명의 직관적인 기준선으로 기능하긴 하지만, 우리는 프로토타입 부분(prototypical parts)이 표 형식 데이터에 특히 가치가 있음을 강조한다. 관련된 특징들을 경계가 있는 부분공간으로 묶음으로써, 프로토타입 부분은 인간이 이해할 수 있는 개념을 기술적으로 구현하며 개별 특징을 응집된 의미 단위로 대체한다. 우리는 이러한 통합을 두 가지 주요 관점에서 뒷받침한다. 인지적으로, 이러한 부분은 Rosch의 범주화 이론과 Kahneman의 시스템 1 사고에 부합하여 인간의 인지 부하를 자연스럽게 줄여 준다. 다음으로, 기존 방법들이 흔히 소홀히 해 온 핵심 차원인, 프로토타입이 데이터 다양체를 타당하게 만드는 이유를 개념화하기 위해 기하학적 타당성 삼원(Geometric Validity Triad)을 제안한다. 우리는 표 형식 XAI를 진정으로 이해 가능하게 만들려면, 직관적인 유사성 기반 추론과 엄밀한 특징 수준 감사를 결합하는 복합 설명 파이프라인으로 전환해야 한다고 주장한다. 논문은 프로토타입 기반 방법의 미해결 과제를 개괄하고, 향후 연구를 이끌 잠재적 해결책을 논의하며 마무리한다.

원문 초록

Explainable AI (XAI) is frequently applied to high-stakes tabular data, yet the field relies heavily on feature attribution methods. While these approaches offer technical transparency, evaluating dozens of isolated features demands excessive cognitive effort from non-expert users. In this paper, we argue that prototypes remain overlooked and underutilized, and should be integrated as a complementary, intuitive gateway to auditing complex machine learning models. Although entire exemplars function as an intuitive baseline for prototype-based explanations, we highlight prototypical parts as particularly valuable for tabular data. By grouping related features into bounded subspaces, prototypical parts technically embody human-understandable concepts, replacing isolated features with cohesive semantic units. We support this integration through two primary lenses. Cognitively, these parts align with Rosch's categorization theory and Kahneman's System 1 thinking to naturally reduce cognitive load for humans. Then, we introduce a Geometric Validity Triad to conceptualize why prototypes validate the data manifold - a critical dimension often neglected by existing methods. We contend that making tabular XAI genuinely comprehensible requires shifting toward composite explanation pipelines that pair intuitive similarity-based reasoning with rigorous feature-level auditing. The paper concludes by outlining open challenges of prototype-based methods and discussing potential solutions to guide future research.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24831v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.