ONAM: 블랙박스 예측의 사후 해석을 위한 직교 신경망 가법 모델 적합
ONAM: Fitting Orthogonal Neural Additive Models for Post-Hoc Interpretability of Black-Box Predictions
한국어 초록
인공신경망과 같은 현대 머신러닝 모델은 점점 더 복잡한 블랙박스 아키텍처를 통해 높은 예측 성능을 달성한다. 이로 인해 투명성, 해석 가능성, 공정성이 필요한 환경에서는 사용에 제약이 생긴다. 본 연구는 효과를 구조적으로 표현해 블랙박스 모델을 해석하기 쉽게 하는 함수 분해 기법을 새롭게 구현한 R 패키지 ONAM을 소개한다. ONAM은 예측이 끝난 뒤 그 결과를 서로 다른 입력 특징과 관련된 성분으로 분해하는 알고리즘 프레임워크를 구현한다. 사용 편의성과 효율성을 고려해 설계했으며, 시각화 기능과 해석 가능성을 평가하는 정량 지표를 제공한다. 특정 모델에 종속되지 않아 다양한 예측 모델에 적용할 수 있다. ONAM의 수학적 토대, 알고리즘 설계, 소프트웨어 아키텍처를 설명한다. 제안한 방법의 핵심 결과는 분해가 계층적 직교성 조건을 만족한다는 점이다. 이 조건은 모든 성분이 식별 가능하며 유일하게 정의됨을 보장한다.
원문 초록
Modern machine learning models, such as artificial neural networks, achieve high predictive performance through increasingly complex black-box architectures, limiting their use in settings where transparency, interpretability, and fairness are required. Here we present the R package ONAM, which provides a novel and practical implementation of functional decomposition, a technique to facilitate the interpretability of black-box models through structured effect representations. ONAM implements an algorithmic framework for the post-hoc decomposition of predictions into components associated with different input features. The package is designed for usability and efficiency, including functionalities for visualization as well as quantitative measures to assess interpretability. As a model-agnostic method, it can be applied to a wide range of prediction models. We describe the mathematical foundations, algorithmic design, and software architecture of ONAM. A central result of the proposed methodology is that the resulting decomposition satisfies the condition of hierarchical orthogonality, thereby guaranteeing that all components are identifiable and uniquely defined.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.