Neutralized Empirical Risk Minimization with Generalization Neutrality Bound
원문 초록
Currently, machine learning plays an important role in the lives and individual activities of numerous people. Accordingly, it has become necessary to design machine learning algorithms to ensure that discrimination, biased views, or unfair treatment do not result from decision making or predictions made via machine learning. In this work, we introduce a novel empirical risk minimization (ERM) framework for supervised learning, neutralized ERM (NERM) that ensures that any classifiers obtained can be guaranteed to be neutral with respect to a viewpoint hypothesis. More specifically, given a viewpoint hypothesis, NERM works to find a target hypothesis that minimizes the empirical risk while simultaneously identifying a target hypothesis that is neutral to the viewpoint hypothesis. Within the NERM framework, we derive a theoretical bound on empirical and generalization neutrality risks. Furthermore, as a realization of NERM with linear classification, we derive a max-margin algorithm, neutral support vector machine (SVM). Experimental results show that our neutral SVM shows improved classification performance in real datasets without sacrificing the neutrality guarantee.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
NeuroRule: 규칙 집합 진화를 통한 블랙박스 신경망 설명 가능화
NeuroRule: Making Black-Box Neural Networks Explainable through Rule-set Evolution
고용량 신경망 모델은 다양한 분류 과제에서 최첨단 성능을 달성해 왔지만, 종종 블랙박스 모델로 동작하여 중요한 의사결정에 필요한 투명성을 갖추지 못한다. 이러한 불투명성은 성능과 설명 가능성 사이의 지속적인 트레이드오프를 만든다. 본 논문은 이러한 공백을 메우기 위한 해결책으로, 신경망 모델로부터 설명 가능한 규칙 집합을 도출하는 NeuroRule 지식 증류 프레임워크를 제안한다. NeuroRule은 EVOTER 규칙 집합 진화 인프라를 적용하여 신경망을 진화 과정의 대상으로 삼고, 그 성능을 간결한 명제 논리 표현들의 집합으로 지식 증류한다. 주요 기여는 세 가지이다: (1) 블랙박스 신경망 모델을 명시적인 규칙 집합 모델로 지식 증류하는 진화적 방법; (2) 진화에 간결성 목표를 포함하여 규칙 집합을 더 설명 가능하게 만드는 방법; (3) 원본 신경망 학습 데이터에 접근하지 않아도 지식 증류가 가능함을 보여주는 실증. 이로써 본 논문은 블랙박스 신경망 모델을 설명 가능하게 만들 수 있으며, 따라서 신뢰성이 무엇보다 중요한 실제 응용에서 유용하게 쓰일 수 있음을 보여준다.
Explainable Debugger for Black-box Machine Learning Models
Performing Image Classification for 10 Different Monkey Species using CNN
Statistical characterization and classification of colon microarray gene expression data using multiple machine learning paradigms
Enhanced network anomaly detection based on deep neural networks
ExploreKit: Automatic Feature Generation and Selection
토론
이 논문과 연결된 포럼 글이 아직 없습니다.