컴파일된 듀얼-레일 인코딩 기반의 난해한 XAI 쿼리 해결
Solving Hard XAI Queries Based on a Compiled Dual-Rail Encoding
한국어 초록
실세계 응용에서 인공지능(AI)이 널리 도입되면서, 특히 중요(critical) 응용에서 그 신뢰성에 대한 우려가 크게 제기되었다. 설명 가능한 AI(eXplainable AI, XAI) 분야는 AI 시스템이 내린 결정에 대해 사용자에게 설명을 제공하는 것을 목표로 등장했다. 문헌에는 부울 분류기(boolean classifier)에 대한 여러 설명이 소개되어 있으며, 가설추론(abductive) 설명과 대조(contrastive) 설명을 포함해 각각 분류기 결정에 대한 서로 다른 통찰을 제공한다. 그러나 일반적으로 부울 분류기의 한 결정에 대한 설명을 계산하는 것은 어려운 문제이다. 이러한 복잡성을 다루는 한 방법은 분류기의 컴파일된(compiled) 표현에 의존하여 각 설명을 효율적으로 계산할 수 있게 하는 것이다. 불행히도 본 논문에서는 지식 컴파일(knowledge compilation) 지도에서 가장 다루기 쉬운(tractable) 부분집합 중 하나인 순서화 이진 결정 다이어그램(Ordered Binary Decision Diagrams, OBDD)에 대해서도 여러 클래스의 가설추론 설명을 계산하는 것이 여전히 어렵다는 것을 증명한다. 이러한 클래스에는 더 짧은 가설추론 설명이나 설명 대상자(explainee)의 선호를 반영한 가설추론 설명이 포함된다. 컴파일된 표현을 활용하는 이점을 되찾기 위해, 분류기의 듀얼-레일 인코딩(dual-rail encoding)을 적절히 표현하면 이러한 클래스의 설명을 효율적으로 계산할 수 있음을 보인다.
원문 초록
The widespread adoption of artificial intelligence (AI) within real-world applications has raised a lot of concerns regarding their trustworthiness, especially in critical applications. The field of eXplainable AI (XAI) has emerged with the objective of providing explanations to the users about the decisions made by AI systems. Several explanations for boolean classifiers have been introduced in the literature, including abductive and contrastive explanations, each giving a different insight on the decision of the classifier. However, computing an explanation for a decision of a boolean classifier is a hard problem in general. One way to deal with this complexity is to rely on a compiled representation of the classifier for which each explanation can be computed efficiently. Unfortunately, we prove in this paper that several classes of abductive explanations, remain hard to compute even for Ordered Binary Decision Diagrams, one of the most tractable subsets of the knowledge compilation map. Included in such classes are shorter abductive explanations or abductive explanations that include the explainee's preferences. To recover the benefits of working with compiled representations, we show that a proper representation of the dual-rail encoding of the classifier can be used to compute efficiently these classes of explanations.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.04931v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.