arXiv:2606.25103v1 cs.AI

Beyond Shapley: Efficient Computation of Asymmetric Shapley Values

Ezequiel Companeetz, Santiago Cifuentes, Sergio Abriola

제출 2026-06-23

원문 초록

We address the problem of explainability in machine learning models through feature attribution methods. In particular, we consider a variant of Shapley values known as Asymmetric Shapley Values (ASV), which enables the incorporation of causal knowledge into model-agnostic explanations through the use of a causal graph. We show that in certain contexts in which the computation of SHAP is $\#P$-hard, the exact computation of ASV can be done in polynomial time. To extend this algorithmic result, we introduce a notion of equivalence classes over the topological orderings of the underlying causal graph, which is useful to reduce the time to compute ASV. In particular, we present a polynomial-time algorithm (in the number of equivalence classes) to compute it whenever the causal graph is a rooted directed tree. Finally, we develop an algorithm for approximating ASV in arbitrary causal DAGs which relies on a procedure to sample topological orderings uniformly at random. To implement this sampling mechanism we leverage known algorithms as well as simpler alternatives. Our experimental results demonstrate the practical viability of the proposed approach in realistic causal structures.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.25103v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10642v1stat.ML공통 태그 shapley values, explainability

로그 오즈에서 샤플리 값까지: 가중 나이브 베이즈 분류기를 위한 설명 기하학

From Log-Odds to Shapley Values: An Explanatory Geometry for the Weighted Naive Bayes Classifier

본 논문에서는 가중 나이브 베이즈(weighted naive Bayes) 분류기 모델이 유도하는 지도 표현(supervised representation)으로부터 설명 공간을 구축하는 방법을 연구합니다. 조건부 로그 우도에 기반한 고전적인 지도 거리를 출발점으로 삼아, 분류 결정과 보다 직접적으로 연관되는 로그 오즈(log-odds) 기반의 판별적 재정식을 도입합니다. 이어 이러한 표현이 분석적 샤플리 값(Shapley value) 벡터 간의 $\ell_1$ 거리와 정확히 일치하는 거리를 유도함을 보여줌으로써, 모델이 유도하는 기하학에 대한 형식적인 설명적 해석을 제공합니다. 마지막으로, $k$-최근접 이웃 분류기를 사용하여 이러한 표현들로부터 파생된 여러 지도 거리를 실증적으로 비교합니다. 본 연구는 주로 방법론적 관점에서 지도 거리, 국소적 설명(local explanation), 그리고 예측 거동 사이의 밀접한 연관성을 조명합니다.

arXiv:2609.23877v1cs.AI공통 태그 Computational Efficiency, explainability

대규모 설명 가능 추천: YouTube Music 아티스트 발견을 위한 LLM 근거

Explainable Recommendations at Scale: LLM Rationales for YouTube Music Artist Discovery

현대 음악 스트리밍 플랫폼은 익숙한 콘텐츠를 활용하는 것과 새로운 항목의 탐험을 촉진하는 것 사이에서 지속적인 트레이드오프에 직면한다. 사용자는 종종 발견을 원하지만, 검증된 선호 아티스트 대신 낯선 아티스트를 선택하는 데 주저한다. 아직 탐색하지 않은 항목이 왜 추천되는지 설명하는 투명한 자연어 근거를 제공하면 이 장벽을 낮출 수 있다. 그러나 대규모 언어 모델(LLM)은 이러한 미묘한 설명 가능성에는 뛰어나지만, 실시간 배포는 과도한 추론 비용과 계산 오버헤드로 인해 심각한 병목에 걸린다. 본 논문에서는 지연 시간을 희생하지 않으면서 탐험을 성공적으로 확장하는 분리형 추천 아키텍처의 산업 사례 연구를 제시한다. 우리 시스템은 LLM 추론을 비동기적으로 오프라인으로 분리하여, 맞춤형 근거와 함께 미발견 아티스트에 대한 개인화 후보 풀을 사전 계산한다. 대규모 온라인 A/B 실험이 우리 설계를 검증한다. LLM 기반 추천과 이러한 설명적 근거를 결합하면 새 콘텐츠에 대한 신뢰 장벽이 크게 낮아지며, 발견 표면에서 사용자 탐험과 전반적 참여 모두에서 통계적으로 유의미한 개선을 이끈다는 것을 보여준다.

arXiv:2610.01002v2cs.AI공통 태그 Causal Inference

유추는 인공의식에 대해 무엇을 말해줄 수 있는가?

What Can Analogy Tell Us About Artificial Consciousness?

누가 또는 무엇이 의식을 가지고 있는가? 주관적 경험은 1인칭 관점에서만 직접 접근할 수 있기 때문에, 다른 개체의 의식에 대한 판단은 부분적으로 유추(analogy)에 의존한다. 역사적으로 이러한 추론은 인간이 아닌 동물에 집중되어 왔으나, 인공지능(AI)의 발전으로 의식을 가진 AI의 가능성이 제기되었다. 본 논문에서는 이러한 증거적 유추를 평가하기 위한 인과적 프레임워크를 개발한다. 핵심적인 구분은 의식 생성에 관여할 가능성이 높은 요인들의 유사성과 하류(downstream) 행동 또는 인지적 효과에서의 유사성 사이의 차이다. 제안하는 프레임워크는 알려지지 않은 원인, 무력화 요인(disabling differences), 의식에 이르는 대안적 경로를 고려하면서 인과적 관련성에 따라 원천-목표(source-target) 유사성에 가중치를 부여한다. 생물학적 시스템에 적용했을 때, 이는 인간과의 인과적 거리가 멀어질수록 유추적 지지가 전반적으로 약화되는 이유를 설명한다. 현대 AI에 적용했을 때, 이는 관련 인과적 대응 관계가 여전히 명확히 확립되지 않았기 때문에 행동적 유사성만으로는 의식에 대한 제한적인 증거만을 제공함을 시사한다. 또한 이 프레임워크는 어떤 증거가 인공의식에 대한 주장을 강화할 수 있는지를 명확히 밝힌다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.