구조화된 인과적 입력 환경에서 신경망 예측에 대한 실제 원인 계산
Computing Actual Causes for Neural Network Predictions under Structured Causal Inputs
한국어 초록
신경망(neural network)의 예측을 설명하는 것은 신뢰할 수 있는 AI에서 핵심적인 과제입니다. 특징(feature) 기여도나 최소 충분 집합(minimal sufficient sets)에 기반한 기존 설명 방법들은 일반적으로 입력 특징들을 독립적인 것으로 취급하므로, 입력에 구조화된 의존성이 나타날 때 오해의 소지가 있는 설명을 제공할 수 있습니다. 본 연구에서는 불리언 구조적 인과 모델(Boolean Structural Causal Models, SCM)을 사용하여 입력 의존성을 모델링하고, 설명을 핼펀-펄(Halpern-Pearl, HP) 실제 원인(actual cause)으로 공식화하여 이 문제를 해결합니다. 경계 전파(bound propagation)와 분기 한계법(branch-and-bound) 기법을 적용하여 HP 원인을 계산하는 동시에 완전성(completeness)과 최소성(minimality)에 대한 정형적 보장을 제공합니다. 실험 결과, 본 연구의 방식은 확장성 측면에서 브루트 포스(brute-force) 및 ILP 베이스라인을 크게 능가하며 그래프 크기가 커짐에 따라 휴리스틱 탐색보다 뛰어난 성능을 보여, 최대 28개 노드를 가진 SCM에서 인스턴스당 180초의 시간 제한 내에 최대 $2.3\times10^{13}$개의 후보 (원인, 우연성) 쌍의 탐색 공간을 가진 인스턴스에 대해 모든 최소 실제 원인을 계산함을 확인했습니다. 또한 사례 연구를 통해 입력 의존성을 무시하면 보고되는 원인의 수가 부풀려지며, 그중 14.9%는 연구진의 SCM 하에서 가짜(spurious) 원인임을 보였습니다.
원문 초록
Explaining the predictions of neural networks is a central challenge in trustworthy AI. Existing explanation methods, such as those based on feature attribution or minimal sufficient sets, typically treat input features as independent, which can yield misleading explanations when inputs exhibit structured dependencies. We address this by formalizing explanations as Halpern-Pearl (HP) actual causes, modeling input dependencies using Boolean Structural Causal Models (SCMs). We compute HP causes by applying bound propagation and branch-and-bound techniques, while providing formal guarantees of completeness and minimality. Our experiments show that we substantially outperform brute-force and ILP baselines in scalability, and outperform heuristic search as graph size grows, computing all minimal actual causes on instances with search spaces of up to $2.3\times10^{13}$ candidate (cause, contingency) pairs, on SCMs with up to 28 nodes, within a 180s per-instance budget. In a case study, we further show that ignoring input dependencies inflates the number of reported causes, 14.9% of which are spurious under our SCM.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.03772v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.