arXiv:2606.31080v1 cs.LO

Beyond But-for Test: Counterfactual Explanation in Abstract Argumentation via Actual Causality (Extended Version)

Siyi Liu, Muyun Shao, Beishui Liao

제출 2026-06-30

원문 초록

Counterfactual explanation in abstract argumentation calls for an answer to the what-if query: would the topic argument still be accepted if the status of certain other arguments were changed? Existing approaches are limited to the but-for test and fail to accommodate more refined counterfactual conditions. To overcome these limitations, we introduce an intervention-based counterfactual reasoning framework in abstract argumentation. Our approach encodes the acceptance conditions of arguments as equations, then defines an intervention operator that supports (1) changing sets of arguments simultaneously, and (2) fixing witness arguments to their actual labels. Guided by the refined counterfactual condition introduced in the Halpern-Pearl definition, our method goes beyond the but-for test, thereby correctly identifying causes in argumentation structures such as Preemption and Overdetermination. Through comparison, we show that our method surpasses prior methods in both expressiveness and reliability.

요약

추상 논증(abstract argumentation)에서 기존의 but-for 검정이 Preemption이나 Overdetermination 같은 논증 구조에서 인과관계를 올바르게 식별하지 못하는 한계를 극복하기 위해, 구조 방정식 모델과 Halpern-Pearl 실제 인과성 정의에 기반한 개입(intervention) 연산자를 도입한 반사실적 추론 프레임워크를 제안한다. 논증의 수용 조건을 방정식으로 인코딩하고 증인 논증을 실제 레이블로 고정하는 메커니즘을 통해, 기존 방법보다 표현력과 신뢰성이 높은 반사실적 설명을 제공함을 비교 분석으로 보인다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.31080v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21573v1cs.LG공통 태그 Causal Inference, counterfactual, explainability

충분성을 넘어: 반사실적 필요성 기반 시계열 설명

Beyond Sufficiency: Time Series Explanation with Counterfactual Necessity

시계열 분류기에 대한 충실한 설명은 블랙박스 모델의 예측을 유지하기에 충분할 뿐만 아니라, 그 예측을 유지하는 데 필요한 부분 시퀀스(subsequence)를 식별해야 한다. 그러나 기존의 충분성(sufficiency) 중심 방법들은 모델의 의사결정에 필수적이지 않으면서도 예측을 뒷받침하는 허위(spurious) 부분 시퀀스에 높은 중요도를 부여할 수 있다. 우리는 시계열 설명을 위한 필요성(necessity) 인식 프레임워크인 TimePNS를 제안한다. Pearl의 반사실적(counterfactual) 필요성 개념에서 영감을 받아, TimePNS는 시간적 요인에 개입(intervention)하고 원래 예측이 방해되는지 측정함으로써 해당 요인이 필요한지 평가한다. 이 프레임워크는 2단계 설계를 채택한다. 1단계에서는 식별 가능한(identifiable) 인과 생성 과정과 충분성 중심 설명 마스크를 함께 학습한다. 2단계에서는 시간적 요인에 대한 반사실적 개입을 수행하여 필요성 신호를 도출하고, 이 신호가 시간적 게이트(temporal gate)를 지도하여 비필수 구성 요소를 억제하고 반사실적으로 필요한 요소를 강조함으로써 초기 설명을 정제한다. 합성 및 실세계 시계열 벤치마크(benchmark)에서의 실험은 TimePNS가 의사결정에 핵심적인 부분 시퀀스를 더 정확하게 식별하고, 강력한 기준선(baseline) 대비 충분성-필요성 트레이드오프를 일관되게 개선함을 보여준다.

arXiv:2607.14416v1cs.AI공통 태그 Causal Inference, counterfactual, explainability

CausalGraphX: 설명 가능한 시스템적 리스크 평가를 위한 반사실적 그래프 신경망 프레임워크

CausalGraphX: A Counterfactual Graph Neural Network Framework for Explainable Systemic Risk Assessment

글로벌 금융 시스템의 상호연결성은 소수 기관의 실패가 치명적인 연쇄 디폴트를 촉발할 수 있는 시스템적 리스크에 취약하게 만든다. 전통적인 리스크 모델은 이러한 네트워크의 복잡한 비선형 역학을 포착하지 못하는 경우가 많다. 그래프 신경망(GNN)은 관계형 데이터 모델링에서 유망함을 보여 왔지만, 주로 상관적 패턴을 학습하고 블랙박스로 작동하여 충격 전파의 인과적 메커니즘에 대한 통찰을 거의 제공하지 못한다. 이 한계는 스트레스 테스트를 수행하고 효과적인 개입 방안을 마련하기 위해 설명 가능한 모델을 요구하는 규제 기관에게 중요하다. 우리는 GNN과 반사실적 추론을 통합하여 시스템적 리스크에 대한 설명 가능한 평가를 제공하는 새로운 프레임워크인 CausalGraphX를 제안한다. CausalGraphX는 그래프 어텐션 메커니즘을 사용하여 기관 취약성의 표현을 학습하고, 이러한 표현이 허위 상관관계가 아닌 인과적 요인을 포착하도록 적대적 정규화 기법을 사용한다. 또한 우리는 반사실적 설명을 생성하기 위한 최적화 기반 접근법을 제안하여, "특정 스트레스 시나리오에서 Bank A의 디폴트를 막기 위해 필요한 최소 자본 주입은 얼마였을까?"와 같은 질문에 답한다. 우리는 대규모 합성 금융 네트워크에서 CausalGraphX를 검증한다. 결과는 CausalGraphX가 희소하고 타당하며 실행 가능한 반사실적 설명을 제공하는 동시에 연쇄 디폴트 예측에서 전통적 및 심층 학습 베이스라인을 크게 능가함을 보여준다.

arXiv:2610.02480v2cs.AI공통 태그 counterfactual, explainability

MEA: 충실한 모델 설명을 위한 보상 기반 다중 에이전트 시스템

MEA: A Reward-Driven Multi-Agent System for Faithful Model Explanations

최근 중요도가 높은 고위험 영역에서 수많은 머신러닝(ML) 모델이 도입되고 있지만, 그 예측을 바탕으로 행동해야 하는 실무자들에게 이러한 모델은 여전히 대부분 불투명한 상태로 남아 있습니다. 사후(post-hoc) 설명 방법들이 모델의 동작을 들여다볼 수 있는 시각을 제공하긴 하지만, 이를 효과적으로 다루기 위해서는 대부분의 도메인 전문가들이 갖추지 못한 전문 지식이 필요합니다. 즉, 고차원 출력을 탐색하고, 최적의 설명을 선택하며, 이질적인 도구들 전반에 걸친 증거를 종합해야 합니다. 이를 위해 본 연구에서는 설명에 필요한 전문 지식의 장벽을 완전히 제거하는 다중 에이전트 프레임워크인 MEA를 제시합니다. 제안자(Proposer) 에이전트는 질문과 양식(modality)에 따라 설명 도구를 선택하고 구성하며, 실행자(Actor) 에이전트는 충실도(faithfulness)를 기준으로 엔드투엔드 최적화되어 테이블, 텍스트, 비전 양식 전반에 걸쳐 모델 동작에 기반(grounding)한 자연어 설명으로 출력을 변환합니다. 나아가, 특징 기여도(feature attribution), 반사실적 추론(counterfactual reasoning), 거짓 특징(spurious feature) 탐지를 아우르는 다양한 질문 유형을 도입하고, 각각을 섭동 기반 충실도 지표와 짝지었습니다. 연구 결과, 프론티어 대규모 언어 모델(LLM)들은 체계적으로 충실하지 못한 설명을 생성하는 것으로 나타났습니다. 양식 적응형 페널티로 강화된 충실도 보상에 대해 최적화함으로써, MEA는 6개 데이터셋 전반에서 기존 사후 설명 기법, 에이전트 기반 베이스라인, 상용 폐쇄형 베이스라인을 일관되게 능가했으며, 보상 기반 최적화를 통해 학습되지 않은 백본 대비 충실도가 테이블에서 +28%, 텍스트에서 +21%, 비전에서 +34% 향상되었습니다. 더 넓게는, 본 연구 결과는 AI 에이전트 자체가 머신러닝 설명가능성(explainability)을 위한 확장 가능하고 적응력 있는 인터페이스 역할을 할 수 있음을 시사하며, 오랫동안 이 분야를 규정해 온 고정된 단일 목적 도구를 넘어 일반화되는 자연어 설명가능성으로 향하는 길을 열어줍니다.

arXiv:2610.13724v1cs.LG공통 태그 Causal Inference, counterfactual

그래프 신경망을 활용한 상각 반사실적 예측

Amortized Counterfactual Prediction with Graph Neural Networks

반사실적 추론(counterfactual inference)은 환자가 다른 치료를 받았을 때 회복했을지와 같이, 다른 상황에서 관찰된 결과가 어떻게 달라졌을지를 묻습니다. 이러한 질문은 관찰되지 않은 대안의 결과에 의사결정이 좌우될 때마다 발생합니다. 반사실적 질의에 답하려면 일반적으로 기저 인과 구조에 대한 지식이 필요하지만, 이는 실제 환경에서는 얻기 어려운 경우가 많습니다. 따라서 일반적인 접근 방식은 관찰 데이터로부터 인과 그래프를 먼저 추정한 다음 반사실적 추론을 수행하는 것입니다. 그러나 추정된 인과 그래프의 오류는 다운스트림 반사실적 예측으로 전파될 수 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 인과 그래프를 먼저 추정하지 않고 관찰 데이터로부터 직접 반사실적 질의에 답하는 엔드투엔드 접근법인 Counterfactual Graph Neural Process(CFGNP)를 소개합니다. CFGNP는 그래프 신경망(GNN)을 활용하여 교차 세계 메시지 전달(cross-world message passing)을 대응하는 사실-반사실 변수로 제한함으로써 이중 그래프 구조를 활용합니다. 합성 데이터 및 이미지 기반 벤치마크 전반에서 CFGNP는 기존 접근 방식보다 더 강력한 예측 성능을 달성하며, German Loan 벤치마크에서는 MSE를 $4.51 \times 10^{-2}$에서 $0.19 \times 10^{-2}$로 감소시킵니다. 또한 합성 인과 그래프에서 10개 노드 그래프로만 학습된 모델은 재학습 없이도 최대 30개 노드를 가진 그래프에서 강력한 예측 성능을 유지합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.