arXiv:2606.24348v1 cs.CE

의사결정 지원을 위한 본질적으로 해석 가능한 인과적 머신러닝 모델을 향한 한 걸음

A Step Towards Inherently Interpretable Causal Machine Learning Models For Decision Support

David Zapata Gonzalez

제출 2026-06-23

한국어 초록

다양한 분야에서 의사결정에 대한 머신러닝 의존도가 높아짐에 따라 모델 투명성과 해석 가능성의 중요성이 부각되고 있다. 기존의 사후(post hoc) 설명 가능성 방법과 본질적으로 해석 가능한 접근법은 모델 동작에 대한 통찰을 제공하지만, 이들은 주로 예측 태스크에서 성능을 극대화하기 위해 모델이 상관관계를 어떻게 활용하는지를 드러내는 데 그친다. 그러나 많은 의사결정 상황에서는 인과적 통찰과 가상 시나리오(what-if) 평가를 위한 모델 활용 가능성이 요구된다. 이를 해결하기 위해, 우리는 횡단면 데이터(cross-sectional data)에 대해 인과적 머신러닝과 본질적으로 해석 가능한 모델을 통합하는 방법을 제안한다. 우리는 이러한 방법들을 예측 정확도와 해석 가능성 측면에서 평가한다. 연구 결과, 제안된 접근법은 예측 및 가상 시나리오 분석에서 경쟁력 있는 성능을 달성하는 동시에, 시스템 구조, 변수 간 인과 관계, 그리고 이를 연결하는 함수적 형태에 대한 투명성을 제공하는 것으로 나타났다. 본 연구는 인과성, 머신러닝 해석 가능성, 데이터 기반 의사결정 지원 분야의 연구에 기여하며, 정보에 기반하고 투명하며 인과적으로 근거 있는 의사결정을 제시한다.

원문 초록

The growing reliance on machine learning for decisions across sectors underscores the importance of model transparency and interpretability. Existing post hoc explainability methods and inherently interpretable approaches shed light on model behavior, yet they primarily reveal how models exploit correlations to maximize performance in prediction tasks. However, many decisions require causal insights and the possibility of using models for what-if scenario evaluation. To address this, we propose the integration of causal machine learning with inherently interpretable models for cross-sectional data. We evaluate these methods in terms of predictive accuracy and interpretability. Our findings show that the proposed approach achieves competitive performance in prediction and what-if analysis while offering transparency on the system structure, causal relationships among variables, and the functional forms that connect them. This work contributes to research on causality, machine learning interpretability, and data-driven decision support by offering informed, transparent, and causally grounded decisions.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.24348v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27180v1stat.ML공통 태그 Causal Inference, Prediction, counterfactual

치료 전후 데이터를 이용한 치료 효과 추정을 위한 인공지능 대리(surrogate)

Artificial intelligence surrogates for treatment effect estimation with before-and-after data

임상적으로 중요한 결과를 측정하는 데 비용이 많이 들거나 장기 추적관찰이 필요한 경우, 의학적 치료의 인과 효과를 추정하기는 어렵다. 단기적이거나 비용이 적은 대리(surrogate) 결과는 잠재적 대안을 제공하지만, 대리 바이오마커는 이용할 수 없거나 식별하기 어려울 수 있다. 인공지능(AI)의 발전은 값싸고 고차원인 측정값으로부터 임상 결과를 점점 더 정확하게 예측할 수 있게 했으며, 이는 AI 예측 자체를 대리 변수로 사용할 기회를 만든다. 이를 위해 우리는 각 치료 받은 개인에 대해 치료 전후에 얻은 쌍체 측정값으로부터 치료 효과를 추정하는 프레임워크를 개발한다. 사전학습된 AI 모델을 치료 전후 측정값에 적용하고, 우리의 추정량은 그로부터 얻은 결과 예측을 비교한다. 우리는 이러한 개인 내(within-person) 대비가 어떤 기술적 가정 하에서 처치 받은 집단에 대한 평균 처치 효과를 식별하는지를 특성화하며, 치료 받은 개인에 대해 임상 결과가 전혀 관측되지 않는 경우에도 해당한다. 이러한 가정을 정당화할 수 없을 때, 우리는 소수의 관측된 임상 결과를 사용해 바이어스를 보정하는 예측 기반 추론(prediction-powered inference)을 사용하고 유효한 추론을 얻는다. 합성 및 실제 심장-종양(cardio-oncology) 실험은 이 접근법의 타당성과 정확성을 보여준다.

arXiv:2609.27144v2cs.LG공통 태그 Causal Inference, Prediction

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2610.13724v1cs.LG공통 태그 Causal Inference, counterfactual

그래프 신경망을 활용한 상각 반사실적 예측

Amortized Counterfactual Prediction with Graph Neural Networks

반사실적 추론(counterfactual inference)은 환자가 다른 치료를 받았을 때 회복했을지와 같이, 다른 상황에서 관찰된 결과가 어떻게 달라졌을지를 묻습니다. 이러한 질문은 관찰되지 않은 대안의 결과에 의사결정이 좌우될 때마다 발생합니다. 반사실적 질의에 답하려면 일반적으로 기저 인과 구조에 대한 지식이 필요하지만, 이는 실제 환경에서는 얻기 어려운 경우가 많습니다. 따라서 일반적인 접근 방식은 관찰 데이터로부터 인과 그래프를 먼저 추정한 다음 반사실적 추론을 수행하는 것입니다. 그러나 추정된 인과 그래프의 오류는 다운스트림 반사실적 예측으로 전파될 수 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 인과 그래프를 먼저 추정하지 않고 관찰 데이터로부터 직접 반사실적 질의에 답하는 엔드투엔드 접근법인 Counterfactual Graph Neural Process(CFGNP)를 소개합니다. CFGNP는 그래프 신경망(GNN)을 활용하여 교차 세계 메시지 전달(cross-world message passing)을 대응하는 사실-반사실 변수로 제한함으로써 이중 그래프 구조를 활용합니다. 합성 데이터 및 이미지 기반 벤치마크 전반에서 CFGNP는 기존 접근 방식보다 더 강력한 예측 성능을 달성하며, German Loan 벤치마크에서는 MSE를 $4.51 \times 10^{-2}$에서 $0.19 \times 10^{-2}$로 감소시킵니다. 또한 합성 인과 그래프에서 10개 노드 그래프로만 학습된 모델은 재학습 없이도 최대 30개 노드를 가진 그래프에서 강력한 예측 성능을 유지합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.