arXiv:2307.12625

De-confounding Representation Learning for Counterfactual Inference on Continuous Treatment via Generative Adversarial Network

Yonghe Zhao, Qiang Huang, Haolong Zeng, Yun Pen, Huiyan Sun

제출 2023-07-24

원문 초록

Counterfactual inference for continuous rather than binary treatment variables is more common in real-world causal inference tasks. While there are already some sample reweighting methods based on Marginal Structural Model for eliminating the confounding bias, they generally focus on removing the treatment's linear dependence on confounders and rely on the accuracy of the assumed parametric models, which are usually unverifiable. In this paper, we propose a de-confounding representation learning (DRL) framework for counterfactual outcome estimation of continuous treatment by generating the representations of covariates disentangled with the treatment variables. The DRL is a non-parametric model that eliminates both linear and nonlinear dependence between treatment and covariates. Specifically, we train the correlations between the de-confounded representations and the treatment variables against the correlations between the covariate representations and the treatment variables to eliminate confounding bias. Further, a counterfactual inference network is embedded into the framework to make the learned representations serve both de-confounding and trusted inference. Extensive experiments on synthetic datasets show that the DRL model performs superiorly in learning de-confounding representations and outperforms state-of-the-art counterfactual inference models for continuous treatment variables. In addition, we apply the DRL model to a real-world medical dataset MIMIC and demonstrate a detailed causal relationship between red cell width distribution and mortality.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27593v2cs.LG공통 태그 Causal Inference, Representation Learning

삭제가 아닌 은닉: 네트워크가 얽힌 특징을 억제하는 방식

Hidden not Deleted: How Networks Suppress Entangled Features

신경망이 어떤 특징을 더 이상 보고하지 않을 때, 그 특징을 잊은 것인가 아니면 단지 숨긴 것인가? 공유 표현은 이 질문에 대한 답을 복잡하게 만든다. 한 특징의 방향을 제거하면 다른 특징도 손상될 수 있기 때문이다. 우리는 입력을 압축하고 복원하는 소규모 오토인코더에서 이 문제를 연구하며, 이를 통해 개별 특징의 기여를 직접 추적할 수 있다. 표현을 고정한 상태에서 단일 편향을 복원하면 출력의 활성화 임계값 뒤에 숨겨진 신호가 드러나면서 대상 검출이 부분적으로 회복된다. 대상이 없는 입력에 대한 테스트는 이러한 회복을 단순히 출력을 증가시키는 개입과 구별한다. 표현이 변할 수 있도록 허용하면 동일한 편향 개입은 효과가 떨어진다. 우리는 대상 자체의 출력에 대한 손실이 없더라도 다른 출력만 학습시키면 대상의 기여가 약해질 수 있음을 발견하였다. 조건부 이론적 분석은 유지되는 예측과의 간섭이 어떻게 이러한 압력을 만드는지를 설명한다. 그러나 더 유연한 예측기는 여전히 잔여 대상 정보를 검출한다. 이러한 결과는 회복이 특징 기하와 어떤 파라미터가 학습되는지에 따라 달라짐을 보여주며, 침묵하는 출력만으로는 망각의 충분한 증거가 되지 못하는 이유를 설명한다.

arXiv:2610.13724v1cs.LG공통 태그 Causal Inference, counterfactual

그래프 신경망을 활용한 상각 반사실적 예측

Amortized Counterfactual Prediction with Graph Neural Networks

반사실적 추론(counterfactual inference)은 환자가 다른 치료를 받았을 때 회복했을지와 같이, 다른 상황에서 관찰된 결과가 어떻게 달라졌을지를 묻습니다. 이러한 질문은 관찰되지 않은 대안의 결과에 의사결정이 좌우될 때마다 발생합니다. 반사실적 질의에 답하려면 일반적으로 기저 인과 구조에 대한 지식이 필요하지만, 이는 실제 환경에서는 얻기 어려운 경우가 많습니다. 따라서 일반적인 접근 방식은 관찰 데이터로부터 인과 그래프를 먼저 추정한 다음 반사실적 추론을 수행하는 것입니다. 그러나 추정된 인과 그래프의 오류는 다운스트림 반사실적 예측으로 전파될 수 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 인과 그래프를 먼저 추정하지 않고 관찰 데이터로부터 직접 반사실적 질의에 답하는 엔드투엔드 접근법인 Counterfactual Graph Neural Process(CFGNP)를 소개합니다. CFGNP는 그래프 신경망(GNN)을 활용하여 교차 세계 메시지 전달(cross-world message passing)을 대응하는 사실-반사실 변수로 제한함으로써 이중 그래프 구조를 활용합니다. 합성 데이터 및 이미지 기반 벤치마크 전반에서 CFGNP는 기존 접근 방식보다 더 강력한 예측 성능을 달성하며, German Loan 벤치마크에서는 MSE를 $4.51 \times 10^{-2}$에서 $0.19 \times 10^{-2}$로 감소시킵니다. 또한 합성 인과 그래프에서 10개 노드 그래프로만 학습된 모델은 재학습 없이도 최대 30개 노드를 가진 그래프에서 강력한 예측 성능을 유지합니다.

arXiv:2609.30995v2cs.LG공통 태그 Causal Inference, Representation Learning

기후 모델에서 강제력이 기온에 미치는 영향에 대한 계층적 인과 표상 학습

Learning Hierarchical Causal Representations of the Effects of Forcings on Temperature in Climate Models

머신러닝(ML) 에뮬레이터는 지구 시스템 모델(Earth System Models) 예측을 기반으로 학습(training)된 후 기후 변화 시나리오를 시뮬레이션할 수 있는 빠르고 비용 효율적인 방법을 제공합니다. 그러나 이러한 데이터 주도적 접근 방식의 블랙박스 특성은 출력값의 사용성과 신뢰성을 제한하며, 특히 인과적 귀인(causal attribution) 도구로서의 활용을 제한합니다. 본 연구에서는 최첨단 전지구 기후 모델의 해수면 온도 장에 적용되는 계층적 인과 표상 학습(hierarchical causal representation learning) 프레임워크를 개발합니다. 이전 연구 대비 주요 진보로서, 본 프레임워크는 내부 기후 변동성에서 발생하는 대기 역학적 상호작용과 대기 중 온실가스 및 에어로졸 농도 변화로 인한 강제 반응(forced responses)을 모두 명시적으로 모델링합니다. 미래 기후 변화 시나리오로 학습했을 때, 본 방법은 장기 전지구 평균 및 지역 기온 변화를 정확하게 예측하며, 미확인 시나리오에 대해 평가(evaluation)했을 때 온실가스 및 에어로졸 농도 섭동에 대해 물리적으로 현실적인 반응을 보여줍니다. 본 연구 결과는 기후 모델 에뮬레이션을 발전시키는 데 있어 인과 표상 학습 프레임워크의 잠재력을 강조합니다.

arXiv:2610.02252v1cs.LG공통 태그 Causal Inference, counterfactual

통제된 실험 없이 과학적 에뮬레이터에서 반사실적 예측하기

Counterfactual Predictions in Scientific Emulators Without Controlled Experiments

많은 과학적 질문은 한 번도 관측되지 않은 것에 대한 추론을 요구한다: 조건, 개입, 혹은 역사가 달랐다면 어땠을까? 모델은 관측된 데이터에서는 정확하게 예측할 수 있지만, 상관된 입력들을 독립적으로 변화시키는 이러한 가정적(what-if) 질의에서는 실패할 수 있다. 일반적인 해결책은 이러한 요인들이 명시적으로 분리된 통제된 시뮬레이션 데이터를 추가하는 것이지만, 이는 시뮬레이터에 대한 접근을 필요로 하고, 계산 비용이 높을 수 있으며, 시뮬레이터의 모델링 가정을 그대로 물려받는다. 우리는 ReRoute를 소개한다. 이는 사실적(factual) 데이터와 부분적인 메커니즘 지식을 결합하여 목표로 하는 과학적 가정 예측을 수행하는 프레임워크로, 적응을 위한 통제된 개입(intervention) 데이터를 필요로 하지 않는다. ReRoute는 사전학습된 백본(backbone)의 질의 대상 입력을 기준값(reference value)으로 고정한 뒤, 알려진 메커니즘 경로(mechanistic pathway)를 통해 그 변동을 다시 도입하고, 원본 사실적 데이터로 파인튜닝을 수행하며, 하류(downstream) 효과는 학습된 동역학(dynamics)에 맡긴다. 우리는 명시적인 구조적 가정 하에서 이러한 구성에 대한 인과적 식별(causal identification) 결과를 제시하며, 핵심 논증은 Lean을 이용해 기계적으로 검증되었다. 정확한 응답을 얻을 수 있는 통제된 이송-확산(advection-diffusion) 시스템에서 ReRoute가 매우 정확한 반사실적 예측을 달성함을 보인 뒤, 우리는 최신(state-of-the-art) 기후 에뮬레이션(climate emulation)으로 눈을 돌린다. 홀드아웃(held-out)된 결합 기후(coupled-climate) 개입에 대해, ReRoute는 심각한 CO$_2$ 분포 변화(distribution shift) 하에서 전체 기후 오차를 18.2-31.8% 감소시키는 동시에 표준 조건에서의 성능(skill)은 그대로 유지하며, 이러한 데이터를 생성하는 데 드는 상당한 비용을 고려하지 않더라도 추가적인 통제된 시뮬레이션으로 재학습하는 비용의 일부에 불과한 비용으로 이를 달성한다. 마지막으로, 반사실적 기준(reference)이 존재하지 않는 과거 ERA5 재분석(reanalysis) 데이터로 학습된 에뮬레이터에서, ReRoute는 고정 CO$_2$ 반사실적 조건(fixed-CO$_2$ counterfactual) 하에서 관측된 경계 조건(boundary conditions)이 시사하는 지표면 온난화(surface warming)를 상당히 더 많이 보존한다.

arXiv:2610.02347v1cs.LG공통 태그 Causal Inference, counterfactual

행동에서 기원까지: 정형 파운데이션 모델을 합성 사전학습 데이터로 귀속하기

From Behavior to Provenance: Attributing Tabular Foundation Models to Synthetic Pretraining Data

학습 데이터 기여도 분석(training-data attribution)은 어떤 학습 예제가 모델의 행동을 형성하는지 식별하는 것을 목표로 하지만, 인과적 학습 영향력을 관찰하기 어렵기 때문에 이러한 주장을 검증하기는 어렵습니다. 본 논문에서는 통제된 합성 사전학습(pre-training)을 통해 기여도 분석을 실험적으로 검증 가능하게 만들 수 있다고 주장합니다. 정형 파운데이션 모델(tabular foundation model)을 위한 풍부한 기원(provenance) 정보를 담은 합성 태스크 생성기인 O'PRIOR를 활용하여, 모든 사전학습 태스크가 구조적 메커니즘, 결측성, 교란, 지름길(shortcut), 분포 변화에 대한 명시적인 계통(lineage)을 갖는 테스트베드를 구축합니다. 우리는 태스크 수준의 충실도와 메커니즘 수준의 일관성을 모두 검증하기 위해 행동 조건부 기여도 분석을 반사실적 재학습 및 기원 인지 개입과 결합합니다. 홀드아웃된 실제 태스크에서 기여도 상위 5%의 합성 태스크를 제거하면 평균 ROC-AUC가 0.013 감소하여 무작위 제거 시의 0.002$\pm$0.004와 대조를 이룬 반면, 기여도 하위 태스크를 제거하면 성능이 0.003 향상됩니다. 지름길 기원 태스크 내에서 목표 제거를 수행하면 일치된 무작위 제거의 0.016 대비 0.043의 효과를 보입니다. 상당한 상위 k개 농축에도 불구하고 랭킹 AUROC 기준 기원 판별력은 다소 완만한 수준(0.55-0.62)으로 나타나, 기원 연관성과 개입적 충실도가 반드시 일치하지는 않음을 보여줍니다. 이러한 결과는 합성 기원이 검증 가능한 기여 귀속을 위한 통제된 환경임을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.