Variational Counterfactual Prediction under Runtime Domain Corruption
원문 초록
To date, various neural methods have been proposed for causal effect estimation based on observational data, where a default assumption is the same distribution and availability of variables at both training and inference (i.e., runtime) stages. However, distribution shift (i.e., domain shift) could happen during runtime, and bigger challenges arise from the impaired accessibility of variables. This is commonly caused by increasing privacy and ethical concerns, which can make arbitrary variables unavailable in the entire runtime data and imputation impractical. We term the co-occurrence of domain shift and inaccessible variables runtime domain corruption, which seriously impairs the generalizability of a trained counterfactual predictor. To counter runtime domain corruption, we subsume counterfactual prediction under the notion of domain adaptation. Specifically, we upper-bound the error w.r.t. the target domain (i.e., runtime covariates) by the sum of source domain error and inter-domain distribution distance. In addition, we build an adversarially unified variational causal effect model, named VEGAN, with a novel two-stage adversarial domain adaptation scheme to reduce the latent distribution disparity between treated and control groups first, and between training and runtime variables afterwards. We demonstrate that VEGAN outperforms other state-of-the-art baselines on individual-level treatment effect estimation in the presence of runtime domain corruption on benchmark datasets.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
치료 전후 데이터를 이용한 치료 효과 추정을 위한 인공지능 대리(surrogate)
Artificial intelligence surrogates for treatment effect estimation with before-and-after data
임상적으로 중요한 결과를 측정하는 데 비용이 많이 들거나 장기 추적관찰이 필요한 경우, 의학적 치료의 인과 효과를 추정하기는 어렵다. 단기적이거나 비용이 적은 대리(surrogate) 결과는 잠재적 대안을 제공하지만, 대리 바이오마커는 이용할 수 없거나 식별하기 어려울 수 있다. 인공지능(AI)의 발전은 값싸고 고차원인 측정값으로부터 임상 결과를 점점 더 정확하게 예측할 수 있게 했으며, 이는 AI 예측 자체를 대리 변수로 사용할 기회를 만든다. 이를 위해 우리는 각 치료 받은 개인에 대해 치료 전후에 얻은 쌍체 측정값으로부터 치료 효과를 추정하는 프레임워크를 개발한다. 사전학습된 AI 모델을 치료 전후 측정값에 적용하고, 우리의 추정량은 그로부터 얻은 결과 예측을 비교한다. 우리는 이러한 개인 내(within-person) 대비가 어떤 기술적 가정 하에서 처치 받은 집단에 대한 평균 처치 효과를 식별하는지를 특성화하며, 치료 받은 개인에 대해 임상 결과가 전혀 관측되지 않는 경우에도 해당한다. 이러한 가정을 정당화할 수 없을 때, 우리는 소수의 관측된 임상 결과를 사용해 바이어스를 보정하는 예측 기반 추론(prediction-powered inference)을 사용하고 유효한 추론을 얻는다. 합성 및 실제 심장-종양(cardio-oncology) 실험은 이 접근법의 타당성과 정확성을 보여준다.
조건부 텐서 확산: 분포적 반사실 학습 및 추론
Conditional Tensor Diffusion: Distributional Counterfactual Learning and Inference
인과 추론은 운영 및 관리 의사결정을 이끌지만, 고차원 패널 또는 텐서 설정에서는 여전히 어렵고, 이때 의사결정은 누락된 통제(control) 결과의 결합 조건부 분포에 의존할 수 있다. 본 연구는 처리(treatment) 마스크와 잠재 Tucker 구조를 조건부 확산에 통합하여, 관측된 통제 결과가 주어졌을 때 저차원 코어에서의 효율적인 비선형 score 학습을 통해 이 분포를 복구하는 Counterfactual Tucker Diffusion(CFTDiff)를 제안한다. 마스킹된 Tucker score는 텐서 모드 간 의존성을 유지하면서, 비선형 score 학습의 차원을 모드 차원의 곱에서 Tucker rank의 곱이라는 훨씬 작은 규모로 줄인다. Tucker rank, 최대 모드 차원, 요인 강도(factor-strength)로 조정된 누락 결과 수에 의존하는 조건부 score 추정의 고확률(high-probability) 오차 상계를 확립하고, 이 상계가 누락된 통제 결과의 조건부 분포 복구 보장으로 어떻게 이어지는지 보인다. 다양한 누락률에서의 시뮬레이션은 일반적인 인과 패널 및 행렬/텐서 completion 방법보다 더 정확한 점(point) 복구를 보여 주며, 중첩 확산 명세와의 비교는 마스킹 조건화와 Tucker 차원 축소의 이득을 추가로 뒷받침한다. 노르웨이 iFlex 실험에서 CFTDiff는 경쟁 방법보다 누락 결과를 더 정확하게 복구한다. 인과 분석에 적용하면 추정된 조건부 분포로부터 반사실(counterfactual) 예측 구간과 목표 달성 확률을 얻을 수 있어, 가격 개입을 수요 감소 규모와 신뢰성(reliability) 측면에서 평가할 수 있다.
파운데이션 이미지 모델 특화를 통한 흉부 X-ray 반사실적 생성
Generating Chest X-Ray Counterfactuals by Specialising Foundation Image Models
반사실적(counterfactual) 이미지 생성은 소급적·가상적 시나리오에서 대상이 어떻게 보였을지에 대한 질문에 답한다. 최근 방법들은知覚 품질, 정체성 보존, 근본 인과 모델에 대한 충실도를 개선했지만, 주석 데이터 부족, 데이터셋 간 분포 이동(distribution shift), 사전학습된 생성 모델과 반사실적 추론(inference)에 필요한 모델 간 불일치로 인해 의료 분야에서의 채택이 제한된다. 우리는 분포 이동 하에서 사전학습된 비인과 생성 모델을 인과 메커니즘으로 적응시키는 데이터 및 매개변수 효율적 프레임워크인 특화(specialisation)를 제안한다. 이 프레임워크에 기반하여 잠재 flow matching을 사용해 RadCF라는 방사선학 반사실적 이미지 생성 모델을 학습한다. 서로 다른 데이터셋 이동, 데이터 규모, 반사실적 질문을 아우르는 세 개의 흉부 X-ray 데이터셋에서 접근법을 검증했으며, 이는 도전적이고 고도로 국소화된 개입과 연관된다. 결과는 RadCF와 특화가 데이터 및 매개변수 효율적이면서 기존 방법 대비 반사실적 타당성을 개선하고, 생성된 반사실적이 다운스트림 의료 분류기에서 shortcut learning을 탐지·완화할 수 있음을 보여준다. 코드는 https://github.com/GSK-AI/RadCF/ 에서 이용 가능하다.
문맥적 밴딧을 위한 교차 도메인 오프-정책 평가 및 학습
Cross-Domain Off-Policy Evaluation and Learning for Contextual Bandits
문맥적 밴딧에서 오프-정책 평가 및 학습(OPE/L)은 과거에 기록된 로그 데이터만으로 새로운 정책을 안전하게 평가하고 학습할 수 있기 때문에 실제 시스템에서 빠르게 주목받고 있다. 그러나 OPE/L의 기존 방법들은 퓨샷(few-shot) 데이터, 결정론적 로깅 정책, 새로운 행동(action)과 같이 도전적이지만 널리 존재하는 많은 시나리오를 다룰 수 없다. 맞춤형 의료, 콘텐츠 추천, 교육, 광고 등 많은 응용 분야에서는 이러한 과제가 있는 상황에서 새로운 정책을 평가하고 학습해야 한다. 기존 방법들은 로그 데이터의 잘 알려진 분산 문제나 제한된 탐험(exploration) 때문에 이러한 상황에서 효과적으로 평가하고 최적화할 수 없다. 이러한 미해결 과제 하에서도 OPE/L을 가능하게 하기 위해, 새로운 정책이 구현될 대상(target) 도메인의 로그 데이터뿐만 아니라 다른 도메인에서 수집된 로그 데이터셋에도 접근할 수 있는 교차 도메인 OPE/L이라는 새로운 문제 설정을 제안한다. 이 새로운 공식화는 대상 병원, 국가, 기기, 사용자 세그먼트뿐만 아니라 다른 병원, 국가, 기기, 세그먼트의 과거 데이터도 활용할 수 있기 때문에 널리 적용 가능하다. 우리는 대상 및 소스(source) 데이터셋을 모두 활용하여 OPE/L을 해결하는 새로운 추정량(estimator)과 정책 그래디언트(policy gradient) 방법을 개발했으며, 실험 평가에서 이전에 해결되지 않았던 상황에서 OPE/L 성능이 실질적으로 향상되었다.
Counterfactual Explanations for Survival Prediction of Cardiovascular ICU Patients
ODDR: 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델
ODDR: One-Step Deshadow Diffusion via Reward Guidance
그림자 제거를 위한 심층 학습(deep learning)의 최근 발전은 이미지 품질과 사실성을 크게 향상시켰습니다. 그러나 대부분의 접근 방식은 수집 비용이 많이 들고 장면 다양성이 제한적인 경우가 많은 실제 쌍(paired) 데이터셋에 의존하므로 일반화 성능이 제한됩니다. 이러한 한계를 해결하기 위해, 우리는 실제 쌍으로 구성된 지도학습(supervision)에 의존하지 않고도 효율적이고 충실도 높은 그림자 제거를 달성하는 새로운 프레임워크인 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델(One-step Deshadow Diffusion via Reward guidance, ODDR)을 제안합니다. 본 연구의 방법은 효율적인 단일 단계 무그림자 재구성을 위해 합성 그림자 데이터로 학습된 기준선(baseline) 모델인 One-step Deshadow Diffusion(ODD)에서 시작합니다. 나아가 우리는 ShadowReward를 사용하여 ODD를 ODDR로 발전시킵니다. 주석(annotation) 작업이 많이 필요한 기존 방식과 달리, ShadowReward는 인간의 주석 없이 전적으로 학습된 그림자 제거용 최초의 보상 모델(reward model)입니다. 이는 질감 왜곡 및 경계 아티팩트와 같이 통제된 품질 저하가 적용된 합성 생성 이미지를 순위화하여 인간의 지각적 판단을 모방하도록 학습합니다. 이러한 보상 기반 미세조정(fine-tuning)을 통해 ODDR은 합성-실제 간 도메인 간극을 좁힐 수 있습니다. 광범위한 실험을 통해 ODD는 실제 쌍 지도학습에 의존하지 않고도 강력한 성능을 달성하며, ODDR은 결과를 더욱 향상시켜 단일 단계 모델로서 더 높은 연산 효율성을 유지하면서도 실제 쌍 데이터로 학습된 완전 지도학습 방식과의 격차를 좁힘을 보여줍니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.