Reconciling Heterogeneous Effects in Causal Inference
원문 초록
In this position and problem pitch paper, we offer a solution to the reference class problem in causal inference. We apply the Reconcile algorithm for model multiplicity in machine learning to reconcile heterogeneous effects in causal inference. Discrepancy between conditional average treatment effect (CATE) estimators of heterogeneous effects poses the reference class problem, where estimates for individual predictions differ by choice of reference class. By adopting the individual to group framework for interpreting probability, we can recognize that the reference class problem -- which appears across fields such as philosophy of science and causal inference -- is equivalent to the model multiplicity problem in computer science. We then apply the Reconcile Algorithm to reconcile differences in estimates of individual probability among CATE estimators. Because the reference class problem manifests in contexts of individual probability prediction using group-based evidence, our results have tangible implications for ensuring fair outcomes in high-stakes such as healthcare, insurance, and housing, especially for marginalized communities. By highlighting the importance of mitigating disparities in predictive modeling, our work invites further exploration into interdisciplinary strategies that combine technical rigor with a keen awareness of social implications. Ultimately, our findings advocate for a holistic approach to algorithmic fairness, underscoring the critical role of thoughtful, well-rounded solutions in achieving the broader goals of equity and access.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
근시 예방 및 관리 3.0: 인공지능 기반 위험 계층화, 선제적 모니터링 및 개인 맞춤형 개입
Myopia Prevention and Control 3.0: Artificial Intelligence--Driven Risk Stratification, Proactive Monitoring, and Personalized Intervention
인공지능(AI), 디지털 센싱, 유비쿼터스 컴퓨팅의 수렴은 근시 예방을 반응적이고 인구 기반 모델에서 선제적이고 정밀 지향적 모델로 전환할 전례 없는 기회를 만들었다. 2050년까지 전 세계 인구의 절반이 근시가 될 것이라는 증거에도 불구하고, 기존 접근법—학교 기반 시력 검사(1.0 단계)와 근거 기반 위험 요인 관리(2.0 단계)—는 불충분한 것으로 입증되었다. 우리는 세 가지 상호 연결된 영역에 걸친 AI 통합으로 정의되며 폐쇄 루프 파이프라인을 형성하는 근시 예방 및 관리 3.0의 등장을 검토한다: (1) 다중모달 데이터에 대한 머신러닝을 통해 개인 수준의 위험을 예측하는 AI 기반 위험 계층화; (2) 웨어러블, 스마트폰, 학교 검사 네트워크를 통한 AI 기반 선제적 모니터링; (3) 폐쇄 루프 피드백을 갖춘 AI 기반 개인 맞춤형 개입. 우리는 각 단계에 걸친 증거를 비판적으로 평가하고, 데이터 품질, 모델 검증, 윤리, 형평성의 과제를 논의하며, 다중모달 파운데이션 모델, 디지털 트윈, 인과 머신러닝을 포함한 향후 방향을 개괄한다.
OrDA: 홈페이지 마케팅 블록 추천을 위한 접근 습관 직교 분리 프레임워크
OrDA: Orthogonal Disentanglement of Access Habits Framework for Homepage Marketing Block Recommendations
홈페이지 마케팅 블록에서의 클릭은 콘텐츠 관심도와 접근 습관이라는 이중 메커니즘에 의해 발생한다. 그러나 습관적 클릭은 종종 마케팅 슬롯에서 Pseudo-Positives를 만들어내며, 위치상의 이점이 평범한 콘텐츠 품질을 가려 편향된 추천 생태계로 이어진다. 관심 신호를 정제하기 위해 Orthogonal Disentanglement of Access habits(OrDA) 프레임워크를 제안한다. OrDA는 게이트 할당 층을 갖춘 dual-tower 구조를 이용해 특징을 적응적으로 라우팅하고 간섭을 최소화한다. 엄격한 분리를 보장하기 위해 직교 정규화를 사용하여 잠재 관심 및 습관 매니폴드가 기하학적으로 직교하도록 제약한다. OrDA는 추론 중 인과적 개입(do-calculus)을 수행하여 정제된 관심 점수만으로 아이템을 순위 매긴다. 대규모 데이터셋에서의 실증적 온라인 평가는 OrDA가 접근 습관 바이어스를 효과적으로 제거하며 예측 정확도에서 최신(state-of-the-art) 방법들을 능가함을 보여준다. 온라인 AB 테스트에서 Zhima 홈페이지 마케팅 블록 및 Zhima rent-floor 추천에 대해 사용자 클릭률(UCTR)이 5.64% 개선되었다.
설명 가능한 머신러닝에서의 구성 개념 중첩 감사: 학생 코호트 간 번아웃-우울증 예측을 통한 실증 연구
Auditing Construct Overlap in Explainable Machine Learning: Evidence from Burnout-Depression Prediction Across Student Cohorts
복합 정신건강 결과에 적용된 설명 가능한 머신러닝(XML) 파이프라인은 겉으로는 강건하고 집단 간 안정적으로 보이는 위험 위계 구조를 산출할 수 있으나, 이는 대부분 결과 변수의 구성 방식에서 비롯된 인위적 산물이다. 우리는 로잔 대학교 의과대학생 886명(1차 코호트, 2022)에 ElasticNet 파이프라인을 적용하고, 세 시점에 걸친 2,580개의 종단 관측치 및 8개 학부 비의학 전공생 701명의 데이터로 검증함으로써 이를 실증한다. 세 데이터셋 모두 동일한 측정 도구를 사용한다. 이 파이프라인은 결과 변수가 측정되는 어느 상황에서든 특질 불안과 건강 만족도가 지배적인 위계를 산출하며, 모든 다섯 개 평가 세트에서 상위 두 순위에 대한 Kendall τ = 1.0을 보이고 일관된 전이 성능(R²: 0.41–0.49)을 나타낸다. 상관된 변수 간의 공유 분산을 회귀를 통해 분리하는 두 가지 잔차화(residualization) 실험을 통해 그 메커니즘이 밝혀진다. 특질 불안(STAI-T)을 함께 포함된 우울 하위척도(CES-D, r = 0.72)에 대해 잔차화하면 모델 R²가 0.41에서 0.16으로 하락하고 STAI-T의 순위는 1위에서 6위로 떨어진다. 번아웃 하위척도를 CES-D에 대해 잔차화하면 R²는 0.016으로 붕괴된다. 예측 구간은 0–100 척도에서 평균 35.4단위(결과 표준편차의 2.4배)로, 이는 개인 수준의 배포 가능성을 독립적으로 배제한다. 잔차화 프로토콜은 본 논문의 전이 가능한 기여이다. 상관된 예측 변수와 결과 구성 개념을 결합하는 모든 XAI 연구는 외견상의 안정성을 연구 결과로 해석하기 전에 이 검증을 적용해야 한다.
불공정한 평가자의 내부: LLM-as-Judge 바이어스에 대한 기계론적 해석 가능성 분석
Inside the Unfair Judge: A Mechanistic Interpretability Account of LLM-as-Judge Bias
LLM-as-judge 점수 바이어스에 대한 기존 연구들은 주로 입력-출력 수준에서 이루어진다: 입력을 교란하고, 점수 변화를 측정하며, 프롬프트 수준의 완화 방법을 제안한다. 우리는 동일한 바이어스가 평가자의 은닉 상태에서 표현 수준의 설명을 허용하며, 이는 입력-출력 관점을 보완하고 그것이 제공하지 못하는 방식으로 운용상 유용하다고 주장한다. 우리는 7개의 평가자, 7가지 바이어스 유형, 9개의 벤치마크에 걸쳐 세 가지 발견을 보고한다. 기하학적 구조: 기준선 판단 입력은 조밀한 활성화 다양체(activation manifold)를 차지하는 반면, 바이어스가 있는 입력은 저차원의 유형 특화 부분공간(subspace)을 따라 변위되며, 이는 깊이에 따라 더욱 뚜렷해지고 세 가지 추정기 계열에 의해 일관되게 복원된다. 인과적 제어: 이 부분공간을 따라 은닉 상태를 조종하면 양방향으로 점수가 구동되는데, 순방향 이동은 깨끗한 입력에서 바이어스된 점수를 재현하고 역방향 이동은 바이어스된 입력에서 기준선 점수를 복원하는 반면, 노름(norm)이 일치하는 임의 방향들은 한 자릿수 더 작은 이동을 생성한다. 운용: 동일한 바이어스 방향 특징들에 대한 단순 선형 투영은 완전히 보지 못한 세 개의 벤치마크에서 평가자 실패를 예측하며, 텍스트 기반 대안들을 크게 능가한다. 바이어스를 입력-출력 노이즈가 아닌 활성화 기하학(activation geometry)으로 읽는 것은 기하학적 구조, 인과적 제어, 운용 예측을 단일 프레임워크 내에서 통합한다. 프로젝트 페이지는 https://xzx34.github.io/unfair-judge/ 에서 확인할 수 있다.
삭제가 아닌 은닉: 네트워크가 얽힌 특징을 억제하는 방식
Hidden not Deleted: How Networks Suppress Entangled Features
신경망이 어떤 특징을 더 이상 보고하지 않을 때, 그 특징을 잊은 것인가 아니면 단지 숨긴 것인가? 공유 표현은 이 질문에 대한 답을 복잡하게 만든다. 한 특징의 방향을 제거하면 다른 특징도 손상될 수 있기 때문이다. 우리는 입력을 압축하고 복원하는 소규모 오토인코더에서 이 문제를 연구하며, 이를 통해 개별 특징의 기여를 직접 추적할 수 있다. 표현을 고정한 상태에서 단일 편향을 복원하면 출력의 활성화 임계값 뒤에 숨겨진 신호가 드러나면서 대상 검출이 부분적으로 회복된다. 대상이 없는 입력에 대한 테스트는 이러한 회복을 단순히 출력을 증가시키는 개입과 구별한다. 표현이 변할 수 있도록 허용하면 동일한 편향 개입은 효과가 떨어진다. 우리는 대상 자체의 출력에 대한 손실이 없더라도 다른 출력만 학습시키면 대상의 기여가 약해질 수 있음을 발견하였다. 조건부 이론적 분석은 유지되는 예측과의 간섭이 어떻게 이러한 압력을 만드는지를 설명한다. 그러나 더 유연한 예측기는 여전히 잔여 대상 정보를 검출한다. 이러한 결과는 회복이 특징 기하와 어떤 파라미터가 학습되는지에 따라 달라짐을 보여주며, 침묵하는 출력만으로는 망각의 충분한 증거가 되지 못하는 이유를 설명한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.