arXiv:1911.02029

Selective machine learning of doubly robust functionals

Yifan Cui, Eric Tchetgen Tchetgen

제출 2019-11-05

원문 초록

While model selection is a well-studied topic in parametric and nonparametric regression or density estimation, selection of possibly high-dimensional nuisance parameters in semiparametric problems is far less developed. In this paper, we propose a selective machine learning framework for making inferences about a finite-dimensional functional defined on a semiparametric model, when the latter admits a doubly robust estimating function and several candidate machine learning algorithms are available for estimating the nuisance parameters. We introduce a new selection criterion aimed at bias reduction in estimating the functional of interest based on a novel definition of pseudo-risk inspired by the double robustness property. Intuitively, the proposed criterion selects a pair of learners with the smallest pseudo-risk, so that the estimated functional is least sensitive to perturbations of a nuisance parameter. We establish an oracle property for a multi-fold cross-validation version of the new selection criterion which states that our empirical criterion performs nearly as well as an oracle with a priori knowledge of the pseudo-risk for each pair of candidate learners. Finally, we apply the approach to model selection of a semiparametric estimator of average treatment effect given an ensemble of candidate machine learners to account for confounding in an observational study which we illustrate in simulations and a data application.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02808v1cs.AI공통 태그 Causal Inference, Model Selection

ROUTEAUDIT: 예산 제약 다중 검증기 라우팅을 위한 상호작용 인지 식별

ROUTEAUDIT: Interaction-Aware Identification for Budgeted Multi-Verifier Routing

적응형 다중 검증기(multi-verifier) 시스템은 검증기 카탈로그, 가용성, 정산, 정보 여과(filtration) 또는 점수 산정기가 정책에 따라 변경되더라도 일반적으로 엔드포인트 품질-비용 격차를 통해 비교됩니다. 본 연구에서는 검증기 라우팅을 계약 조건부 식별 문제로 정형화합니다. 해당 계약은 요청 지원, 검증기 카탈로그, 실현된 가용성, 자원 정산, 온라인 여과, 추적 후 점수 산정을 기록하며, 매칭된 경로 대비는 정책 좌표만을 변경합니다. ROUTEAUDIT은 이 계약에 세 가지 측정 가능한 객체를 추가합니다. 계약 격자(contract lattice)는 모든 허용 가능한 브리지 순서에 대해 좌표 증분을 평균화하고 결과 기여도와 경로 민감도를 함께 보고합니다. 정책 독립적 응답 테이프는 적응형 정책이 서로 다른 관측치를 드러낼 때 쌍체 순차 대비를 식별합니다. 불완전 매칭의 경우, 요청 수준 경계는 관측된 상태로 남아 있는 잠재적 결과를 활용하여 엄밀한 유한 모집단 구간을 제공합니다. 이 프로토콜은 오라클 조인 전에 유료 관측치와 원장 이벤트를 커밋하고 각 비교에 대한 기여도 인증서를 반환합니다. 보류된 두 개의 원시-꼬리(raw-tail) 캐시에서 매칭된 정적 SF+SA는 캐스케이드와 동일하며, 전체 정적 대비 0.1797 및 0.1250의 외견상 이득을 검증기 세트 에지에 귀속시킵니다. 1,319개의 보류된 작업 요청에 대해, 학습 기반 및 RLVR 연구는 매칭된 정적의 0.9484 대비 각각 0.9522 및 0.9553의 품질을 보고합니다. RLVR-정적 쌍체 차이는 +0.0068이며 요청 쌍체 구간은 $[0.0015, 0.0122]$, 요청별 학습 시드 계층적 구간은 $[0.0006, 0.0131]$입니다. 통제된 기여도 복원은 경로 평균 절대 오차 0.0011 및 엔드포인트 재구성 오차 0.0004를 산출합니다. 요인, 브리지 순서 및 확률적 제공자 연구를 통해 인증서 인터페이스를 평가하며, RLVR은 동일한 식별 계약 하에서 학습된 정책 스트레스 테스트를 제공합니다.

arXiv:2609.27256v1stat.ME공통 태그 Causal Inference, Model Selection

조건부 공분산 순서화를 통한 함수적 인과 발견

Functional Causal Discovery via Conditional Covariance Ordering

본 연구는 각 노드가 확률 함수인 설정에서의 인과 발견을 다룬다. 이 주제에 대한 기존 연구는 선형성 또는 비선형성과 같은 구조적 가정, 가우스성 또는 비가우스성과 같은 분포 가정에 의존한다. 이와 달리 우리는 이러한 가정을 피하기 위해 공분산 연산자(covariance operator)를 활용한다. 함수적 가산 노이즈 모델(functional additive noise model) 하에서, 조건부 공분산 연산자의 노름(norm)을 비교하는 것에 기반하여 유효한 위상 순서(topological ordering)를 식별하기 위한 새로운 충분 조건을 제안한다. 이 식별 가능성(identifiability) 조건을 활용하여, 선형 및 비선형 모델을 포괄하는 새로운 혼합 회귀 모델을 개발한다. 변수 선택과 함께, 우리의 절차는 함수 변수(functional variable)에 대한 인과 방향성 비순환 그래프(DAG)의 추정을 산출한다. 이론적으로, 이 회귀 모델에 대한 최소자승(least-squares) 유형 이론을 개발하고, 순서 결정(order determination), 희소 회귀(sparse regression), DAG 식별에 대한 점근적 일치성(asymptotic consistency)을 도출한다. 이산 관측(discrete observation)에 기반한 계산 알고리즘을 제공한다. 시뮬레이션 데이터에 적용했을 때, 우리의 접근법은 기존 방법들 가운데 만족스러운 성능을 보인다. 뇌 유효 연결성(brain effective connectivity)에 대한 실제 데이터 예제도 제시한다.

arXiv:2607.21914v1stat.ME공통 태그 Causal Inference, Density Estimation

인과 추론을 위한 개입 점수 기하학

Interventional Score Geometry for Causal Inference

$X$의 결합 밀도 $p(x)$를 두고, $ψ(x)=\nabla_x\log p(x)$를 그 점수 필드(score field)라 하자. $p$와 $ψ$만으로 구성된 기하학은 인과 방향을 식별할 수 없다. 동일한 관측 분포를 갖는 구조 모델은 동일한 점수 기하학을 갖기 때문이다. 본 연구에서는 이에 대한 개입적 대응 개념을 제안한다. 하드 개입 $\operatorname{do}(X_k=ξ)$는 결합 법칙(joint law)을 단순히 재가중하는 것이 아니라, 분포를 부분 다양체 ${x_k=ξ}$로 제한한다. 따라서 그 점수는 남은 $d-1$개의 자유 좌표 위에서 정의되어야 한다. 인과 영향 $X_k\rightsquigarrow X_j$를 $ξ$에 따른 $X_j$의 개입 주변 분포(interventional marginal distribution)의 변화로 정의하고, 주변 개입 점수(marginal interventional score)의 해당 도함수가 영향에 대한 국소적 충분 조건을 제공함을 보인다. 관측 점수(observational score)를 허용 가능한 개입 방향으로 투영하는 것만으로는 일반적으로 인과 반응(causal response)을 복원할 수 없다. 두 모델이 동일한 관측 점수와 허용 집합을 공유하면서도 다르게 반응할 수 있기 때문이다. 따라서 구조적 정보에 의해 제공되는 개입 반응 필드(interventional response field)를 도입한다. 인과 측도(causal metric)는 공통 목표를 갖는 개입군(family of interventions) 위의 Fisher 정보 측도(Fisher information metric)로 정의하여, 목표 간의 부적정(ill-posed) 비교를 피한다. 이 프레임워크는 무작위 시험(randomized trials), 도구 변수(instrumental variables), 조건부 독립 설계(conditional-independence designs)에 대한 기하학적 사전(geometric dictionary)을 제공하며, 각 설계가 무엇을 식별하고 무엇을 식별하지 못하는지를 명확히 한다. 이변량 Gaussian 예시에서는 동일한 관측 점수를 갖지만 서로 다른 개입 점수 도함수를 갖는 두 모델을 제시한다. 이 프레임워크는 설계, 개입, 점수 필드 간의 관계를 체계화하지만, 기저 가정을 넘어서는 식별(identification)을 추가하지는 않는다. Pearl의 인과의 사다리(Ladder of Causation)에서 관측 점수 기하학은 연관(association)에 속하고, 개입으로 색인된 점수 필드는 개입(intervention)에 속하며, 단위 수준 반사실(counterfactual) 기하학은 향후 연구로 남겨둔다.

arXiv:2607.21541v1math.ST공통 태그 Causal Inference, Model Selection

준모수 추정에서 블랙박스 학습기의 최적 활용

Optimal use of a black-box learner in semiparametric estimation

부분 선형 모델 $Y = μ_0(X) + β_0 \cdot T + \varepsilon$ 및 $T = π_0(X) + u$를 구조 비의존(structure-agnostic) 설정에서 고려한다. 여기서 $μ_0$와 $π_0$의 구조는 알 수 없으며, 방해 요인(nuisance)들은 블랙박스 가설 클래스(black-box hypothesis class)로 추정한다. 해당 클래스의 학습 가능성(learnability)은 모델 오지정(model misspecification)이 없을 때의 추정 오차 $δ_s$와, $μ_0$ 및 $π_0$에 대한 각각의 $L_2$ 오지정 오차 $δ_{a, μ}$, $δ_{a, π}$로 특성화된다. 목표 선형 계수 $θ_0 = β_0$에 대한 새로운 추정량을 제안하며, 오차율은 \[ \frac{1}{\sqrt{n}} + δ_{a, μ} \cdot δ_{a, π} + [δ_s]^2. \] 대응하는 하한(lower bound)도 증명되어, 이 수렴률은 더 이상 개선할 수 없음을 의미한다. 이중 머신러닝(double machine learning, DML)이 산출하는 곱 형태의 수렴률과 비교하면, 우리의 추정량은 추가 비용이나 가정 없이 차선(suboptimal) 항 $\max(δ_{a, μ}, δ_{a, π})\cdot δ_s$를 제거한다. 기저 통찰에 기반하여—이는 단일 학습기(one-learner) 설정이나 부분 선형 모델에 국한되지 않는다—Transductive Adversarial Moment-calibrated Editing(TAME)을 제안한다. TAME는 추론(inference) 표본에서 블랙박스 회귀 추정치가 유도하는 편향 제거(debiasing) 가중치를 적대적 조건부 모멘트 보정(adversarial conditional moment calibration)을 통해 국소적으로 편집한다. TAME는 임의의 초기 블랙박스 추정치와 결합할 수 있으며, 방해 요인의 난이도가 불균형할 때 DML 보장을 엄밀히 개선할 수 있다. TAME가 도입한 이점을 완전히 활용하는 방법을 논의한다. 여기에는 두 학습기(two learners) 사용의 이득, 모델 선택을 위한 결과적 과소평활(under-smoothing) 원칙, 기타 선형 함수형 추정 문제로의 확장이 포함된다.

arXiv:2607.14297v1stat.ME공통 태그 Density Estimation, Model Selection

비대칭 쌍선형 요인 분석기의 절약적 혼합 모형

Parsimonious Mixtures of Skewed Bilinear Factor Analyzers

비대칭 무작위 행렬을 군집화하는 혼합 모형은 차원 축소를 수행하지 않을 경우 과매개변수화 문제를 자주 겪을 수 있다. 쌍선형 요인 분석기를 사용하더라도, 군집 간 매개변수에 제약을 가함으로써 추가적인 매개변수 축소를 달성할 수 있다. 본 원고에서는 비대칭 행렬 변량 쌍선형 요인 분석기 혼합 모형에 대한 256개 모형으로 구성된 절약적 모형군을 제안하며, 특히 skew-t 분포의 경우를 다룬다. 매개변수 추정을 위한 AECM 알고리즘이 상세히 논의된다. 또한 광범위한 시뮬레이션이 수행되었으며, 본 방법은 MNIST 데이터셋과 Olivetti faces 데이터셋에 적용된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.