We propose the mechanistically hierarchical inverse problem (MHIP) paradigm for biological transport systems, where a macroscopic observation emerges from the multiplicative entanglement of intrinsic micro-scale physics and latent macro-scale geometry. Without in vivo ground truth, solving MHIPs from clinical data is severely underdetermined. Standard statistical sampling degenerates along non-identifiable manifolds, while monolithic machine learning baselines collapse to an uninterpretable conditional mean. We propose a two-stage physics-guided decomposition that turns a globally non-identifiable inverse mapping into conditionally identifiable sub-problems. The first stage is a constrained inverse surrogate that isolates the intrinsic parameter under a fixed reference geometry. The second stage performs empirical structural calibration against population-level clinical data. We also introduce Physics-Calibrated Data Scaling (PCDS), a multi-fidelity strategy that builds large training sets from few high-fidelity simulations without patient-specific 3D modeling. In a glaucoma case study, the framework deconstructs a single intraocular pressure (IOP) measurement to estimate trabecular permeability ($\hat{K}_{TM}$) and conventional outflow facility ($\hat{C}_{trab}$). In retrospective validation against published in vivo data, the non-invasive $\hat{C}_{trab}$ estimates showed low bias against measured outflow facility. In an ablation over 27 clinical cohorts, naive monolithic baselines reach 37.0% diagnostic accuracy. Adding the isolated $\hat{K}_{TM}$ estimate raises this to 85.2%. The full two-stage framework reaches 88.9%. The framework also returns a probabilistic profile of the latent hydrodynamic state, offering a general computational blueprint for MHIPs.
Hollmann et al. (Nature 637 (2025) 319-326) recently introduced TabPFN, a transformer-based deep learning model for regression and classification on tabular data, which they claim "outperforms all previous methods on datasets with up to 10,000 samples by a wide margin, using substantially less training time." Furthermore, they have called TabPFN a "foundation model" for tabular data, as it can support "data generation, density estimation, learning reusable embeddings and fine-tuning". In this paper, we provide a tailored explanation of how TabPFN works for a statistics audience, by emphasizing its interpretation as approximate Bayesian inference. We then explore the significance of TabPFN to the field of statistics: We show that an out-of-the-box application of TabPFN can sometimes outperform specialized state-of-the-art methods for semi-supervised parameter estimation, prediction under covariate shift, and heterogeneous treatment effect estimation. As a partial explanation for the predictive effectiveness of TabPFN, we show that it can simultaneously adapt to both nonparametric structure and parametric structure, for instance, sometimes outperforming LASSO even when assumptions are correctly specified. All experiments can be reproduced using the code provided at https://github.com/qinglong-tian/tabpfn_study (https://github.com/qinglong-tian/tabpfn_study).
오늘날 정유 공정 최적화는 방대한 양의 데이터를 활용하며, 이는 현대적인 선형계획법(LP) 소프트웨어로 처리할 수 있으나, 그 결과를 해석하고 적용하는 일은 여전히 어렵다. 대형 석유화학 기업은 수십만 개의 입력 행렬 원소를 가진 거대한 모델을 사용한다. LP 해는 수학적으로 올바르지만, 모델에는 단순화가 이루어지며 데이터 공급 오류가 발생할 수 있다. 따라서 결과를 신뢰하기 위해서는 추가적인 통찰이 필요하다. 이 논문의 새로운 점은 LP 솔버에 메모리를 추가하여, 이상 탐지 도구를 도입함으로써 입력 데이터의 잠재적 오류를 찾고 서로 다른 의사결정 수준의 데이터에서 비정상적인 관계를 발견할 수 있게 한다는 데 있다. LP의 입력과 출력에서 잠재적인 "이상"을 분석하면 이후의 LP 해를 개선할 수 있다. 제안하는 이상 탐지 도구는 세 가지 방법론으로 구성된다. 널리 쓰이는 ECOD 방법론을 변형한 버전을 적용한다. 고차원 데이터를 다루기 위해 가장 정보량이 많은 쌍을 선택하는 새로운 방법을 제안한다. 이후 이를 두 가지 2차원 이상 탐지 알고리즘과 함께 사용하여, MOL 정유 공정 스케줄링 및 계획 아키텍처에서 여러 사업 기회와 데이터 공급 오류를 밝혀냈다. 제안하는 도구는 과거 데이터의 연결 관계를 학습하고 현재 데이터에서 매우 효율적으로 실행되어, 비정상적인 연결 관계를 중요도 순으로 정렬하여 보여 준다. 이 단계까지 최적화와 이상 탐지는 자동으로 이루어지며, 이후 의사결정자는 발견된 가장 관련성 높은 이상을 살펴보고 이후의 LP를 어떻게 더 개선할지 결정할 수 있다. 또한 이 도구에는 주기적인 재학습 기능이 내장되어 있다.
볼록 집합으로 제한된 분포에서 표본을 생성하는 제약 샘플링은 계산 통계학에서 중요한 문제이다. 본 논문에서는 운동 랑주뱅 동역학의 대칭적 BAOAB 및 ABOBA 분할을 제약 목표 분포의 페널티 대리 분포에 적용하여 얻은 새로운 비조정(unadjusted) 샘플링 알고리즘을 제안한다. 여기에는 확률적 경사 버전도 포함된다. 페널티 대리 분포의 헤시안은 제약 집합의 경계에서 불연속이므로, 립시츠 헤시안에 의존하는 분석은 적용되지 않는다. 따라서 강볼록성과 매끄러움만을 기반으로 하는 분석을 개발하여, 1단계 바서슈타인 수축 기법, 두 기법 모두에 대한 비점근적 바서슈타인 상계, 그리고 복잡도 상계를 증명한다. 확률적 경사 버전의 복잡도는 전통적인 오일러형 이산화보다 크게 개선된다. 수치 실험은 장난감 문제와 베이지안 제약 회귀 문제에서 검증된 본 이론을 확인한다. 전반적으로 분할 기법은 오일러형 방법보다 몇 배 큰 스텝 크기에서도 안정성을 보이며, 주어진 정확도에 필요한 경사 계산 횟수가 5배에서 17배 적다.
기대 결과를 최대화하여 최적 치료 규칙을 직접 추정하는 문헌이 빠르게 늘고 있다. 생의학 연구와 운영 응용에서는 중도절단된 생존 결과가 자주 관측되며, 이 경우 절단 평균 생존 시간과 생존 확률이 큰 관심 대상이 된다. 본 논문에서는 중도절단된 생존 결과를 가진 최적 치료 규칙을 학습하기 위한 두 가지 강건한 기준을 제안한다. 전자는 중앙값과 같은 주어진 분위수로 절단점을 지정하여 절단 평균 생존 시간을 최대화하는 최적 치료 규칙을 목표로 하고, 후자는 절단 평균 생존 시간을 반영하도록 미리 정한 임계값을 조정한 버퍼 생존 확률을 최대화하는 최적 치료 규칙을 목표로 한다. 제안한 최적 치료 규칙을 학습하기 위해 표본 기반 볼록 함수 차 알고리즘을 개발하고 이에 대한 이론적 근거를 제시한다. 모의실험에서 제안한 추정량은 기존 방법보다 향상된 성능을 보인다. 또한 AIDS 임상시험 데이터를 사용하여 제안 방법을 시연한다.
다양한 학문 분야에서 많은 연구자가 기계학습(ML) 알고리즘을 사용하여 치료로부터 가장 큰 이익을 얻을 가능성이 높은 개인들(``예외적 반응자'')이나 치료로 인해 해를 입는 개인들로 이루어진 하위집단을 식별한다. 이러한 하위집단 식별 문제에 대한 일반적인 접근은 두 단계로 이루어진다. 먼저 연구자들은 ML 알고리즘으로 조건부 평균 처치 효과(CATE)를 추정한다. 다음으로 추정된 CATE를 사용하여 치료의 영향을 긍정적으로든 부정적으로든 가장 크게 받을 것으로 예측되는 개인들을 선택한다. 그러나 CATE 추정치는 편향되고 잡음이 많은 경우가 흔하다. 게다가 동일한 데이터를 하위집단 식별과 그 집단 평균 처치 효과 추정에 모두 사용하면 다중 검정 문제가 발생한다. 이러한 문제를 해결하기 위해 우리는 일반 ML 알고리즘으로 정렬한 집단 평균 처치 효과(GATES)의 추정을 위한 균일 신뢰대를 개발한다. 이 균일 신뢰대를 사용하면 연구자들은 효과 크기를 어떻게 선택하든 관계없이, GATES가 특정 효과 크기를 초과하는 하위집단을 통계적 보장과 함께 식별할 수 있다. 제안하는 방법론은 ML 점수의 일치성이나 단조성을 요구하지 않고, 무작위 처치 배정, 개체의 무작위 표집, 그리고 연속성 및 적률 조건을 사용한다. 우리는 경험적 하위집단 임계값과 고정된 처치 표본 크기에 대한 보정을 포함하여 추정 오차의 위너 표현을 유도한다. 이 표현을 추정하면 ML 모델을 다시 적합하지 않고도 가우시안 추출을 이용하여 점근적으로 정확한 균일 포괄률을 얻을 수 있다. 또한 평균 조정 처치 효과와 기타 평가 지표에 대한 균일 신뢰대도 개발한다. 시뮬레이션 설계와 말기 전립선암 임상시험에 대한 적용 사례를 통해 하위집단 식별 문제를 설명한다.
우리는 성공 확률 $p_1,\dots,p_m$의 경험적 법칙 $F_m$의 선형 범함수 $\theta(F_m)=\int h\,dF_m$에 대한 신뢰구간을, 독립적인 횟수 $c_i\sim\mathrm{Bin}(n,p_i)$로부터 구성한다. 이는 언어 모델을 문제당 $n$회 실행하는 경우에 해당한다. 포함 확률은 모든 $n$, $m$과 고정된 $(p_i)$에 대해, 그리고 모든 유계 $h$에 대해 동시에 최소 $1-\alpha$이다. 분산 적응형(VA) 영역은 각 후보 혼합 법칙을 그것이 함의하는 꼬리 횟수의 조건부 분산으로 검정한다. 이 분산은 법칙에 대해 선형이므로 영역은 선형계획이며, 셀 포락선이 격자 밖에서도 유효성을 유지한다. iid 표집에 맞춰 보정된 영역은 초모집단 법칙을 대상으로 하며 $\theta(F_m)$에 대해서는 보수적이다. 모든 $n$개의 꼬리 횟수, 고정된 $n$, 연속 $h$, 그리고 $m\to\infty$에 따라 세분화되는 격자가 주어지면, VA 폭의 식별 부분은 동일한 지표 집합을 가진 어떤 국소화와 마찬가지로 1차 최악 사례 최적이다. 주요 비교 대상 실행 이전에 고정된 규칙 아래에서, VA는 모든 $n$에서 2단계 플러그인 밴드보다 좁았으나(n=128에서 폭 비율 중앙값 0.60), n=128에서 점근적 점별 AMARI 구간보다는 좁지 않았다. 실제 롤아웃 풀에서는 $n\le128$일 때 점별 AMARI와 Bonferroni 보정 AMARI 둘 모두보다 넓었다. $P(p>0)$ 및 $k\gg n$인 pass@$k$에 대해서는 데이터가 하한만을 뒷받침한다.
본 연구는 고정된 데이터셋에서 범주형 레이블을 효율적이고 적응적으로 감사하는 문제를 다룬다. 이는 종 기록에 대한 전문가 검증 비용이 크고, 하위 점수(예: 지급액)가 특정 레이블의 오류에 더 민감한 생물다양성 크레딧 프로그램에서 동기를 얻었다. 제안하는 ATLAS 프레임워크는 언제든 유효한(anytime-valid) 추론과 과제 인식 적응형 감사 정책을 결합한다. 레이블 수정을 혼동 행렬로 표현하고, 레이블 불확실성과 잠재적 레이블 수정이 하위 점수 함수에 미치는 영향을 모두 고려하여 다음에 검사할 데이터 포인트의 우선순위를 정한다. 케냐 생물다양성 데이터에 대한 주요 사례 연구에서 과제 인식 감사는 언제든 유효한 보장을 유지하면서 오라벨 비율과 비선형 생물다양성 점수를 추정하는 데 필요한 전문가 검토를 줄인다. 또한 이미지 분류와 개체명 인식의 공개 데이터셋에서도 ATLAS를 평가한다. 선형 및 비선형 점수를 사용한 실험 전반에서 ATLAS는 대체로 경쟁하는 언제든 유효한 방법과 동일한 정밀도를 훨씬 적은 감사로 달성한다. 분포 무관 보장의 비용이 지나치게 큰 경우에는 모델링 가정에 의존하여 감사 횟수를 더 줄일 수 있는 모델 기반 베이지안 대안을 개발한다. 생물다양성 사례 연구는 통계적 타당성과 실제적 실현 가능성 사이의 간극을 보여준다. Serfling 경계와 기존 신뢰 시퀀스 절차 같은 일반적 방법은 엄밀하지만 실제로는 지나치게 많은 전문가 검토를 요구할 수 있다. 종합하면 이러한 결과는 과제 인식 감사가 유한 표본에서 언제든 유효한 보장을 제공하면서 필요한 전문가 감사 횟수를 크게 줄일 수 있음을 보여준다.
본 연구는 다변량 확률 과정의 한 단계 앞 조건부 분포를 추정하는 문제를 다룬다. 기존의 많은 접근법은 유한 범위 메모리, 희소성, 가법성과 같은 구조적 가정에 의존하는데, 이는 장거리 비선형 상호작용을 갖는 과정에는 적합하지 않을 수 있다. 그러나 이러한 구조적 가정이 없으면 차원의 저주로 인해 비모수 추정이 어렵다고 알려져 있다. 이 문제를 해결하기 위해 우리는 확률 과정의 \emph{예측 상태}(predictive states) 표현을 학습한다는 아이디어에 기반한 새로운 추정기를 도입한다. 우리는 이 문제의 여러 측면을 이론적으로 분석한다. 부가적인 결과로, 심층 신경망 추정기에 기반한 우리 방법의 구현에 대해 수렴 속도 보장을 증명한다. 우리의 결과는 예측 상태 공간이 저차원일 때, 즉 과거 이력을 미래 예측에 충분한 저차원 통계량으로 압축할 수 있을 때 더 빠른 수렴 속도를 달성할 수 있음을 시사한다. 우리는 이 방법을 PyTorch로 구현하고 합성 데이터와 실제 \emph{C. elegans} 데이터에서 성능을 평가한다.
관측 데이터로부터의 인과 발견은 개입 없이 방향성 관계와 잠재 교란을 복원해야 한다. 본 논문은 합성 구조적 인과 모델만으로 학습되어 데이터셋을 단일 순전파로 인과 그래프에 대응시키는 {\em 상각형 인과 발견 파운데이션 모델}인 FoundCause를 제안한다. 순열 등변 트랜스포머가 표본과 변수에 대한 어텐션을 번갈아 수행하여 변수 간 의존성과 변수별 분포를 모델링한다. 쌍별 의존성 및 비대칭 통계량이 어텐션, 엣지 디코더, 교란 변수 모듈을 안내한다. 디코더는 엣지의 존재와 방향을 분리하며, 삼각 정제는 체인과 충돌 구조(collider)의 증거를 통합한다. 학습 가능한 잠재 토큰은 어떤 변수 쌍이 숨겨진 공통 원인을 공유하는지 예측하고, 마스크된 입력 표현은 결측 데이터를 처리한다. 우리가 아는 한, FoundCause는 i.i.d. 관측 데이터에 대해 잠재 교란을 별도의 명시적 출력으로 예측하는 최초의 상각형 인과 발견 접근법이다. 14개의 실제 및 준합성 데이터셋에서 FoundCause는 11개의 고전적 기준선과 7개의 상각형 기준선을 평균 AUROC, $F_1$, 스켈레톤 $F_1$, 정규화 구조적 해밍 거리($\mathrm{SHD}/d$)에서 앞선다. 특히 $\mathrm{SHD}/d$에서 명확하게($0.875$ 대 $0.956$), $F_1$에서 근소하게($0.531$ 대 $0.516$) 앞선다. 또한 이변량 원인–결과 쌍에서 상각형 방법 중 가장 높은 정확도를 보인다.
Shapley 기반 측정치는 통계학과 기계학습에서 변수 중요도를 측정하는 데 널리 사용된다. 그러나 이러한 측정치에는 심각한 문제가 있다. 비활성 변수가 활성 변수와 상관되어 있을 때 양의 중요도 값을 얻을 수 있다는 점이다. Herin 등은 최근 이러한 허위 효과를 완화하는 비례 한계 효과(PME)라는 측정치를 제안하였다. 그러나 PME는 결정론적 모델을 대상으로 개발되었으며 계산 비용이 높다. 본 논문에서는 PME의 이 두 가지 한계를 극복하는 비례 포괄 한계 효과(PRIME)라는 새로운 측정치를 제안한다. PRIME의 핵심 아이디어는 새로운 모델 비의존적 변수 선택 기법을 사용하여 활성 변수를 식별하고, 이들만 중요도 측정치 계산에 포함하는 것이다. 테스트 함수와 실제 데이터셋에 대한 분석은 PRIME이 잡음이 있는 입출력 데이터로부터 변수 중요도를 정확하고 안정적으로 정량화할 수 있음을 보여 준다.
본 논문은 정상 및 비정상 다변량 시계열로부터의 인과 발견(구조 학습)을 위한 공통 인터페이스와 시차 그래프 표현을 제공하는 오픈소스 파이썬 라이브러리 Causal-TS를 기술한다. 이 라이브러리는 제약 기반(CDNOTS, CDNOTS+, Cedar), 점수 기반(LGES, TGES, GES, LASSO-VAR, VARLiNGAM, Granger), 하이브리드(GRACE, REAP) 방법으로 시차 및 동시점 인과 그래프를 학습한다. 제약 기반 방법들은 17개의 선형 및 비선형 조건부 독립성(CI) 검정을 공유하며, 이 중 9개는 PyTorch로 구현되어 있다. 또한 레짐별 발견을 포함한 후보 레짐 탐지, 잠재 교란 변수 보정(LUCID), 결측 및 혼합 데이터 지원, 데이터 기반 설정 추천기, 명령줄 인터페이스, 그리고 발견된 그래프에서 인과 효과 추정 및 반사실로 이어지는 선택적 DoWhy 연결 기능을 제공한다. 이 라이브러리는 pip로 설치 가능하며 Python 3.10-3.14에서 테스트되었고 https://github.com/bloomberg/causal-ts 에서 이용할 수 있다.
A growing failure mode in agent evaluation and training is that models can achieve high evaluation scores (e.g., test pass rates) by exploiting shortcuts instead of solving the intended task, making these scores deceptive. This makes evaluation scores unreliable as measures of true task-solving ability. We propose CapCode, a framework for constructing coding datasets with randomized tests whose best achievable non-cheating score is deliberately capped below 100%. This capped-score design gives evaluation scores a clearer interpretation: scores substantially above the cap are implausible and therefore provide evidence of cheating. To prevent cheating, we propose CapReward, a reward design based on the CapCode principle to discourage optimization beyond the cap. Experiments across multiple datasets show that CapCode detects cheating while preserving performance ranking of models, and CapReward reduces cheating behavior, yielding models that better follow the intended task specification.
처치 효과가 의학, 가격 책정, 마케팅에서처럼 자연스럽게 비율로 표현될 때에는 비율 기반 CATE $\tau(x) = \mathbb{E}[Y|W=1,X=x] / \mathbb{E}[Y|W=0,X=x]$가 적절한 추정 대상이다. 그러나 일반적인 추정량들은 추정된 기준선으로 나누거나, 모수적 형태를 가정하거나, 결과 변수를 회귀하는데, 이 경우 더 나은 적합이 반드시 더 나은 효과 추정을 의미하지는 않는다. 본 논문은 $\tau(x)$를 두 오즈의 비율로 표현하여 이진 결과에 대한 비율 CATE 추정을 두 개의 성향 분류 과제로 환원하는 Q-Learner를 제안한다. 합성 데이터와 무작위 실제 데이터에 대한 벤치마크에서 Q-Learner는 산업 현장의 실무에 특히 적합한 것으로 나타났다. 로그 손실에 대한 표준 하이퍼파라미터 튜닝만으로도 순위를 잘 매기고, 효과의 수준을 올바르게 맞추며, 효과의 분산 정도를 대안들보다 더 안정적으로 포착하기에 충분하다. 반면 예를 들어 일반적인 S-Learner는 순위를 잘 매기기 위해, 흔히 가장 우수한 수준까지, 비용이 큰 효과 특화 튜닝이 필요하지만 그 경우 효과의 분산 정도는 놓친다. 성향을 아는 경우에는 전환자만을 대상으로 적합한 단일 분류기로 충분하다. 이는 개발 속도를 높일 뿐만 아니라, 데이터가 전환자에 대해서만 수집되는 경우가 많은 실무에서는 흔히 필수적이기도 하다.
무작위 대조 시험 내의 하위집단 분석은 표본 크기가 제한적이어서 검정력이 부족한 경우가 많다. 본 논문은 관심 하위집단 밖의 시험 참가자를 활용하여 하위집단 내 추정을 보강함으로써 이 문제를 다룬다. 구체적으로, 동일한 시험 내 비하위집단 참가자로부터 정보를 차용하는 두 가지 표적 최대우도 추정량(TMLE), 즉 합동 회귀를 사용하는 TMLE(TMLE-PR)와 적응형 표적 최대우도 추정량(A-TMLE)을 연구한다. 두 추정량 모두 외부 실제 데이터에 의존하지 않고 정보 공유를 가능하게 하므로, 무작위 처치가 제공하는 편향 방지라는 가장 중요한 강점과 더불어 조화된 데이터 수집, 일관된 처치 및 결과 정의라는 시험의 핵심 강점을 활용한다. 여기서 제안하는 일반적 전략은 외부 편향 요인을 도입하지 않고 하위집단별 처치 효과 추정치의 정밀도를 개선함으로써, 형평성 있는 표시 사항, 접근성, 시판 후 평가를 뒷받침하는 엄밀한 추론을 촉진하여 FDA를 비롯한 주요 규제 기관의 우선순위를 직접적으로 진전시킨다. 심혈관 결과 시험(LEADER, NCT01179048)의 데이터 분석에 기반한 사례 연구에서, 시험의 나머지 부분으로부터 정보를 차용하는 제안 추정량을 사용하여, 각각 시험 대상 집단의 10% 미만을 차지하는 흑인 및 아시아인 하위집단에서 리라글루타이드 치료에 따른 주요 심혈관 부작용(MACE)의 위험 감소를 추정한다. 특히 A-TMLE를 사용하여 365일, 540일, 730일 시점에서 추정된 MACE 절대 위험 감소가 아시아인 참가자에서 각각 1.6, 1.5, 1.5 퍼센트포인트, 흑인 참가자에서 각각 2.1, 2.0, 2.1 퍼센트포인트임을 확인하였으며, 모든 시점에서 95% 신뢰구간이 귀무값을 포함하지 않았다.
본 논문은 여러 시점에서 관측된 시변 네트워크의 기저 간선 확률을 추정하는 문제를 다룬다. 확률 구조는 시간적 Hölder 평활성과 잠재 변수에 대한 구간별 Lipschitz 조건을 만족하는 시변 그래폰으로 표현된다. 본 논문은 먼저 각 간선에 시간적 국소 평활화를 적용한 뒤, 해당 방법에서 가져와 조정한 데이터 기반 이웃 구성을 사용해 노드 영역 평활화를 수행하는 다단계 평활화 추정량을 제안한다. 전체 시간 영역에 걸친 균일한 정확도가 필요한 경우를 위해 추가적인 시간 평활화 단계를 선택적 정련으로 도입한다. 모의실험은 다양한 생성 모델에서 시간 평활화와 노드 영역 평활화를 결합하는 것의 이점을 보여준다. 또한 실제 시변 네트워크 데이터셋에 이 방법을 적용하여, 매끄러운 시간적 변화와 연결성의 구조적 패턴을 모두 포착함을 보인다.
Random directed acyclic graphs (DAGs) based on imposing an order on Erd\H{o}s-R\'enyi or scale-free graphs are widely used to generate synthetic data from causal models, in particular for evaluating causal discovery algorithms. We show that the set of nodes reachable via open paths, termed relatives, never decreases along the causal order in all DAGs. We find that it tends to increase strictly for DAGs with certain density parameters, and demonstrate that this pattern can be exploited for causal discovery via sorting by the estimated number of relatives. We note that many simulations in the literature are focused on a narrow range of parameter settings where sorting by relatives yields an excellent proxy for the causal order, and show that a strict increase of relatives leads to a singleton Markov equivalence class. We propose sampling time-series DAGs as a possible alternative and discuss implications for causal discovery and synthetic data generation. Implementations of our algorithms can be found at https://causaldisco.github.io/CausalDisco/.
불완전 데이터에서의 인과 발견을 위한 표준적인 제약 기반 패러다임, 즉 먼저 대체하고 나중에 검정하는 방식은 자주 보정이 어긋난다. 대체 오차가 가짜 조건부 의존성을 유발하면, 일관성 있는 어떤 조건부 독립성(CI) 검정이든 참인 귀무가설을 1에 가까운 확률로 기각하기 때문이다. 본 연구는 짝지은 순열 설계를 통해 다중 대체를 추론 절차에 직접 통합하여 보정을 회복하는 비모수 CI 검정인 PAIR-CI를 소개한다. PAIR-CI는 동일한 대체된 조건 집합을 받으면서 후보 변수를 포함하는 교차 검증 모델과 제외하는 모델을 비교하므로, 대체 오차가 검정 통계량을 오염시키는 대신 손실 차이에서 상쇄된다. 증명 가능하게 일관적인 교차 검증 추정량을 Rubin의 규칙 안에 중첩한 분산 추정량은, 다중 대체 극한에서 점근적으로 타당하고 유도된 부호가 확정된 메커니즘에 의해 보수적인 추론을 제공하며, 우리가 아는 한 이 두 추론 틀을 결합한 최초의 형식적 결과이다. 시뮬레이션에서 기존의 대체 기반 CI 검정은 데이터가 비무작위 결측(MNAR)일 때 28-45%의 거짓 양성률을 보인 반면, PAIR-CI의 통합 거짓 양성률은 최대 3.6%이며, 조건 변수가 다섯 개 이상인 일부 셀에서만 명목 5%를 초과한다. PC 알고리즘에 통합했을 때 PAIR-CI는 함수 형태와 결측 메커니즘 전반에서 안정적인 반면, 결측값 PC를 포함해 우리가 고려한 모든 모수적 파이프라인은 크게 실패하는 영역을 가진다. 비선형 네트워크 벤치마크에서 PAIR-CI는 결측값 PC 대비 구조적 해밍 거리를 18%(ALARM)와 11%(HAILFINDER) 줄이고, 검정별 삭제 및 대체 기반 Fisher-$Z$ 파이프라인 대비 31-48% 줄이면서 가장 높은 스켈레톤 F1을 달성한다. 관계가 선형일 때는 올바르게 명세된 모수적 파이프라인이 여전히 더 바람직하다.
본 연구는 각 처치 값을 모집단 평균 결과에 대응시키는 연속 처치의 효과 함수를 추정하는 문제를 다룬다. 이 설정의 핵심 난제는 교락이다. 처치 할당이 흔히 공변량에 의존하여 선택 편향을 만들고, 이로 인해 반응을 처치에 직접 회귀하는 방식은 신뢰하기 어렵다. 이를 해결하기 위해 2단계 커널 릿지 회귀 방법을 제안한다. 첫 번째 단계에서는 처치와 공변량 모두의 함수로서 반응에 대한 모델을 학습하고, 두 번째 단계에서는 이 모델을 사용하여 분포 이동을 보정하는 의사 결과(pseudo-outcome)를 구성한 뒤 두 번째 모델을 적합하여 처치 효과를 추정한다. 반응은 처치와 공변량 모두에 따라 달라지지만 공변량에 대해 평균하여 얻는 효과 함수는 일반적으로 훨씬 단순하며, 본 추정량은 이 구조에 적응한다. 최적 학습 한계는 조건부 처치 밀도를 추정하지 않고도 달성되며, 이로써 기존 방법의 주요 병목을 우회한다. 나아가 미지의 중첩 정도와 기저 커널의 스펙트럼 감쇠 모두에 대해 증명 가능한 적응성을 달성하는 완전 데이터 기반 모델 선택 절차를 도입한다.
도구변수 추정은 무작위 실험이 지나치게 비싸거나 불가능할 수 있는 사회과학과 역학에서 교란 편향을 완화하는 표준적인 접근법으로 자리 잡았다. 그러나 도구의 타당성을 정당화하는 것은 흔히 어렵다. 본 연구는 도구변수 타당성 논증에서 일반적으로 간과되는 문제, 즉 "집계 처치 변수"의 존재를 강조한다. 이는 처치(예: 교육, GDP, 칼로리 섭취)가 관측되지 않는 더 세분화된 구성요소로 이루어져 있고 각 구성요소가 결과에 서로 다른 효과를 가질 수 있는 경우를 말한다. 집계 문제 자체는 일반적이지만, 본 연구는 응용 도구변수 실무의 상당 부분이 기반하는 선형 설정에서의 도구변수 추정에 초점을 둔다. 집계 처치의 인과 효과는 집계에 대한 개입이 구성요소 수준에서 어떻게 구현되는지에 달려 있으므로 일반적으로 모호함을 보인다. 이 관계를 집계 제약 구성요소 개입 분포(ACID)를 이용해 형식화한다. 그런 다음 표준 도구변수 추정량이 집계 효과를 식별하는 두 가지 핵심 조건을 규명한다. 이 조건들이 인위적이라는 점은 집계 처치에 기반한 도구변수 추정치의 해석에 중대한 한계가 있음을 함의하며, 이러한 설정에서 배제 제약에 대해 더 폭넓은 정당화 근거가 필요함을 부각한다.