생존 분석(survival analysis)은 사건 발생 시간(time-to-event) 데이터를 분석하기 위한 광범위한 방법론들을 포괄하며, 주요 목표 중 하나는 그룹 간 생존 곡선을 비교하는 것이다. 생존 곡선의 군집을 식별하는 전통적인 접근 방식은 귀무가설 분포를 근사하기 위해 계산 집약적인 부트스트랩(bootstrap) 기법에 의존하는 경우가 많다. 이러한 방법들은 효과적이지만 상당한 계산 부담을 초래한다. 본 연구에서는 k-평균(k-means)과 로그 순위 검정(log-rank test)을 활용하여 생존 곡선을 효율적으로 식별하고 클러스터링하는 새로운 접근 방식을 제안한다. 제안된 방법은 계산 비용이 많이 드는 재표본추출(resampling)의 필요성을 제거하여 통계적 신뢰성을 유지하면서도 처리 시간을 크게 단축한다. 생존 곡선을 체계적으로 평가하고 최적의 군집을 결정함으로써, 제안된 방법은 대규모 생존 데이터 분석을 위한 실용적이고 확장 가능한 대안을 제공한다. 시뮬레이션 연구를 통해 본 접근 방식이 계산 효율성을 획기적으로 향상시키는 동시에 기존의 부트스트랩 기반 클러스터링 방법과 대등한 결과를 달성함을 입증한다. 이러한 결과는 로그 순위 기반 클러스터링 절차가 의학 및 역학 연구에서 다중 생존 곡선을 다루는 연구자들에게 실현 가능하고 시간 효율적인 해결책을 제공함을 시사한다.
기저의 마르코프 랜덤 필드(Markov random field)를 인코딩하는 확률적 그래프 모델(probabilistic graphical model)은 복잡한 의존 구조를 가진 현대의 다변량 데이터셋에서 잠재 표현(latent representation)을 학습하는 생성 모델링(generative modeling)의 근본적인 구성 요소이다. 이 중 지수족 그래프 모델(exponential family graphical model)은 통계적 성질이 비교적 잘 알려져 있고, 유사 가능도(pseudo-likelihood) 방법에 기반하여 고차원 데이터에 대한 계산 확장성을 갖추고 있어 특히 널리 사용된다. 이러한 모델은 통계 물리학의 Ising 모델과 유전체학의 카운트 그래프 모델(count graphical model) 등 여러 분야에서 성공적으로 적용되어 왔다. 또 다른 계열의 모델은 일부 노드를 잠재 변수로 두어, 관측 가능한 노드의 주변 분포가 지수족에서 벗어나 더 복잡한 의존성을 포착할 수 있도록 한다. 이러한 접근법은 볼츠만 머신(Boltzmann machine)과 그 제한된 버전(restricted Boltzmann machine)과 같은 인공지능 생성 모델의 토대를 이룬다. 완전 관측 및 부분 관측 사례 모두에서 가능도 기반(즉, 최대 가능도 및 완전 베이즈) 추론의 근본적인 장벽은 가능도를 다루기 어렵다는 점이다. 일반적인 우회책은 Besag(1974)의 선구적인 연구를 따라 유사 가능도 기반 접근법을 채택하는 것이다. 본 논문의 목표는 로그 수준의 희소성(logarithmically sparse) 설정에서 이러한 모델에 대한 완전 가능도 기반 분석이 계산적으로 효율적인 방식으로 가능함을 보이는 것이다. 핵심적인 혁신은 다루기 어려운 그래프 모델의 기저에 있는 다루기 쉬운 독립 모델(independence model)을 활용하여 정규화 상수(normalizing constant)와 그 그래디언트를 추정하는 데 있다. 광범위한 수치 실험 결과, 이를 뒷받침하는 이론, 그리고 유사 가능도 기반 접근법과의 비교를 통해 제안한 방법의 적용 가능성을 입증한다.
이진 분류(classification) 트리는 이후 하위 그룹 간의 차이를 평가하는 데 사용되는 동일한 결과를 바탕으로 하위 그룹을 선택합니다. 본 연구에서는 결정론적 Gini CART에 의해 선택된 부모 노드 내에서 공통 성공 확률에 대한 유한 표본 조건부 검정을 개발합니다. 이 구조는 적격한 모든 분할점을 유지하며, 선택된 분할, 조상 경로, 부모 노드의 총 성공 횟수 및 외부 결과들을 조건부로 취합니다. 그 결과로 얻어지는 균일 레이블 파이버는 정확한 카운트 분포를 제공하며, 가역 병렬 몬테카를로 구조는 사전 지정된 유한 실행 예산 내에서 초균일(super-uniform) 포괄적 p-값 및 정확히 균일한 동점-무작위화(tie-randomized) p-값을 산출합니다. 두 자식 노드 상수 위험 모델(model) 내에서 선택된 카운트 법칙은 조건부 카운트 분산과 동일한 정보량을 갖는 지수족입니다. 본 연구는 정보 손실(loss)과 계산적 한계를 분리하여 다루며, 단일 레이블 교환 하에서 비연결되는 선택된 파이버를 제시합니다. 200개 또는 400개의 관측치, 10개의 독립 또는 상관된 예측 변수, 깊이 3의 트리를 사용한 시뮬레이션 결과, 보수적인 포괄적 검정과 큰 위험 차이에 대한 유의미한 검정력을 보여줍니다. 400개의 관측치 및 0.4의 생성 위험 차이에서, 사전 지정된 3단계 타깃에 도달한다는 조건 하의 무작위화 기각률은 51--71%인 반면, 선택 후 기각이 발생하는 경우는 전체 데이터셋의 11--21%로 나타납니다. 신호가 더 작은 경우에는 여전히 탐지하기 어려우며, 대표적으로 계산량을 5배 늘려도 검정력 개선은 미미합니다. 본 연구의 보장은 부모 노드의 동질성, 즉 두 개의 일정한 자식 노드 위험의 동일성에 관한 것이며, 이질적인 지역적 평균들의 동일성까지 다루지는 않습니다.
텐서 완성은 응용과 이론 연구 모두에서 상당한 관심을 받아 왔다. 표준 균일 샘플링 하에서 기존의 다항 시간 보장은 일반적으로 자유도(degree of freedom)의 수보다 더 많은 관측을 요구하며, 이는 고도로 결측된 구간에서 통계-계산 간 갭(statistical-to-computational gap) 가능성 연구를 촉발한다. 다행히 많은 실제 시나리오에서는 이러한 난제를 완화하는 데 유용한 통찰을 제공할 수 있는 부가 정보(side information)를 이용할 수 있다. 본 논문에서는 추정된 부분공간(subspace)을 통해 부가 정보를 통합하는 Tensor Completion using Subspace Information(TCSI) 알고리즘을 제안한다. 우리 접근법은 먼저 이용 가능한 부가 정보로부터 부분공간을 추출한 다음, 텐서 완성을 행렬 회귀(matrix regression) 문제로 재식형한다. 정확한 부분공간 정보가 주어졌을 때 필요한 표본 복잡도(sample complexity)가 결합되지 않은 ambient 차원(uncoupled ambient dimensions)에 대해 거의 선형 차수로 줄어들고, 선도항(leading term)에서 결합 모드 차원(coupled-mode dimension)이 제거됨을 보이는 이론 분석을 제공한다. 추정된 부분공간 정보를 활용하면, 여러 기존 수동 균일 샘플링(passive-uniform-sampling) 보장에서 요구하는 것보다 덜 엄격한 충분 신호 대 잡음비(signal-to-noise ratio) 조건을 얻을 수 있다. 추가적인 완화된 조건 하에서는 더 날카로운 통계적 오차 상계(statistical error bound)를 얻는다. 이론적 결과는 수치 시뮬레이션으로 뒷받침된다. TCSI를 전역 Total Electron Content(TEC) 맵 재구성에 적용하였고, 실험에서 비교한 방법들보다 더 낮은 재구성 오차를 관측하였다.
오늘날 실험 과학자들은 우도(likelihood)를 계산하기 어려운 복잡한 모델을 역추정하기 위해 시뮬레이션 기반 추론(simulation-based inference, SBI)에 점점 더 많이 의존하고 있다. 이러한 환경에서의 주요 목표는 유효한 커버리지(coverage)를 갖는 신뢰 영역(credible region)을 얻는 것이다. 최근 모델에 구애받지 않는(model-agnostic) 컨포멀 보정(conformal calibration) 방법들이 규정된 국소 베이즈 커버리지를 갖는 신뢰 집합을 구성하는 데 성공했지만, 이들의 근사적 성격으로 인해 보정 과정에 본질적인 인식론적 불확실성(epistemic uncertainty)이 발생한다. 본 연구에서는 보정 불확실성을 진단하기 위한 새로운 도구를 제안한다. 우리의 접근법은 단순한 3원 가설 검정(three-way hypothesis testing) 절차에 기반한다. 이 도구를 활용하여 보정 집합에 필요한 시뮬레이션 예산을 효과적으로 평가하고, 컷오프(cutoff) 추정과 관련된 인식론적 불확실성을 분석할 수 있음을 보인다.
블랙박스 머신러닝 모델은 점차 강력한 예측 성능을 제공하고 있지만, 중요한 특징(feature)의 집합과 같이 모델로부터 유용한 정보를 추출하는 일은 여전히 어렵습니다. 기존의 모델 비의존적(model-agnostic) 방법은 주로 특징 중요도를 추정하거나 이에 대한 추론(inference)을 수행할 뿐 특징을 직접 선택하지는 않으며, 많은 특징 선택 방법은 특정 모델에 종속적이거나 model-X 가정에 의존합니다. 본 논문에서는 임의의 블랙박스 회귀 알고리즘을 기본 학습기로 사용하여 응답 변수 예측에 중요한 특징을 선택하는 모델 비의존적 앙상블(ensemble) 프레임워크인 LOCO-guided Adaptive Minipatch Sampling(LAMPS)을 제안합니다. 기본 학습기는 예측값만 생성하면 되며, 스스로 특징 선택을 수행할 필요는 없습니다. LAMPS는 관측치와 특징을 모두 부분 샘플링하는 미니패치 앙상블 프레임워크 내에서 동작하므로, 하나의 공변량을 제외하는(leave-one-covariate-out, LOCO) 방식의 특징 중요도 점수를 손쉽게 계산할 수 있습니다. 또한 탐험(exploration)을 유지하면서 LOCO 점수가 높은 특징에 미니패치 샘플링을 적응적으로 집중시킵니다. 그 결과로 얻어지는 샘플링 확률은 몇 번의 반복만으로 신호 특징과 잡음 특징을 빠르게 분리하며, 이를 통해 단순한 임계값 설정만으로 특징을 선택할 수 있습니다. 본 논문은 기본 예측 모델이 평균적으로 충분히 잘 학습되어 있다면, LAMPS가 고차원 환경에서 정확한 특징 선택(exact feature selection)을 달성함을 이론적으로 증명합니다. 합성 데이터와 실제 데이터에 대한 폭넓은 실험을 통해 LAMPS가 최신 특징 선택 방법들보다 우수한 성능을 보이며, 특히 특징 간 상관관계가 있는 경우에 더욱 강력한 성능을 나타냄을 확인했습니다.
대규모 다목적 코호트 연구와 바이오뱅크는 종종 특정 하류 분석에 필요한 공변량을 생략한다. 핵심 공변량이 표적 데이터에서는 완전히 부재하지만 관련 원(source) 모집단에서는 관측되는 경우, 일반화 선형 회귀에 대한 표적 모집단 추론을 다룬다. 표준 결측 공변량 방법은 표적 모집단에서 공변량이 최소한 부분적으로라도 관측되어야 하므로 직접 적용할 수 없다. 부분 모집단 이동(sub-population shift) 가정 하에서 이중 강건 전이학습 프레임워크를 제안한다. 이 가정은 관측된 결과와 공변량의 분포가 모집단 간에 달라질 수 있게 하면서, 관측 변수가 주어졌을 때 누락 공변량의 조건부 분포는 공유된다고 요구한다. 선형 회귀와 달리, 비선형 표적 추정 방정식은 고정된 저차 조건부 모멘트의 집합이 아니라 누락 공변량에 대한 매개변수-색인(parameter-indexed) 조건부 함수적(functionals)을 필요로 한다. 제안 추정량은 중요도 가중 원(source) 추정 방정식과 이러한 조건부 함수적의 대체(imputation)를 결합한다. 식별 가정 하에서 추정량은 밀도비 모델 또는 조건부-공변량 모델 중 하나만 올바르게 지정되어도 일관성을 유지한다. 정규성 조건 하에서 추정량은 root-$n$ 일관적이고 점근적으로 정규이며, 두 nuisance 모델이 모두 올바르게 지정될 때 반모수 효율 경계(semiparametric efficiency bound)에 도달한다.
로버스트 선형 적합(robust linear fit)은 반응 변수의 오염에 저항할 수 있지만, 유용한 전역적 설명을 제공하기에는 너무 조밀(dense)하거나 불안정할 수 있습니다. 본 연구에서는 안전장치가 적용된 좌표 강하(coordinate-descent) 경로를 따라 로버스트한 초기 추정량의 경험적 적합 곡면에 SCAD(smoothly clipped absolute deviation) 추정량을 적합하고, 후보 상태들을 충실도(fidelity), 간결성(parsimony), 섭동 안정성(perturbation stability), 홀드아웃 예측(held-out prediction) 측면에서 개별적으로 평가하는 페널티화 증류(penalized distillation)를 제안합니다. 새로운 이론적 결과들은 알고리즘이 실제로 계산하는 상태들에 적용됩니다. 오염되지 않은 고정된 설계를 조건으로 할 때, 결정론적 한계(deterministic bounds)는 초기 적합의 반응 변수 대체 유계성(response-replacement boundedness)을 유지된 모든 경로 상태로 전이합니다. 고정 차원의 경우, 경험적 그람(Gram) 투영과 영향 함수(influence function)를 통해 오라클 지지 집합(oracle-support) 가지를 특성화하고, 공분산 가중 최소제곱 근사 동치성에 대한 조건을 제시하며, 경로 조건부 일반화 정보 기준을 확립합니다. 반면, 표본 대비 차원의 비율이 큰 경우 전체 좌표 로버스트 적합이 예고 없이 붕괴되는데, 스크리닝(screening)이 이러한 구성을 복원합니다. 확정적 스크리닝(sure-screening) 프레임워크 하에서 로버스트성 한계와 지지 집합 및 선택 보장은 스크리닝된 적합으로 전이됩니다. 시뮬레이션에서는 p가 최대 240에 이르는 표본 대비 차원 비율과 신호 밀도 전반에 걸쳐 로버스트성 전이를 지지 집합 복구, 효율성 및 계산과 분리하여 분석함으로써, 스크리닝이 과다 선택(over-select)되었을 때 희소화 단계가 기여하는 바를 분리해 냅니다. 중복 그룹화된 초전도성 연구에서, 증류된 추정량은 사전에 지정된 학습(training) 반응 변수 변화 하에서도 예측 안정성을 유지하지만 81개 기울기 중 66.8~68.8개를 유지합니다. 더 강력한 희소화를 적용하면 모델(model)을 12.6~14.0개의 기울기로 줄일 수 있으나 눈에 띄는 충실도 및 예측 손실이 발생합니다. 따라서 증류는 해당 데이터에서 간결한 좌표 수준의 설명을 입증하지는 못하면서도 예측 안정성을 보존합니다.
고차원 표(tabular) 학습에서 특징 스크리닝은 모델 적합 전에 무관한 특징을 제거하는 경량의 모델에 무관한(model-agnostic) 방법을 제공한다. 그러나 원시 값을 직접 점수화하면 비선형 또는 분포 구조를 놓칠 수 있다. 우리는 PACE(Plug-and-Play Contextual Embedding)를 제안한다. PACE는 기존 특징 점수화 규칙 앞에 고정(frozen)된 표 파운데이션 모델(TFM) 열(column) 인코더를 삽입하여 각 특징을 더 고차원의 문맥 표현으로 확장한다. 통제된 연구 전반에서 PACE는 추가 인코딩 비용이 크지 않음에도 복잡한 비선형 의존성에 대한 원시 공간 스크리닝을 개선한다. 이러한 이득은 TALENT 데이터셋에서의 하류(downstream) 예측으로 이어진다. PACE-DC는 이진 AUC를 0.077, 다중 클래스 macro-AUC를 0.064만큼 개선하며, 열 개 학습기(learner)에 걸쳐 정규화 RMSE의 중앙값 개선은 0.063이다. 매칭된 무작위 가중치 및 무작위 특징 대조군은 PACE가 일반적인 차원 확장을 넘어 사전학습된 구조로부터 이득을 얻음을 보여준다. PACE는 또한 태스크에 맞춘 선택기 및 attribution 기반 방법 대비 유리한 성능-시간 트레이드오프를 달성하며, 사전학습된 열 기하를 표 학습을 위한 재사용 가능한 상류(upstream) 원시 요소로 자리매김한다.
임상시험에서는 일반적으로 치료군과 대조군을 무작위 배정하여 두 집단이 평균적으로 유사한 공변량(covariate) 분포를 갖도록 함으로써 편향되지 않은 인과 효과 추정을 보장합니다. 그러나 실제로는 피험자 모집 비용, 환자 탈락 등으로 인해 이러한 균형 잡힌 공변량 분포를 달성하기 어렵습니다. 이 문제에 대한 한 가지 해결책은 외부의 실제 임상 데이터베이스에서 대조군 환자를 포함하는 것입니다. 본 논문에서는 두 집단 간의 개별 단위를 매칭하는 대신, 치료군과 잠재적 대조군 간의 분포를 일치시켜 실제 데이터베이스에서 대조군 단위를 선택하는 방법인 DBML을 제안합니다. DBML은 세 단계로 구성됩니다. 첫째, 변분 오토인코더(variational autoencoder)를 사용하여 (치료군 분포에 대해) 비정상적인 데이터베이스 단위를 탐지합니다. 둘째, 치료군의 분포와 일치하도록 나머지 데이터베이스 단위의 가중치를 재조정합니다. 마지막으로, 이 가중치를 사용하여 대조군에 포함할 단위를 샘플링합니다. 제안된 방법은 대안적인 매칭 기반 알고리즘 및 가중치 기반 알고리즘과 비교되었으며, 공변량 균형 면에서 우수한 성능을 달성했습니다.
도구 변수(IV) 방법은 처치 내생성을 다루지만, 비순응과 이질적 처치 효과가 있을 때 이진 도구 변수는 일반적으로 모집단 평균 처치 효과(ATE)가 아니라 순응자(compliers) 집단에서의 국소 평균 처치 효과(LATE)를 식별한다. 처치 효과와 순응 확률이 이질적이고 잠재 요인을 통해 서로 의존하면, ATE는 IV 변동만으로는 식별되지 않을 수 있다. 본 연구는 이러한 요인에 대한 프록시를 사용해 LATE의 순응 가중을 조정하고 ATE를 복원하는 근접 도구 변수(proximal instrumental variable) 프레임워크를 제안한다. ATE가 잠재 처치 효과 이질성을 포착하는 결과(outcome) 브리지 또는 역순응 확률을 나타내는 순응(compliance) 브리지를 통해 식별됨을 보이며, 둘을 결합하면 이중 강건(doubly robust) 표현을 얻는다. 알려진·미지의 도구 변수 성향(propensity) 하에서 효율적 영향 함수(efficient influence function)를 도출한다. 추정을 위해 추정 성향에 대한 직교화 조건부 모멘트와 3-way 순차 교차 적합(cross-fitting) 방식을 갖춘 정규화 커널 minimax 브리지 추정량을 제안한다. 투영 브리지 위험(projected bridge-risk) 상한을 확립하고, 점근 정규성과 줌모수(semi-parametric) 효율성을 위한 조건을 제시한다. 이 프레임워크는 잠재 처치 효과 및 순응 이질성 하에서 국소 IV 효과에서 모집단 인과 효과로 이어지는 프록시 기반 경로를 제공한다.
우리는 비모수 활성화 함수를 갖춘 확장 가능하고 유연한 가우시안 프로세스(GP) 네트워크인 GNet을 구축한다. 핵심 계산 기여는 공분산 행렬을 명시적으로 구성하지 않고도 GP 활성화의 추정을 계산적으로 확장 가능하게 만드는 것이다. 고정 아키텍처 하에서 함수 클래스를 비교하는 이론적 연구를 제공하고, GNet에 대한 예측 위험 상계를 도출한다. 본질적으로 동일한 아키텍처와 최적화 설정을 사용할 때 GNet은 비선형 함수 예측, 실세계 데이터의 비모수 회귀, 고전 밀도 범함수 이론(DFT)에서 고차원 입력을 갖는 일체 직접 상관 함수 예측 등 다양한 테스트 문제 전반에서 경쟁력 있는 성능을 보인다. GNet의 우수한 성능은 유연한 비모수 신경원이 계산적으로 확장 가능함을 유지하면서 학습 가능한 파라미터 수를 상당히 줄일 수 있음을 시사한다.
고차 영향 함수(higher-order influence functions)는 일련의 논문(Robins et al., 2008, 2009a; van der Vaart, 2014; Robins et al., 2016, 2023; Liu et al., 2017)에서 소개된 것으로, 관측 데이터를 생성하는 가정된 통계 모델에 다양한 복잡도 감소 가정을 둘 때 한 부류의 통계적 함수(statistical functional)에 대해 비율 최적(rate-optimal) 점추정량을 구성하기 위한 통합 프레임워크이다. 고차(영향 함수) 추정량은 이론적으로 매력적이지만, 1차 추정량에 비해 실제 활용은 매우 제한적이다. Robins et al. (2008)과 Robins et al. (2017)에서 제안된 원래의 고차 추정량은 다차원 공변량에 대한 비모수 밀도 추정을 수반하는데, 이는 그 자체로 통계적으로나 계산적으로 매우 어려운 문제이다. 이 밀도 추정량은 다시 공변량의 k차원 기저 변환 집합에 대한 모집단 그람 행렬(Gram matrix)의 역행렬 $\Omega$를 계산하는 데 사용된다. 여기서 $k$는 $o (n^2)$까지 커질 수 있다. 이러한 잠재적 단점을 부분적으로 해소하기 위해, Liu et al. (2017)은 $k$를 $o (n)$으로 제한하고, 대신 표본 분할(sample-splitting)을 통해 흔히 얻는 독립 표본으로부터 계산한 표본 그람 행렬의 역행렬 추정량을 사용하여 $\Omega$를 직접 추정한다. Liu et al. (2017)은 이 대안적 추정량을 경험적 고차 추정량(empirical higher-order estimator)이라 부른다. 경험적 고차 추정량은 밀도 추정을 우회하지만, 고차원 표본 그람 행렬을 역행렬로 계산해야 하므로 수치적 불안정성을 겪는다. 본 논문에서는 실질 과학 분야에서 자주 등장하는 쌍선형 형식/함수(bilinear forms/functionals)의 한 부류에 대해, 표본 분할 없이도 사용할 수 있으며 경험적 고차 추정량보다 유한 표본 성능이 더 안정적인 새로운 안정화된 고차 추정량을 제안한다. 또한 이 새로운 고차 추정량 부류가 이와 유사한 통계적 보장을 가짐을 증명한다.
현대 디지털 플랫폼은 경쟁하는 참가자들 사이에 가치 있는 노출과 기회를 배분하기 위해 문맥적 밴딧(contextual bandits)을 사용합니다. 따라서 공정한 처우는 중요한 관심사이지만, 보상 극대화만으로는 우대 배분이 참가자의 역량(merit)을 반영하도록 보장하지 못합니다. 본 논문에서는 모든 문맥과 라운드에 걸쳐 보상 순서가 우대 배분을 정당화하도록 요구하는 균일 역량 기반 공정성(uniform merit-based fairness) 하에서 선형 및 매끄러운(smooth) 문맥적 밴딧을 위한 알고리즘을 개발하고, 적대적 보상 오염(adversarial reward corruption)이 이러한 보장에 미치는 영향을 연구합니다. 제안된 알고리즘은 \((1-\widetilde O(1/T))\)-공정성을 달성하며, 선형 보상에 대해서는 공정한 정책 중 미니맥스 최적(minimax optimal), 매끄러운 보상에 대해서는 거의 미니맥스 최적인 리그렛(regret)을 보입니다. 선형 환경에서 일치하는 하한(lower bound)을 통해 공정성의 대가(price of fairness)를 정확히 규명하며, 미니맥스 리그렛은 \(\log T\)에서 \(\log^2 T\)로 증가합니다. 매끄러운 보상의 경우 공정성 비용은 기껏해야 폴리로가리듬(polylogarithmic) 수준입니다. 나아가 리그렛과 공정성 강건성(robustness) 간의 분리를 규명하여, \(\widetilde O(1)\)의 오염 예산(corruption budget)만으로도 리그렛의 차수(order)를 악화시키지 않으면서 심각한 공정성 침해를 유발할 수 있음을 보입니다. 이에 따라 샘플링, 추정, 공정성 인증을 오염에 맞게 조정하는 강건한 알고리즘을 개발하여 균일 공정성을 보존하고 선형 및 매끄러운 보상 각각에 대해 미니맥스 최적 및 거의 최적인 리그렛을 달성합니다. 수치 및 준합성(semi-synthetic) 실험을 통해 이러한 발견을 실증합니다.
안정적 처치 단위 값 가정(Stable Unit Treatment Value Assumption, SUTVA)은 인과 추론(causal inference)에서 처치의 다중 버전이 존재하지 않는다는 조건을 포함한다. 관찰 연구에서는 처치의 실행 방식을 통제할 수 없지만, 처치에 여러 버전이 존재할 수 있다. 이러한 처치의 다중 버전을 무시하면 인과 효과 추정치에 편향이 발생할 수 있다는 점은 지적되어 왔으나, 편향 없는 식별과 추정을 명시적으로 다루는 인과 추론 프레임워크는 아직 충분히 개발되지 않았다. 따라서 복잡한 처치의 메커니즘을 더 깊이 이해하기는 어렵다. 본 논문에서는 처치의 버전이 관측되지 않는 경우에도 처치의 내재된 버전 간 인과 대비(causal contrast)를 추정하기 위해, 인과 추론에 전문가 혼합(Mixture-of-Experts, MoE) 프레임워크를 도입한다. 수치 실험을 통해 제안한 방법의 효과를 확인하였다.
비정상 공간 과정은 종종 왜곡된 공간 영역 위의 정상 과정으로 표현될 수 있다. 주어진 응용에 적절한 공간 왜곡(warping) 함수를 선택하는 일은 종종 어렵고, 이 때문에 왜곡 기반 방법은 대체로 2차원 공간 영역에 국한되어 왔다. 본 논문에서는 신경망 자기회귀 흐름(neural autoregressive flows, NAF)을 사용해 비정상·이방성 공간 과정을 모델링하는 새로운 접근법을 제안한다. NAF는 복잡하고 고차원적인 왜곡을 생성할 수 있는 가역 매핑의 한 클래스이다. 시뮬레이션 연구를 통해 NAF 기반 모델이 다른 널리 쓰이는 공간 과정 모델보다 더 큰 표현력을 갖음을 보인다. 제안한 모델링 프레임워크를 3D Argo Floats 데이터셋의 부분집합에 적용하여, 실제 응용에서의 유용성을 보여준다.
최신 조건부 생성 모델은 복잡한 공변량 의존성을 학습할 때 상당한 어려움에 직면한다. 충분 차원 축소(sufficient dimension reduction, SDR)는 이러한 의존성을 압축하는 원칙적인 접근법을 제공하지만, 기존의 SDR 프레임워크는 조건부 생성을 위해 정식화된 것이 아니다. 이러한 간극을 메우기 위해, 우리는 생성적 분포 회귀(generative distributional regression)를 위한 통합적이고 아키텍처 측면에서 매개변수 효율적인 프레임워크인 Belted Engression을 제안한다. 우리의 접근법은 충분 표현 학습(sufficient representation learning)에 기반한 종단간(end-to-end) 압축-후-생성(compress-then-generate) 패러다임을 확립하며, 생성 아키텍처에 구조적 병목(structural bottleneck)을 내장한다. 이론적으로, 우리는 표준 SDR 조건이 법칙 보존(law-preserving) 생성 분해와 동치임을 증명하며, 이 분해는 모집단 Belted Engression 목적 함수의 전역 최적해에서 달성된다. 나아가, 에너지 스코어(energy-score) 손실에 대한 국소적 Bernstein 유형 통제를 밝혀냄으로써, 기존 결과보다 더 날카로운 유한 표본 수렴률을 확립한다. 또한 이 벨트형(belted) 아키텍처가 엄밀하게 더 작으며, 구조화되지 않은 기준선 대비 점근적으로 사라지는 매개변수 수로 동작함을 증명한다. 광범위한 시뮬레이션과 실제 응용을 통해 Belted Engression이 더 적은 학습 가능한 매개변수로 우수한 분포 예측과 SDR 복원을 달성함을 보인다.
자기 보정(self-calibrating) 모니터는 임의의 드리프트 하에서도 사전에 규정된 장기 오경보율을 보장하기 위해 온라인으로 임계값을 적응시킵니다. 본 논문에서는 각 법칙의 정확한 유효 범위를 명시하면서 해당 보장에 대한 대가를 계산합니다. 첫째, 이 보장은 모니터가 탐지하려는 대상에 둔감한 회계적 항등식(accounting identity)입니다. 두 가지 증거 항등식은 온라인 분위수 추적기(quantile tracker)에 대한 비용을 정확하게 규정합니다. 높이 $\delta$의 지속적인 스텝 변화는 $\delta/\eta$의 1개 경보 이내의 초과 경보 질량을 발생시키며, $\delta$가 이득 $\eta$의 격자 배수일 때는 경로별(pathwise)로 정확히 $\delta/\eta$를 발생시킵니다. 기울기 $c$의 램프 변화는 누적된 크기와 무관하게 경보율 상한과 일치하는 경계 $c=\eta(1-\alpha)$에 도달하기 전까지 정확히 $c/\eta$의 정상 초과율(stationary excess rate)을 발생시킵니다. 둘째, 보증서 자체의 변동은 정확한 법칙을 따릅니다. 윈도우 기반 경보 질량이 긴밀한 내부 상태의 차이로 축약(telescope)되기 때문에, 윈도우 기반 경보율의 표준편차는 이항 분포의 $1/\sqrt{L}$이 아니라 $1/L$ 차수입니다. 적합된 매개변수(parameter) 없이 닫힌 형태의 상수가 검증됩니다. 이항 척도로 보정된 탐지기는 $\sqrt{\eta\varphi(q_0)L}$만큼 잘못 보정되며, 올바른 보정을 적용하면 탐지 윈도우가 고장 속도의 역수에 대해 2차(quadratic)에서 선형(linear)으로 전환됩니다. 셋째, 드리프트 클래스 $\mathcal{D}$를 허용해야 하는 모든 모니터는 어떤 시계(horizon)와 규칙에서도 $\mathcal{D}-\mathcal{D}$ 내의 모든 고장에 대해 맹점(blind)을 갖습니다. 이 증명은 의도적으로 기초적인 2점 논증(two-point argument)을 사용하며, 본 연구의 기여는 이를 통해 식별된 대상에 있습니다. 속도 유계 클래스의 경우 맹점 집합은 정확히 속도가 두 배인 클래스이며, 추적기는 자체 이득에 의해 고정된 속도 클래스를 흡수하므로, 흡수된 드리프트를 정상으로 선언하는 인증 체제 하에서 모니터는 $\mathcal{D}$를 인위적으로 생성(manufacture)합니다. 핀스커(Pinsker) 부등식보다 더 날카롭고 무의미해지지 않는 정확한 가우시안 투영 한계는 이 집합 외부에서의 검정력(power)을 정량화합니다.
베이지안 그래프 정렬(Bayesian graph alignment)은 대응 확률을 추정하지만, 정렬 점수 추적(trace)의 수렴(convergence)이 반드시 정확한 대응 주변확률(correspondence marginals)을 의미하지는 않습니다. 본 연구에서는 네 가지 소스 군집에서 생성한 240개의 새로운 정확한 그래프 쌍, 정점이 20~100개인 240개의 더 큰 쌍, 그리고 별도의 60개 사례로 구성된 정확한 구현 검증을 통해 이러한 격차를 감사합니다. 명시적인 에지 플립 가능도(likelihood) 하에서 세 가지 샘플러와 점수, 주변확률, 지시자(indicator), 범주형 및 분류(classification) 기반 진단법을 비교합니다. 정확한 정보 기반 샘플러(exact informed sampler)의 경우, 주변확률 불일치(marginal disagreement)는 점수 R-hat보다 오차 판별력을 향상시키지만, 기본 국소 샘플링(vanilla local sampling)에 대한 개선 여부는 불확실합니다. 할당 기반 R*과 짧은 지시자 패널도 경쟁력이 있으며, 모든 샘플러와 평가 지표 전반에 걸쳐 우위를 점하는 단일 진단법은 존재하지 않습니다. 더 큰 규모에서는 진단법이 사후 오차가 아닌 후속 주변확률 변화를 예측하며, 분류 성능은 드리프트 임계값에 따라 달라집니다. 서로소 윈도우(disjoint-window) 및 홀드아웃 체인(held-out-chain) 점검은 양의 연관성을 약화시키지만 여전히 유지합니다. 원래의 240개 레퍼런스 세트 중 단 22개만이 일치성 스크리닝을 통과합니다. 실패로 선정된 40개 사례의 경우, SMC 입자를 8배 늘려도 불일치가 해결되지 않는 반면, 추가적인 회춘화(rejuvenation)는 도움이 됩니다. 더 긴 정보 기반 실행은 여전히 불안정합니다. 기본적인 실행 가능 정렬(feasible-alignment) 경계는 근사적 레퍼런스 합의와 무관하게, 밀집된 100개 정점 사례에서 SMC 및 정보 기반 체인 점수가 심각하게 대표성을 띠지 못함을 보여줍니다. 또한 정확한 주변확률 오차가 약 .967에 달함에도 불구하고 불일치가 0에 가까운 공통 시작 체인들을 제시합니다. 이러한 결과는 할당에 민감한 감사를 뒷받침하는 동시에 유한한 예산, 진단법 순위, 그리고 정확성의 증거로서의 레퍼런스 일치성의 한계를 규명합니다.
미국 서부에서 눈녹음(snowmelt)은 도시 식수의 주요 공급원일 뿐만 아니라 농업 산업에도 필수적입니다. 따라서 정확한 적설(snowpack) 예측은 수자원 정책 및 관리에 매우 중요합니다. 자동 눈 원격 측정(SNOTEL) 관측소는 공간과 시간에 걸쳐 강한 상관관계를 보이는 눈 물 당량(SWE)의 정확한 일별 측정값을 제공합니다. 본 논문에서는 SNOTEL 네트워크 전반에서 미래 SWE 값을 예측하는 문제를 다룹니다. 구체적으로, 탈상관화된 SWE 데이터에 대해 장단기 메모리(LSTM) 신경망을 학습(training)하기 전에 가우시안 프로세스(Gaussian Process) 기반 선형 변환을 사용하여 공간적 상관관계를 제거합니다. 이러한 접근법을 통해 LSTM은 각 관측소에서 왜곡되지 않은 시간적 신호를 학습할 수 있습니다. 본 연구는 이처럼 공간 및 시간 구성 요소를 분리하는 것이 여러 기준선(baseline) 모델보다 더 뛰어난 예측 성능을 거둔다는 것을 보여줍니다. 나아가, 결과로 생성된 SWE 예보의 불확실성을 정량화하기 위해 등각 예측(conformal prediction)을 통합하여 시공간 데이터에 대한 예측 구간을 설정하기 위한 잠재적 프레임워크를 보여주는 무분포(distribution-free) 접근법을 제공합니다. 정확한 점 예측과 무분포 불확실성 정량화는 결합하여 차계절(subseasonal) 규모의 SWE 축적 예측 또는 미래 데이터를 활용한 SWE 전망을 위한 프레임워크를 제공하는 동시에, 대규모의 시공간적으로 완전한 SWE 지도를 예측하는 미래 연구를 촉진하고 지원합니다.