심리측정 설문은 풍부한 문항 수준 정보를 담고 있으나, 서로 다른 표현 학습(representation learning) 목적 함수가 동일한 잠재 조직을 복원하는지는 여전히 불분명하다. Cyprus ProW 유치원 시험의 기준선 평가에서 매칭된 교사-아동 757쌍을 사용하여 이 질문을 조사했다. 아동의 SDQ, ASBI, CBRS 문항 반응으로부터 주성분 분석(principal component analysis, PCA)과 클러스터링을 통해 행동 구조를 특성화하였고, 네 가지 행동 표현형(behavioral phenotypes)을 도출했다. 대조(contrastive) 목적 함수는 PCA 기반 표현에 비해 교사-아동 검색(retrieval)을 크게 개선하여 Top-1 정확도를 0.13%에서 7.27%로, Top-10 정확도를 1.98%에서 56.14%로 높였다. 그러나 대조 표현은 PCA 기반 표현보다 행동 표현형 구조를 덜 효과적으로 보존했다. 정렬(alignment)과 행동 예측을 공동으로 최적화하는 다중 과제(multi-task) 목적 함수는 행동 조직을 부분적으로 복원했으나 검색 성능은 감소시켰다. 이 결과는 교사-아동 대응과 행동 표현형이 잠재 조직의 서로 다른 형태를 나타냄을 보여 주며, 연결된 심리측정 데이터에서 복원되는 잠재 구조가 표현 학습 목적 함수에 따라 달라짐을 보여 준다.
인과 추론에서 번잡 함수(nuisance-function) 추정량을 평가하는 데 예측 오차가 널리 쓰이지만, 인과 추정량 성능과의 관계는 성능 지표에 따라 달라질 수 있다. Monte Carlo 시뮬레이션으로 부분 선형 모델(partially linear model)에서 이 질문을 연구했다. 일반 최소제곱(OLS), 일반화 가법 모델(GAM), XGBoost, XGBoost를 사용한 이중 머신러닝(DML-XGBoost)을 비교하며 번잡 함수 예측 오차, 바이어스, RMSE, 95% 신뢰구간 커버리지를 평가했다. 또한 노출(exposure)과 결과(outcome) 번잡 함수의 추정 오차 절대곱에 기반한 단순 결합 오차 지표를 검토했다. 시뮬레이션 설정 전반에서 XGBoost는 오라클이 아닌 방법 중 RMSE가 가장 낮았고, DML-XGBoost는 일반적으로 더 나은 신뢰구간 커버리지를 제공했다. 예측 오차는 방법과 설정에 걸쳐 인과 바이어스와 일관되게 대응하지 않았으며, 점 추정 성능이 최고인 방법이 반드시 최고의 신뢰구간 커버리지를 갖지는 않았다. 결합 오차 지표는 인과 바이어스와 약하게만 연관되었고, 인과 성능의 유용한 독립 지표가 되지 못했다. 이 결과는 예측 오차가 번잡 함수 추정을 평가하는 데 유용하지만, 그로부터 얻어진 인과 추정량의 품질을 직접적인 척도로 취급해서는 안 된다는 것을 시사한다.
The visible parts of a scene are determined by occlusion among overlapping surfaces. Here we consider "dead leaves" models, which replicate this by independently sampling objects ("leaves") with position, shape, color, and texture and layering them until the image is covered. Building on prior theory, we present a self-contained framework that rigorously defines the dead leaves model and derives an analytical Bayesian ideal observer for partitioning finite pixel sets. The longest part of the paper spans the derivation of the prior probability, which elevates the observer beyond pixel-similarity methods by incorporating geometric information. These computations are practical only for small pixel sets (up to 9-10 pixels). We emphasize accessibility through step-by-step derivations, extensive visualizations, and examples. We empirically evaluate three tractable observers (prior-only, likelihood-only, and the full ideal observer), plus a random baseline on 108 dead leaves image datasets varying in texture intensity, leaf size, and image size. Likelihood-only performance falls with increasing texture intensity and image size. Prior-only performance falls with decreasing leaf size and increasing maximal image dimension. All model-based observers strongly outperform the random baseline, and the ideal observer consistently outperforms the others by combining both information sources. The model provides a principled upper bound on segmentation performance for limited pixel sets, enabling comparisons with human observers and algorithms.
우리는 유클리드 예측변수와 분리 가능한 거리 공간(separable metric space)의 랜덤 객체(random object) 응답을 갖는 회귀에 대한 주변 좌표 검정(marginal coordinate test)을 개발한다. 목표는 나머지 예측변수들이 주어졌을 때, 특정 예측변수가 응답에 대해 추가적인 정보를 제공하는지 검정하는 것이다. 준지도(semi-supervised) 설계에서는 레이블이 없는 표본으로 예측변수의 조건부 평균을 추정하고, 독립적인 레이블 표본은 추론(inference)을 위해 별도로 확보해 둔다. 이렇게 얻은 잔차를 곱 공간(product-space) 커널(kernel)과 결합하여, 응답 잔차 없이도 커널 조건부 평균 종속성(kernel conditional mean dependence, KCMD) U-통계량을 구성한다. 항등 변환 기반의 주 검정은 필요 조건인 조건부 평균 제약을 대상으로 하며, 다중 변환 확장은 더 넓은 범위의 대립가설을 탐색한다. 우리는 가중 중심화 카이제곱(weighted centered chi-square) 귀무 극한분포, 와일드 부트스트랩(wild bootstrap)의 타당성, 고정된 검출 가능 대립가설에 대한 일치성, 그리고 평균 원소(mean-element) 대립가설 하에서의 국소 검정력을 확립한다. 동시 추론을 위해, 절단된(truncated) p-to-e 보정과 e-BH를 결합하면 일반적인 종속성 하에서 점근적 거짓 발견율(false discovery rate) 제어를 제공한다. 유클리드 및 비유클리드 응답을 이용한 시뮬레이션과 뉴욕시 택시 이동량(taxi-flow) 분석을 통해 제안한 방법을 예시한다.
본 논문에서는 고전적 K-평균(K-means) 알고리즘과 달리 이상치(outlier)에 강건하며 이종의 타원형 군집에 적응할 수 있도록, 마할라노비스 거리(Mahalanobis distance)와 결합된 밀도 거듭제곱 발산(DPD) 척도를 사용하여 군집 중심 및 공분산 행렬을 추정하는 로버스트 군집화 방법인 MK-means DPD를 소개한다. 마할라노비스 거리 기반 K-평균은 일반적인 수렴(convergence) 보장이 결여되어 있으므로, 군집 할당 단계를 점별 DPD 손실(loss) 관점에서 재정의하는 수렴 변형인 밀도 일관 MK-means DPD(DC-MK-means DPD)를 추가로 도입한다. 우리는 그 결과로 도출된 알고리즘이 유한한 단계 내에 수렴한다는 공식적인 정리를 증명한다. 또한 성능 비교 자체가 이상치에 의해 왜곡되지 않도록 보장하기 위해 두 가지 새로운 로버스트 내부 평가 지표인 중위수 Davies-Bouldin 지수(Median Davies-Bouldin Index)와 절사 Calinski-Harabasz 지수(Trimmed Calinski-Harabasz Index)를 제안한다. 제안된 방법들의 효과는 시뮬레이션 데이터를 통해 기존 방법들 대비 우수함을 보임으로써 입증되며, 유사한 종을 식별하기 위한 Iris 데이터와 결과 군집의 지리적 및 사회경제적 패턴을 조사하기 위한 전 세계 국가의 COVID-19 치명률 및 감염률 데이터라는 두 가지 실제 데이터셋을 통해서도 입증된다.
배포된 의사결정은 업데이트에 운영적, 규제적 또는 전환 비용이 수반되기 때문에 한 번 최적화된 뒤 그대로 유지되는 경우가 많다. 운영 조건이 변할 때, 이러한 의사결정은 언제 다시 최적화해야 하는가? 본 연구는 목적함수의 함수 형태는 알려져 있으나 의사결정자의 트레이드오프가 알려지지 않은 선호 매개변수(parameter)로 인코딩된 확률적 최적화 문제에서 이 질문을 다룬다. 표준적인 분포 변화 검정은 이 목표와 잘 맞지 않는다. 이러한 검정은 탐지는 가능하지만 의사결정과 무관한 변화를 표시할 수 있으며, 현재 적용 중인 의사결정이 실질적으로 차선(suboptimal)이 되었는지는 판단하지 못한다. 우리는 역최적화(inverse optimization)를 사용해 잠재 선호를 추론하고 현재 분포 하에서 배포된 의사결정의 최적성 격차(optimality gap)를 검정하는 의사결정 중심 프레임워크인 \texttt{RADAR}(Regret-based Assessment of Decision Adequacy and Risk)를 제안한다. 리그렛(regret)을 대상으로 함으로써 \texttt{RADAR}는 의사결정과 무관한 변화는 무시하고, 재최적화가 필요한 변화는 탐지한다. 우리는 2-표본 절차와 순차적 변화점(changepoint) 절차를 개발하고, 제1종 오류와 검정력에 대한 점근적 보장을 수립한다. 합성 최적화 문제, 준합성(semi-synthetic) 용량 할당 과제, 경찰 관할구역 계획 전반에서 \texttt{RADAR}는 의사결정과 무관한(decision-agnostic) 대안들보다 유해한 변화와 무해한 변화를 더 안정적으로 구분한다.
UK Biobank나 All of Us Research Program과 같은 대규모 인구 수준 데이터셋에는 유전적 또는 생활습관 측정치처럼 특정 분석에 필요한 공변량이 없는 경우가 많은 반면, 관련 연구들에서는 이러한 공변량이 측정되어 있다. 이는 하나의 데이터셋 내에서 공변량이 부분적으로 결측되는 것이 아니라, 대상(target) 집단에서 공변량이 완전히 관측되지 않는 집단 간(cross-population) 결측 데이터 문제를 야기한다. 본 연구는 이러한 설정을 위한 증강 전이 회귀 학습(augmented transfer regression learning) 방법을 제안한다. 핵심 식별 조건은 하위 집단 이동(sub-population shift) 가정이다. 즉, 결과 변수와 관측된 공변량의 결합 분포는 소스(source) 집단과 대상 집단 간에 다를 수 있지만, 관측된 변수가 주어졌을 때 결측 공변량의 조건부 분포는 변하지 않는다는 것이다. 우리는 중요도 가중(importance-weighted) 추정 방정식에 결측 공변량의 1차 및 2차 적률에 대한 대체(imputation) 항을 결합한다. 그 결과 얻어지는 추정량은 이중 강건(doubly robust)하여, 밀도비 모델 또는 두 대체 모델이 모두 올바르게 설정된 경우 중 하나만 성립해도 일치성을 유지한다. 이 추정량은 n^{1/2}-일치성을 가지며 점근적으로 정규분포를 따르고, 두 가지가 모두
샤플리 값(Shapley values)과 세미밸류(semivalues)를 포함한 확률적 가치(probabilistic values)는 블랙박스 모델의 동작을 데이터 포인트나 특성에 귀속시키는 모델 불가지론적(model-agnostic) 프레임워크를 제공하며, 설명 가능한 인공지능(XAI) 및 데이터 가치 평가를 포함한 광범위한 응용 분야를 갖습니다. 그러나 이들의 정확한 계산에는 지수적으로 많은 연합에 대한 효용 평가가 필요하므로, 현대 머신러닝 응용에서는 몬테카를로(Monte Carlo) 근사가 필수적입니다. 기존 추정량들은 가중 평균, 자기 정규화 가중치, 회귀 조정, 가중 최소제곱법 등 다양한 표현 전략을 통해 주로 개발되었습니다. 본 연구의 핵심 관찰은 겉보기에 서로 달라 보이는 이러한 구성들이 공통된 1차 전개(first-order expansion)를 공유하며, 이 전개의 주도 항(leading term)이 표본추출 분포(sampling law)와 작동 대리 함수(working surrogate function)에 의해 결정된다는 점입니다. 이러한 1차 표현은 표본추출 분포와 대리 함수가 통계적 효율성을 어떻게 공동으로 결정하는지를 특징짓는 주요 평균 제곱 오차(MSE)의 명시적 표현을 도출합니다. 이 기준을 바탕으로, 본 논문에서는 1차 MSE를 최소화하도록 표본추출 분포와 대리 함수를 직접 선택하는 EASE(Efficiency-Aware Surrogate-adjusted Estimator)를 제안합니다. 실험을 통해 EASE가 다양한 확률적 가치에 대해 기존 추정량들을 일관되게 능가함을 입증합니다.
네트워크 메타분석(NMA)은 치료 네트워크 전반에 걸쳐 직접 비교와 간접 비교를 결합하지만, 특히 상관된 대조(contrast)를 갖는 다군(multi-arm) 시험의 경우 NMA 추정치를 그대로 재현하는 정확한 기여도 분해 방법은 아직 부족하다. 본 연구에서는 추정량을 관측된 쌍별 대조를 일관성 제약 대조 공간(consistency-constrained contrast space)으로 옮기는 선형 사상(linear mapping)으로 표현하는 NMA의 대조 공간 사영(contrast-space projection) 정식화를 개발한다. 이 표현을 바탕으로, 대수적 중복을 제거하고 유일하며 불변인 연구 수준 분해를 제공하는 표준적인 연구 내 축약(canonical within-study reduction)을 통해 직접 근거와 간접 근거를 정의한다. 그 결과로 얻어지는 공분산 반영(covariance-aware) 가중치는 NMA 추정량을 정확하게 재구성하며, 간접 경로 수준의 구성요소로 더 세분화할 수 있다. 고정효과 하에서는 동일한 사영이 일반화된 Cochran Q 분해, 즉 설계 내 이질성(within-design heterogeneity)과 설계 간 비일관성(between-design inconsistency)으로의 분해 또한 나타낸다. 이 프레임워크는 포레스트 플롯(forest plot), 긴장 플롯(tension plot), 경로 기반 시각화를 포함한 진단 및 그래픽 도구를 제공한다. 실제 네트워크에 대한 적용 사례는 이 접근법이 NMA에서 근거 기여도를 재현 가능하고 해석 가능한 방식으로 설명함을 보여준다.
예측 추론(predictive inference)은 통계학의 근본적인 과제로, 전통적으로 데이터 분포에 대한 모수적 가정과 모델이 데이터로부터 학습하는 방식에 대한 상세한 분석을 통해 다루어져 왔습니다. 최근 몇 년 동안 컨포멀 예측(conformal prediction)은 고차원 데이터와 복잡한 머신러닝 모델을 수반하는 현대적 응용 분야에 적합한 대안적 프레임워크로 부상했습니다. 이 방법의 매력은 교환가능성(exchangeability)과 같은 대칭성 가정에 주로 의존하여 분포에 무관(distribution-free)하며, 학습 알고리즘을 블랙박스로 취급하여 모델에 구애받지 않는다(model-agnostic)는 점에서 비롯됩니다. 이러한 제한적인 가정 하에서도 컨포멀 예측은 정확한 유한 표본(finite-sample) 보장을 제공하지만, 이는 일반적으로 한계적(marginal)이므로 신중한 해석이 필요합니다. 본 논문에서는 컨포멀 예측의 핵심 아이디어를 설명하고 주요 방법론들을 검토합니다. 본 논문은 포괄적인 서베이를 제공하기보다는, 명확한 개념적 입문점이자 이 분야에 대한 교육적인 개요를 제공하는 것을 목표로 합니다.
경영 및 사회과학 응용에서 결과 변수는 종종 관측되지 않은 결과 그 자체에 의존하는 방식으로 결측된다. 예를 들어 서비스 시스템에서 고객이 평점을 제출하는지 여부는 그들이 부여했을 평점에 달려 있다. 이러한 무작위 결측이 아닌(MNAR) 메커니즘은 관측 과정에 대한 강한 가정 없이는 모집단량의 식별을 어렵게 만든다. 한편 고객 상호작용 이력과 같은 풍부한 비구조화 데이터가 점점 더 이용 가능해지며, 대규모 언어 모델(LLM) 같은 도구를 사용해 구조화된 측정치를 구성하는 데 활용할 수 있다. 본 연구에서는 이러한 측정치를 약한 섀도우 변수(weak shadow variables)로 사용하는 가정을 최소화한 부분 식별 프레임워크를 제안한다. 약한 섀도우 변수는 참 결과와 관측된 공변량이 주어졌을 때 결측과 조건부 독립인, 결과에 정보를 담는 대리 변수(outcome-informative proxies)로 정의된다. 중요한 점은, 이들이 결측된 결과를 정확히 예측할 필요가 없으며 고전 섀도우 변수 문헌의 완전성(completeness) 요건을 충족할 필요도 없다는 것이다. 식별을 위해 선형 프로그램 한 쌍을 통해 모집단량에 대한 sharp bound를 특성화한다. 추정 및 추론을 위해, 표본 오차 하에서도 실행 가능한 국소화 penalized 추정량과 신뢰구간 구성을 위한 부분표본(subsampling) 알고리즘을 제안한다. 실제 고객 서비스 대화를 사용한 반합성(semi-synthetic) 실험에서, 약한 섀도우 변수 구간은 보조 정보가 없는 경우보다 약 89% 더 좁으며, 중점의 추정 오차는 고전 MNAR 방법보다 약 41% 낮다.
확산 모델(diffusion model)은 최근 시뮬레이션 기반 추론(simulation-based inference, SBI)을 위한 강력한 학습기로 부상하여, 시뮬레이션 데이터와 실제 데이터로부터 잠재 매개변수를 빠르고 정확하게 추정할 수 있게 해 주고 있다. 스코어 기반(score-based) 정식화는 매개변수와 관측값에 대한 조건부 분포 또는 결합 분포를 학습하는 유연한 방법을 제공하며, 이를 통해 다양한 모델링 문제에 활용할 수 있는 범용적인 해법을 제공한다. 본 튜토리얼 리뷰에서는 학습, 추론, 평가에 대한 설계 선택지를 다루며 SBI를 위한 확산 모델의 최근 발전을 종합한다. 가이던스(guidance), 스코어 합성(score composition), 플로 매칭(flow matching), 일관성 모델(consistency model), 결합 모델링(joint modeling) 등 다양한 개념이 만들어 내는 기회를 조명한다. 또한 노이즈 스케줄, 매개변수화 방식, 샘플러가 효율성과 통계적 정확도에 어떤 영향을 미치는지 논의한다. 마지막으로 매개변수 차원, 시뮬레이션 예산, 모델 유형에 걸친 사례 연구로 이러한 개념을 설명하고, 향후 연구를 위한 미해결 질문을 제시한다.
고차원 회귀에서 널리 쓰이는 변수 선택 엔진인 Lasso(Least absolute shrinkage and selection operator)는 보통 교차 검증(CV)으로 튜닝됩니다. 이 방식은 느리고, 고차원·저신호 대 잡음비(SNR) 설정에서는 정확도가 떨어지는 것으로 알려져 있습니다. 벡터 자기회귀(VAR)처럼 시계열 교차 검증(TSCV)으로 튜닝하는 고차원 시계열 모델에서는 이런 문제가 더 커집니다. 본 논문은 한 번의 Lasso 적합 과정에서 계산되는 편잔차(partial residuals)에 담긴 정보를 이용해 Lasso가 스스로 자동으로 튜닝되게 하는 전략 $\texttt{autotune}$을 제안합니다. 이 전략은 노이즈 표준편차와 관련 예측 변수의 열 공간(column space)을 번갈아 추정하는 것으로도 볼 수 있습니다. 회귀 및 VAR 모델에 대한 수치 실험에서 $\texttt{autotune}$은 기존 대안보다 빠르고, SNR이 낮을 때 더 정확했습니다. 또한 노이즈 스케일의 정확한 추정량과 모델 희소성을 점검하기 위한 스크리 플롯(scree plot)과 유사한 진단 플롯을 제공합니다. 여러 실제 데이터셋에서 $\texttt{autotune}$의 이점을 보였으며, CRAN에서 이용할 수 있는 R 패키지를 개발했습니다.
The proliferation of Large Language Models (LLMs) necessitates valid evaluation methods to provide guidance for both downstream applications and actionable future improvements. The Item Response Theory (IRT) model with Computerized Adaptive Testing has recently emerged as a promising framework for evaluating LLMs via their response accuracy. Beyond simple response accuracy, LLMs' chain of thought (CoT) lengths serve as a vital indicator of their reasoning ability. To leverage the CoT length information to assist LLM evaluation, we propose the \textbf{La}tency-\textbf{R}esponse \textbf{T}heory (LaRT) model, which jointly models both the response accuracy and CoT length by introducing a key correlation parameter between the latent ability and the latent speed. We derive an efficient stochastic approximation Expectation-Maximization algorithm for parameter estimation. We establish rigorous identifiability results for the latent ability and latent speed parameters to ensure the statistical validity of their estimation. Through both theoretical asymptotic analyses and simulation studies, we demonstrate LaRT's advantages over IRT in terms of superior estimation accuracy and shorter confidence intervals for latent trait estimation. To evaluate LaRT in real data, we collect responses from diverse LLMs on popular benchmark datasets. We find that LaRT yields different LLM rankings than IRT and outperforms IRT across multiple key evaluation metrics including predictive power, item efficiency, ranking validity, and LLM evaluation efficiency. Code and data are available at https://github.com/Toby-X/Latency-Response-Theory-Model
대규모 언어 모델(LLM)의 텍스트 워터마크는 합성 텍스트를 탐지하고 인간이 작성한 콘텐츠와 LLM이 생성한 텍스트를 구별하는 데 점점 더 중요한 도구가 되고 있습니다. 기존 연구의 대부분은 텍스트 전체의 워터마크 적용 여부를 판별하는 데 초점을 맞추고 있지만, 많은 실제 시나리오에서는 인간이 작성한 콘텐츠와 워터마크가 적용된 콘텐츠가 뒤섞인 혼합 소스 텍스트를 다루게 됩니다. 본 논문에서는 혼합 소스 텍스트에서 워터마크 비율을 최적으로 추정하는 문제를 다룹니다. 우리는 이 문제를 피벗 통계량(pivotal statistics)에 기반한 혼합 모델(mixture model)의 비율 매개변수를 추정하는 문제로 공식화합니다. 먼저, 특정 워터마킹 기법에서는 이 매개변수가 일치 추정(consistently estimable)은 고사하고 식별 가능(identifiable)조차 하지 않음을 보여줍니다. 이와 극명하게 대조적으로, 탐지를 위해 연속 피벗 통계량을 사용하는 워터마킹 방법의 경우 온건한 조건 하에서 비율 매개변수가 식별 가능함을 증명합니다. 우리는 널리 사용되는 여러 비편향 워터마크를 예시로 포함하는 이 계열의 방법들을 위한 효율적인 추정량(estimator)을 제안하고, 피벗 통계량에 기반한 임의의 가측 추정량(measurable estimator)에 대한 미니맥스 하한(minimax lower bound)을 도출하여 제안하는 추정량이 이러한 하한을 달성함을 보입니다. 합성 데이터와 오픈소스 모델로 생성된 혼합 소스 텍스트 모두에 대한 평가를 통해, 제안된 추정량이 일관되게 높은 추정 정확도를 달성함을 입증합니다.
본 논문에서는 독립동일분포(i.i.d.) 표본으로부터 모델 차수(model order)와 혼합 분포(mixing distribution)를 모두 추정하는 데 특히 초점을 맞추어 1차원 가우시안 혼합 모델(GMM) 학습 문제를 연구한다. 본 논문은 1차원 가우시안 혼합 모델에서 모델 차수 추정을 위한 최적 표본 복잡도(sampling complexity)를 규명한다. 높은 확률로 성분의 개수를 올바르게 식별하는 데 필요한 표본 수에 대한 근본적인 하한을 증명하고, 이 한계가 성분 평균 간의 분리 정도와 전체 성분 수에 결정적으로 의존함을 보인다. 이어서 모델 차수와 혼합 분포를 모두 추정하기 위한 푸리에(Fourier) 기반 접근법을 제안한다. 제안하는 알고리즘은 표본으로부터 구성한 푸리에 측정값을 활용하며, 분석 결과 이 알고리즘의 표본 복잡도가 앞서 규명한 하한과 일치함을 보여 최적성을 확인한다. 수치 실험을 통해 제안한 방법이 효율성과 정확도 측면에서 기존 기법보다 우수함을 추가로 보인다.
우리는 생성 모델의 품질을 평가하는 것을 목표로, 두 분포에서 각각 추출한 샘플이 주어졌을 때 이들을 비교하기 위한 우도 무관(likelihood-free) 방법을 제안한다. 제안된 접근 방식인 PQMass는 단일 생성 모델의 성능을 평가하거나 여러 경쟁 모델을 비교하기 위한 통계적으로 엄밀한 방법을 제공한다. PQMass는 표본 공간을 겹치지 않는 영역으로 분할하고 각 영역에 속하는 데이터 샘플 수에 카이제곱 검정을 적용하여, 두 샘플 세트에서 유도된 빈(bin) 빈도수가 동일한 다항 분포에서 추출되었을 확률을 측정하는 p-값(p-value)을 제공한다. PQMass는 실제 분포의 밀도에 관한 가정에 의존하지 않으며, 보조 모델을 학습(training)하거나 적합(fitting)하는 데 의존하지도 않는다. 우리는 다양한 모달리티와 차원의 데이터에서 PQMass를 평가하여 생성된 샘플의 품질, 참신성, 다양성을 평가하는 데 있어 그 효과를 입증한다. 나아가 PQMass가 중간 수준의 고차원 데이터로 잘 확장(scaling)되어 실제 응용 분야에서 특징(feature) 추출의 필요성을 없애줌을 보여준다.
순전파 신경망(FNN)은 일반적으로 순수 예측 알고리즘으로 여겨지며, 강한 예측 성능으로 많은 머신러닝 응용에 쓰여 왔다. 그러나 유연성은 해석 가능성과의 상충을 동반하므로, FNN은 역사적으로 통계학자들 사이에서 덜 선호되어 왔다. 그럼에도 적절히 간결한 얕은 FNN에 대해서는 유의성 검정과 불확실성 정량화 같은 고전 통계 이론이 여전히 유용한 회귀형 요약을 제공할 수 있다. FNN에 통계적 추론 방법과 공변량 효과 시각화를 더하면 초점을 블랙박스 예측에서 벗어나 전통적 통계 모델 쪽으로 옮길 수 있다. 이를 통해 더 추론적인 분석이 가능해지고, 따라서 FNN을 통계 모델링 맥락에서 더 접근하기 쉽게 만들 수 있다. 본 연구는 정규화(페널티) FNN 맥락에서 공변량 수준 Wald 검정을 조사하고, 회귀 계수를 모방하는 공변량 효과 플롯도 제안한다. Wald 기반 추론의 성능, 특히 이 접근이 잘 작동하는 경우를 중점적으로 시뮬레이션 연구를 통해 광범위하게 검토한다. 신경망에 대한 이 통계 기반 접근은 보험 데이터 적용을 통해 시연한다.
머신러닝 시스템은 실행 중에 점점 더 자주 교정되고 있으며, 개입 시점 결정은 점점 더 통계적 모니터에 위임되고 있다. Anytime-valid 추론은 언제든 행동할 수 있는 근거를 약속하며, 이는 바로 이 설정이 필요로 하는 보장이고, 이론에서 배포된 모니터링으로 옮겨가고 있다. Conformal test martingale은 변화 탐지 도구이며, Ville 부등식은 교환 가능(exchangeable) 데이터에서 거짓 경보 확률의 상한을 둔다. 이 보장은 조건부이다. 배포가 이를 상속하려면 모니터링하는 스트림이 교환 가능하게 행동해야만 한다. 이 전제는 모니터가 가장 유용한 지점, 즉 종속 데이터와 모니터가 자신이 읽는 점수의 학습자를 수정하는 루프 내부에서 가장 만족하기 어렵다. 또한 거의 측정되지 않는다. 우리는 사전에 지정한 사례 연구에서 이를 측정한다. 이 연구에서 해당 모니터는 다섯 개의 예측 스트림에서 고정된 시계열 foundation model을 교정하는 Kalman 어댑터의 온라인 업데이트를 게이팅한다. 교환 가능한 합성 스트림에서는 동일 구현이 60회 실행 중 최대 1회에서 발화한다. 실제 스트림에서는 alpha = 0.05에서 135개의 clean-stream 실행 중 135개 모두 발화했다. 이 구성은 발화를 설명하지 못한다. 실패는 배포된 score 스트림 자체에서 온다. 반복적인 발화는 게이트의 drift response를 활성 상태로 유지하며, 게이팅된 필터는 원래 방지하도록 설계된 바로 그 순간적 변동(transient)을 증폭한다. 유지할 가치가 있는 구성 요소는 유효성 주장을 하지 않는다. 필터 자체 업데이트에 대한 Huber 스타일 게이팅은 데이터셋별 튜닝 없이 고립 스파이크 열화를 한 자릿수(order of magnitude) 줄인다. 따라서 종속 데이터를 위해 제안되는 anytime-valid 방법에는 null-calibration 통제와 메커니즘 추적이 함께 수반되어야 한다.
합성 데이터는 실제 데이터가 부족할 때 통계적 추론을 개선할 수 있지만, 합성 표본을 실제 데이터처럼 순진하게 취급하면 바이어스가 도입되어 신뢰할 수 없는 추론으로 이어질 수 있다. 우리는 관련 과제들의 모집단 전반에 걸친 합성 데이터 증강 추론을 위한 일반 프레임워크를 개발한다. 이 프레임워크는 합성 관측 수와 그 가중치로 합성 증강을 특성화한다. 프레임워크의 핵심은 각 가중치에 대해, 더 작은 모든 크기가 목표 과제 주변(marginal) 커버리지를 달성하는 최대 합성 표본 크기를 지정하는 크기-가중치 프론티어이다. 우리는 과거 과제로부터 이 프론티어를 추정하고, 추정된 프론티어 위 또는 아래의 모든 크기-가중치 구성에 대해 동시에 유한 표본 커버리지 보장을 확립한다. 대규모 언어 모델(LLM) 응답을 사용해 여론 조사 데이터를 증강하는 실험에서, 우리 절차는 목표 커버리지를 달성하고 신뢰구간을 실질적으로 좁힌다.