많은 과학적 모델은 시뮬레이션은 가능하지만 가능도(likelihood) 계산이 다루기 힘들어 빈도주의적 불확실성 정량화가 어렵습니다. 본 논문에서는 이러한 모델의 매개변수(parameter)에 대해 정확하고 언제든 유효한(anytime-valid) 신뢰 시퀀스를 구축합니다. 매 관측마다 각 후보 귀무가설의 새로운 시뮬레이션을 통해 양의 예측 가능한 점수를 조건부 e-값(conditional e-value)으로 컨포멀화하며, 이들의 곱은 검정 마틴게일(test martingale)을 형성하고 이를 매개변수에 대해 반전시킵니다. 이러한 유효성은 해당 점수의 정확도와 관계없이 모든 점수에 대해 성립합니다. 또한 오라클 우도비 점수가 기대 로그 성장을 극대화함을 보이며, 이를 바탕으로 분할 상환 신경망 비율 추정기(amortized neural ratio estimator)로 이를 근사하도록 유도합니다. 합성 벤치마크, LLM API의 모델 라우팅 감사, 미세중력렌즈 데이터에서 도출된 신뢰 시퀀스는 고정 표본 방법과 달리 지속적인 모니터링 하에서도 유효성을 유지하며, 신경망 점수는 정확한 우도비 및 응용 분야별 특화 점수와 비교해서도 경쟁력 있는 성능을 유지합니다.
AI 모델을 위한 공개 리더보드는 지속적으로 열람되며, 공격자는 공개된 모든 순위를 확인할 수 있다. 투표 조작, 비공개 변형 모델의 선택적 공개, 벤치마크 오염은 각각 순위를 뒤흔들 수 있다. 기존의 보증 방식은 기록이 조작되지 않았다고 가정하거나 단계별 오염 정도를 제한하는데, 이는 일시적으로 대량 오염을 가하는 공격자에게 무력화된다. 본 연구에서는 $t$개의 기록 이후 계산되어 각 쌍대 비교 주장과 함께 공개되는 허용 오차인 인증된 오염 예산(certified corruption budget) $\widehat{B}_t$를 제안한다. 최소 $1-α$의 확률로 모든 시점에서 동시에, 해당 주장이 정확하거나 또는 $\widehat{B}_t$개를 초과하는 기록이 오염되었음이 보장된다. 이는 예산 제한 없이 모든 인증서를 모니터링하는 공격자를 상대로도 성립한다. 위조된 기록과 확인 후 변경된 기록은 서로 다른 인증서를 필요로 한다. 위조 기록용 인증서는 이미 확인한 투표를 뒤집는 공격자에게 1에 수렴하는 확률로 실패하는 반면, 기록당 약 두 배의 비용을 부과하는 인증서는 미래를 내다보는 공격자를 상대로도 일정한 배팅을 통해 유효성을 유지하며, 모든 수준에서 이보다 더 적은 비용 부과는 성립하지 않는다. 인증된 예산은 유효한 모든 방법이 허용하는 한계에 가깝게 증가한다. 승률이 $\frac{1}{2}+δ$일 때, 각 신규 기록은 주장이 견뎌낼 수 있는 위조 기록 수에 거의 $2δ$만큼($δ$ 뒤집힘)을 추가한다. $V$개의 비공개 변형 중 최적 모델을 공개하는 데 드는 비용은 $\log V$ 수준으로만 증가한다. 180만 건의 Chatbot Arena 투표를 재현한 실험에서, 수백 건의 조작된 투표만으로도 표준 신뢰 구간은 잘못된 순위를 인증해 버린 반면, 제안 기법은 유효성을 유지했다. 실제 투표 데이터에서 본 인증서는 명확히 분리된 모델들이 약 2,000건의 위조 투표를 견뎌낼 수 있음을 보여준다.
통계적 가설 검정은 일반적으로 사전에 지정된 표본 크기를 사용하지만, 데이터는 종종 순차적으로 수집된다. 중간 분석은 고전적 오류 보증을 무효화하고, 기존의 순차적 방법들은 엄격한 검정 일정을 요구하거나 통계적 검정력에서 상당한 손실을 초래한다. 우리는 임의의 고정 표본 가설 검정을 언제든 유효한(anytime-valid) 검정으로 변환하면서, 제1종 오류(Type-I error) 통제를 보장하고 귀무 가설이 거짓일 때 상당한 표본 절감과 함께 준최적(near-optimal) 검정력을 달성하는 간단한 절차를 제안한다. 각 단계에서 이 절차는, 귀무 가설 하에서 미래 관측값을 결측 데이터로 처리하여 고전적 검정이 고정된 표본 크기에서 귀무 가설을 기각할 확률을 예측한다. 이 확률에 임계값을 적용하면 언제든 유효한 조기 종료 규칙(stopping rule)이 도출된다. 임상시험과 같은 분야에서 조기에 안전하게 종료함으로써 피험자가 최선의 치료를 받을 수 있도록 하고 효과적인 치료제 개발을 가속화할 수 있다.
메커니즘적 해석 가능성(Mechanistic interpretability) 평가에서 점 추정치만 보고하는 관행의 통계적 불확실성 문제를 해결하기 위해, 인증된 개입적 충실도(CIF, Certified Interventional Fidelity)라는 프레임워크를 제안한다. CIF는 개입 평가 결과를 인과적 추정량으로 명식화하고 언제든 유효한 신뢰 수열(anytime-valid confidence sequences)과 적응형 샘플링을 지원하며, 분산 적응형 베팅 수열을 통해 인증 비용을 10~30배 절감하는 성능을 MNIST 추상화 및 GPT-2 Small IOI 회로 실험으로 검증했다.
우리는 기록된 문맥형 밴딧 데이터로부터 최적 정책을 식별하기 위한 언제든 유효한 프레임워크를 개발합니다. 많은 응용 설정에서 분석가는 후보 정책 클래스 $Π$ 내에서 최적 정책을 선택하고자 하지만, 데이터는 분석가가 제어할 수 없는 외부적으로 결정된 로깅 정책에 의해 생성됩니다. 분석가는 또한 증거를 지속적으로 모니터링하고, 미리 고정된 표본 크기에 얽매이는 대신 최적 정책이 명확해지는 시점에 중단하기를 원할 수 있습니다. 본 논문은 시간에 대해 높은 확률로 균일하게 참 최적 정책 집합을 유지하는 시간 인덱스 집합 $S_t$를 구성하여 이러한 문제를 해결합니다. 결과적인 절차를 통해 분석가는 정책 가치를 모니터링하고, 명백히 비최적인 정책을 제거하며, 추론(inference)을 무효화하지 않으면서 데이터 의존적인 시점에 중단할 수 있습니다. 최적 정책이 유일한 경우, 우리는 그 식별을 위한 정지 시간을 정의하고, $Δ_{\min}$을 최상의 정책 가치와 차선의 정책 가치 사이의 격차라고 할 때 $O\!\left(\frac{\log |Π|+\log\log(1/Δ_{\min})}{Δ_{\min}^2}\right)$의 비율로 스케일링되는 표본 복잡도 상한을 도출합니다. 시뮬레이션 결과, 언제든 유효한 접근 방식이 고정-$N$ 설계에 비해 상당한 표본 절약 효과를 낼 수 있음이 입증되었습니다. 온라인상의 잘못된 정보를 줄이기 위한 대규모 적응형 실험에 대한 적용 사례는 최적 정책에 대한 증거가 축적됨에 따라 본 방법이 동적인 관점을 어떻게 제공하는지 보여줍니다.