arXiv:2610.03727v2 stat.ML

고차원 신뢰 시퀀스의 긴밀성과 계산적 다루기 쉬움에 대하여

On the Tightness and Computational Tractability of Higher-Dimensional Confidence Sequences

Fabian Denoodt, Sibylle Hess, Joaquin Vanschoren, Christian A. Naesseth

제출 2026-08-21

저자 비고

arXiv Comments

Accepted at NeurIPS 2026 (Spotlight)

한국어 초록

현대의 순차적 모니터링 문제는 여러 지표를 다루는 경우가 많으며, 이때 우리는 여러 데이터 스트림을 동시에 모니터링하고 충분한 증거가 확보되면 조치를 취할 수 있습니다. 신뢰 시퀀스(Confidence Sequence, CS)는 이러한 연속적 모니터링을 위한 자연스러운 도구입니다. 그러나 유계 벡터 평균의 경우, 기존의 다변량 CS는 긴밀하지만(tight) 계산적으로 다루기 어렵거나(intractable), 계산은 빠르지만 보수적입니다. 이를 해결하기 위해 본 논문에서는 1차원 베팅 기반 CS를 고차원으로 확장하는 세 가지 방법인 가중치 적용 본페로니 영역, 동등한 최대 자산 형태, 포트폴리오 영역을 연구합니다. 포트폴리오 방식은 특히 고차원에서 일반적으로 훨씬 더 긴밀하지만, 경계 및 부피와 같은 특성을 닫힌 형태(closed form)로 구할 수 없습니다. 이처럼 더 긴밀한 구조를 실질적으로 활용할 수 있도록, 통계적 타당성을 유지하면서 포트폴리오 영역을 다루기 쉽게 외접 근사하는 경계 상자(bounding box), $\ell_p$-타원체, 그리고 이들의 교집합을 제안합니다. 우리는 모든 구조 간의 집합 관계를 증명하고, 이러한 근사법이 (i) 다루기 힘든 포트폴리오에 근접한 영역을 달성하고, (ii) 기존의 계산 가능한 다변량 CS를 크게 능가하며, (iii) 다중 지표 A/B 테스팅 및 모델 비교와 같은 실용적인 사용 사례를 가능하게 함을 실증적으로 보여줍니다.

원문 초록

Modern sequential monitoring problems often involve multiple metrics, where we monitor several data streams simultaneously and may act once the evidence is strong enough. Confidence sequences (CSs) are a natural tool for such continuous monitoring. However, for bounded vector means, existing multivariate CSs are either tight but computationally intractable, or fast to compute but conservative. To address this, we study three lifts of one-dimensional betting-based CSs to higher dimensions: a weighted Bonferroni region, an equivalent max-wealth form, and a portfolio region. The portfolio is typically much tighter, especially in higher dimensions, but its boundary and properties such as volume are not available in closed form. To make this tighter construction usable, we propose tractable outer approximations of the portfolio region that preserve statistical validity: a bounding box, an $\ell_p$-ellipsoid, and their intersection. We prove set relations among all constructions and show empirically that these approximations (i) achieve regions close to the intractable portfolio, (ii) substantially outperform existing tractable multivariate CSs, and (iii) enable practical use cases such as multi-metric A/B testing and model comparison.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.03727v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27765v1math.ST공통 태그 Uncertainty Quantification, sequential testing

테스트 수퍼마틴게일의 제2종 오류: e-파워 대 Chernoff-Stein 지수

The Type-II Error of Test Supermartingales: e-Power versus the Chernoff-Stein Exponent

테스트 수퍼마틴게일을 사용하는 안전한 가설 검정에서, wealth process가 처음 $1/\alpha$를 넘을 때 귀무가설을 기각하면 Ville 부등식은 모든 유의수준 $\alpha\in(0,1]$에 대해 anytime-valid 제1종 오류 보장을 제공한다. 내재된 비대칭성 때문에 제2종 오류는 다르게 거동한다. 단순 귀무 및 대립 가설에 대해 후자와 관련하여 두 가지를 증명한다. 첫째, Kelly betting과 성장률 최적 e-variable이 극대화하는 평균 성장률 $\mathbb{E}_{P_1}[\log E]$, 즉 e-파워는 그 자체로는 아무것도 제한하지 않는다. 모든 수준 $c>0$, 모든 $\alpha$ 및 horizon $t$에 대해 조건부 e-파워가 정확히 $c$인 e-variable을 구성할 수 있으며, 시점 $t$까지 기각하지 않을 확률을 임의로 1에 가깝게 만들 수 있다. 이는 결국 기각을 강제하지만 유한 horizon 보장은 따르지 않는다. 둘째, 제2종 오류를 실제로 제어하는 양은 e-variable의 Chernoff-Stein 지수 $\Lambda(E)=\sup_{s\ge0}\{-\log \mathbb{E}_{P_1}[E^{-s}]\}$이며, 그 범위는 정확히 결정된다: $\sup_E \Lambda(E)=\mathrm{KL}(P_0\|P_1)$, 고전적인 Chernoff-Stein 지수이며 e-variable별 형태 자체의 상한이다. 각 단계마다 Hölder 부등식을 한 번 조건부로 적용하면, 독립성이나 곱 구조 없이 임의의 필터링된 확률공간 위의 모든 테스트 수퍼마틴게일에 대해 이를 얻을 수 있다. i.i.d. 경우에는 더하여 그 상한이 정확히 맞으며, 어떤 것도 이를 달성하지 못한다. e-파워는 자체 상한 $\mathrm{KL}(P_1\|P_0)$을 갖으며, 이 상한은 가능도비 $R$에 의해 $P_0$-a.s. 유일하게 달성된다. 두 최적값은 인수 순서가 반대인 동일한 divergence이며, 평탄화된 family $R^{\beta}/\mathbb{E}_{P_0}[R^{\beta}]$의 양 끝에서 나타난다: $\beta\downarrow0$일 때 상한, $\beta=1$에서 $R$. 어떤 $\beta$가 최적인지는 horizon에 의해 정확히 결정된다. $R$은 $t=\log(1/\alpha)/\mathrm{KL}(P_1\|P_0)$에서만 최적이며, 그보다 작은 $t$에서는 sharpening $(\beta>1)$에, 그보다 큰 $t$에서는 flattening에 의해 능가된다.

arXiv:2609.27766v1math.ST공통 태그 Uncertainty Quantification, sequential testing

하위 꼬리 가설로부터 도출된 검정 슈퍼마팅게일의 2종 오류 한계

Type-II Error Bounds for Test Supermartingales from Lower-Tail Hypotheses

검정 슈퍼마팅게일(test supermartingale)을 이용한 안전한 가설 검정에서 빌의 부등식(Ville's inequality)은 자산 과정(wealth process)이 처음으로 $\frac{1}{\alpha}$을 초과할 때마다 귀무가설을 기각하는 경우, 모든 유의수준 $\alpha\in(0,1]$에 대해 언제나 유효한(anytime-valid) 1종 오류 보장을 제공합니다. 고유한 비대칭성으로 인해 2종 오류에는 이러한 보장이 존재하지 않습니다. 로그 증분의 하위 꼬리(lower tail)에 확률이 과도하게 집중되면 축적된 모든 증거를 무효화하는 단 한 번의 치명적인 베팅으로 이어질 수 있기 때문입니다. 본 논문은 이러한 하위 꼬리 확률에 대한 서로 다른 가설들이 순차적 검정의 2종 오류에 대한 서로 다른 한계로 어떻게 이어지는지 연구합니다. 이 한계들은 모두 하나의 마스터 부등식으로 귀결되며, 이는 축적된 e-거듭제곱의 하한이 $\log\frac{1}{\alpha}$을 초과하는 크기라는 단 하나의 값에서 평가된 e-변수들의 (역)적률생성함수의 단측 르장드르 변환(Legendre transform) 측면에서 고정된 시계 및 순차적으로 유의수준 $\alpha$에서의 2종 오류를 제한합니다. 또한 이 단계는 제약된 정보 투영(constrained information projection)을 정확히 추출한다는 의미에서 무손실(lossless)입니다. 본 논문에서 제시되는 모든 한계는 위 함수의 특정 우세 함수(majorant)를 통해 얻어지는 따름정리입니다. 고려된 가설들은 유한한 음의 적률, 승리 측의 적률을 동반한 지수적으로 작은 폭락 확률, 조건부 분산을 가진 자산 하한 및 분산에 의해 결정되는 가우시안 영역과 척도에 의해 결정되는 지수 영역 사이를 보간하는 번스타인(Bernstein) 변형, 서브-가우시안 또는 유계 기울기 하위 꼬리, 유계 로그 증분, 그리고 우세 함수가 참값이 되는 i.i.d. 증분입니다. 우리는 또한 경험적 번스타인 변형을 제공합니다. 각 가설은 보유한 e-변수에 대한 조건으로 해석되거나, 가장 약한 조건을 무상으로 만족하는 우도비 자체 대신 가능도(likelihood) 비의 근사치를 사용해 베팅할 때 발생하는 비용으로 해석될 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.