PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.07808v2cs.LG

섭동된 2차 캘리브레이션의 미니맥스 수렴 속도

The Minimax Rate of Perturbed Second-Order Calibration

2차 캘리브레이션 오차(second-order calibration error)는 고차 예측기(higher-order predictor)의 인식론적 불확실성(epistemic uncertainty) 추정치가 등위 집합(level set) 상에서 레이블 확률의 조건부 분산과 얼마나 잘 일치하는지를 정량화합니다. 본 논문에서는 분류기(classifier) 출력에 작은 섭동(perturbation)이 적용되는 체제에서 이진 분류(binary classification)를 위한 2차 캘리브레이션 오차 추정의 미니맥스 속도(minimax rate)를 규명합니다. 제안하는 절차는 간단합니다. 점수 좌표에 대역폭 $h$를 갖는 독립적인 sech 노이즈를 추가한 다음, 저차 다항식을 사용하여 섭동된 점수에 대해 $Y^{(1)}$ 및 $Y^{(1)}Y^{(2)}$를 회귀합니다. 결정적으로, sech 섭동은 캘리브레이션 함수를 적절한 띠(strip) 영역 내에서 해석적(analytic)이 되도록 만듭니다. 그 결과 도출된 추정량은 명시적 상수를 포함하여 $O_h(\log^{3/2}n/\sqrt n)$의 오차를 가집니다. 동일한 설정에서 매칭되는 $\Omega(1/\sqrt{n})$ 하한은 로그 인수를 제외하고 미니맥스 최적성을 입증합니다. 따름정리로서 섭동된 2차 플랫 스케일링(Platt scaling)에 대한 유한 표본 보장을 제공하며, 이는 섭동된 고차 예측기의 평균 예측과 인식론적 분산 추정치를 모두 재보정(recalibrate)하는 사후(post-hoc) 절차를 산출합니다. 이 과정에서 2차 캘리브레이션 오차의 명시적인 2차 적률(two-moment) 정식화를 제시하고 이를 Ahdritz 등[2025]의 버킷화된 정식화와 정량적으로 연결합니다. 실험을 통해 예측된 수렴 속도와 재보정된 불확실성의 품질을 확인합니다.

arXiv:2606.07325v1math.ST

Wasserstein 공간에서 매끄럽게 변하는 분포에 대한 시간-공간 미니맥스 속도

A Temporal Spatial Minimax Rate for Smoothly-Varying Distributions in Wasserstein Space

우리는 $2$-Wasserstein 공간 $\mathcal{P}_2(\mathbb{R}^d)$에서 곡선 $t\mapstoμ_t$의 미래 값 $μ_{t_n+h}$를, 과거의 유한한 수의 노이즈가 있는 스냅샷으로부터 추정하는 미니맥스 속도를 연구한다. 여기서 속도장의 $k$번째 공변 도함수에 아디아바틱(adiabatic) 경계 $\|\nabla_t^k v\|\le\varepsilon$가 가정된다. 핵심 결과는 통합된 시간-공간 미니맥스 하한이다: 정칙(regular)하고 국소적으로 수송이 풍부한(transport-rich) 부분군에 대해, 모든 추정량은 $M$ 지수 $γ_d(k+1)/(k+1+γ_d)$를 갖는 $W_2$ 위험을 부담한다. 여기서 $γ_d=\min(1/d,1/2)$이며 $M$은 총 표본 크기이다. 이는 시간에서 공간으로의 축약(temporal-to-spatial reduction)에서 따른다: 매끄러움 예산(smoothness budget)이 도달 가능한 $W_2$-볼을 정의하며, 여기에 수송 패킹(transport packing)이 시간 축을 따라 임베딩(embedding)된다. 전체 스냅샷 실험의 정보는 Fano 논증으로 제어된다. 공간 패킹은 고전적이지만, 매끄러움 허용(smoothness-admissible) 시간 임베딩과 전체 윈도우 분석은 새로운 것이다. 이 경계는 차원 무관(dimension-free) 외삽 하한(extrapolation floor) $\varepsilon h^{k+1}$ 차수와 공간 추정의 저주 $M^{-γ_d}$ 사이를 보간한다. 전자는 관측되지 않은 미래의 환원 불가능한 비용으로, 정확한 과거가 있어도 존재한다. $k\to\infty$일 때 정적 분포 추정 속도를 복원한다. 우리는 임의의 관측 시각에 유효한, 설계 가중 유효 표본 크기(design-weighted effective sample size)를 갖는 설계 의존적 형태로 하한을 제시하고, 조밀한(등간격) 체제에서 폐형 지수(closed-form exponent)를 얻는다. 대응하는 상한은 $k=0$에서 (속도 $M^{-1/(d+1)}$, $d\ge3$) 그리고 평행이동 부분모형(translation submodel)에서 모든 $k$에 대해 확립된다. $k\ge1$의 경우 공변 추정량이 두 추정(비교 기하학 바이어스 경계와 최적 수송 맵 추정 속도)에 조건부로 속도를 달성하며, 무조건적 일반 $k$ 상한은 미해결 문제로 남는다. 합성 곡선(curved) 및 평탄(flat) 패밀리에 대한 수치 실험이 예측된 지수를 뒷받침한다.