본 연구는 레이블 잡음이 존재하는 상황에서 일반 가우시안 반공간을 학습하는 고전적 문제를 다시 살펴보며, 특히 여러 표준 레이블 잡음 모형에서 정보-계산 간극이 존재할 것으로 추측되는 큰 편향 영역에 초점을 맞춘다. 구체적으로, 관측된 소수 클래스만을 평균하는 매우 단순한 단일 단계 통계량인 희소 꼬리 평균 추정량(rare-tail mean estimator)을 제시하고 분석한다. 큰 편향 영역에서 고전적인 평균화 방법(Servedio, 1999)과 이와 관련된 전역 1차 모멘트 통계량은 최적에 미치지 못함이 증명되는 반면, 희소 꼬리 평균 추정량은 프로빗 잡음과 경계에서 멀어질수록 매우 느리게 감쇠하는 마진 의존 잡음을 포함하는 광범위한 레이블 잡음 모형 아래에서 (로그 인자를 제외하면) 정보이론적 표본 비율로 목표 반공간의 방향을 복원한다. 특히 본 보장은 결정 경계에 임의로 가까운 레이블이 거의 무작위이더라도 적은 수의 표본으로 강한 방향 복원을 가능하게 한다. 또한 이 추정량은 무잡음 영역과 잡음 영역 사이를 자연스럽게 보간한다. 잡음이 없을 때에는 실현 가능한 반공간에 대한 고전적인 분리 가능성 기반 방법과 동일한 표본 비율을 달성하며, 잡음이 낮거나 경계에서 멀어질수록 감쇠하는 경우에는 선형 분리 가능성이 깨진 이후에도 이 비율을 유지한다. 응용으로 두 단계 커리큘럼을 고려한다. 첫 단계의 원천 표본은 경계 근처에서 잡음이 1/2에 임의로 가까울 수 있고 경계에서 멀어질 때 매우 느리게 감쇠하며, 이후 단계의 목표 표본은 모든 레이블을 동일한 비율로 뒤집는 잡음, 즉 무작위 분류 잡음(RCN)을 갖는다. 두 단계가 동일한 베이즈 최적 반공간을 공유하므로, 본 추정량은 기존의 정제 루틴에 필요한 방향 초기값을 제공하며, 둘을 함께 사용하면 큰 편향 영역에서 로그 인자를 제외하고 정보이론적 표본 비율로 RCN 목표를 학습할 수 있다.
입력 섭동에 대한 안정성은 잡음이 있는 공변량이나 추정된 특징을 포함하는 많은 응용에서 심층 신경망 추정량에 필요하다. 가중치 노름 제약은 신경망의 립시츠 상수를 제한함으로써 입력 섭동에 대한 민감도를 제어하는 데 널리 사용된다. 그러나 표준 노름 곱에 고정된 한계를 둔 기존 근사 결과는 최적 통계적 수렴률을 확립하기에 충분하지 않다. 본 논문은 분할 스펙트럼 노름 곱 제약 하에서 심층 ReLU 신경망에 대한 정밀한 근사 이론을 확립한다. 이 이론적 결과는 노름 곱의 한계를 고정한 채 신경망 깊이를 증가시키면 충분히 매끄러운 횔더 함수를 임의의 정확도로 균일하게 근사할 수 있음을 보여 준다. 이어서 심층 비모수 회귀를 위한 벌점화 최소제곱 추정량을 제안한다. 이 추정량은 균일하게 유계인 립시츠 상수를 가지면서도 로그 인자를 제외하고 최적 비모수 수렴률을 달성한다. 응용으로서 2단계 학습에 대한 최적 예측률을 확립하고 적대적 입력 섭동 하에서의 강건성 보장을 제시한다. 수치 연구는 벌점화 추정량이 입력 섭동에 대한 민감도가 잘 제어되며 예측 정확도는 고전적인 심층 신경망 방법과 비슷함을 보여 준다.
그래폰은 모든 준동형 밀도에 의해 결정되지만, 모티프 기반 방법은 유한 개만을 사용한다. 본 논문은 이러한 절단의 비용을 자연스러운 모형족, 즉 위치가 $K$개의 반직선 위에 놓이는 잠재 구조 블록 모형(동등하게 랭크 2의 차수 보정 블록 모형)에서 정확하게 계산한다. 주어진 방사 분포에 대해, 꼭짓점이 $2K-1$개 미만인 모든 그래프에서 일치하는 구성들은 1차원 파이버를 이루며, 이를 명시적인 끝점과 함께 폐쇄형으로 제시한다. 친구 그래프 $F_{K-1}$은 그 파이버의 유일한 간선 최소 분리자이므로, 모든 $K$에 적용되는 고정된 모티프 차수는 존재하지 않는다. 분리 신호는 최대 $m_1^{2(K-1)}$배로 억제되며, 여기서 $m_1$은 기울기 제곱의 평균으로 $K=4$에서 약 $10^{-4}$이다. 모티프 개수로 이를 검출하려면 간선 밀도와 무관하게 단일 그래프에서 약 $10^{15}$개의 노드가 필요하다. 그럼에도 정보는 그래프 안에 있으며, 파이버는 모형이 아니라 통계량에 속한다. 모티프를 세지 않는 일반적인 스펙트럼 파이프라인도 보통의 밀도에서 파이버 길이의 3분의 1 이상을 따라 미끄러지며, 신뢰 영역이 참값을 거의 포함하지 못하는 반면, 같은 임베딩에 대한 모형 기반 적합은 그렇지 않다. 실무자를 위해 네 가지 점검 사항을 제시한다. 즉, 적합이 위험에 처해 있는지, 대신 무엇을 실행해야 하는지, 신뢰구간이 왜 경고를 주지 않는지, 남은 모호성이 얼마나 넓은지이다.
컨포멀 예측은 분포에 의존하지 않고 불확실성을 정량화한다. 하지만 순차적으로 운용할 때 표준 포함률 보장을 만족해도 예측 집합이 실제값을 포함하지 못한 횟수는 시간에 따라 크게 요동칠 수 있다. 매 라운드 하나의 예측 집합을 내고, 운용 내내 미포함 누적 횟수가 정해진 예산을 넘지 않아야 하는 온라인 설정을 연구한다. 예측 집합을 넓히면 이러한 엄격한 포함률 제약을 지킬 수 있다. 집합 크기가 최소한 얼마나 더 커져야 하는지는 불분명하다. 예측 라운드 $T$회에 걸쳐 피할 수 없는 효율 비용을 규명한다. 데이터가 독립적이고 동일한 분포를 따르며, 점수 분포와 모집단 최적 예측 집합을 정확히 알아도 이 비용은 남는다. 포함률과 예측 집합 크기의 관계에 적절한 정칙성 조건을 적용해, 엄격한 포함률 제약을 충족하는 온라인 방법에 필요한 최소 누적 초과 집합 크기를 구한다. 평가 시점을 미리 고정하면 기대 비용의 최솟값은 $\Theta(\log T)$다. $T$까지 가능한 고정 시점 중 가장 큰 기대 비용을 취하면 $\Theta(T^{1/3})$이고, 실현한 비용 중 최악의 경우를 사후에 골라 그 기댓값을 취하면 $\Theta(\sqrt{T})$다. 점수 분포를 모르는 경우에도 과거 점수만으로 이 증가율을 달성할 수 있음을 보인다. 통계적 특성을 완전히 알아도 순차 예측의 신뢰성을 보장하려면 비용이 든다.
트랜스포머는 매개변수를 갱신하지 않고도 소수의 예시에서 새로운 과제에 적응하는 문맥 내 학습 능력을 보였다. 기존 이론은 주로 볼록 통계 문제에서 그래디언트 기반 알고리즘을 모사하거나, 바탕에 있는 통계 구조를 활용하지 않고 일반적인 함수 근사 보장을 확립하는 데 집중했다. 본 연구는 추정 문제가 일반적으로 비볼록인 매개변수화 상미분방정식(ODE)에서 문맥 내 매개변수 추정과 궤적 예측을 연구한다. 적절한 식별 가능성과 정칙성 조건 아래에서, 잡음이 있는 궤적 관측으로부터 미지의 시스템 매개변수를 추정하는 트랜스포머를 구성한다. 두 단계의 근사 최대 가능도 절차를 사용한다. 먼저 개략적인 탐색으로 국소적으로 강볼록인 영역 안에서 초기값을 고른 뒤, 국소 선형 수축이 성립하는 경사하강법을 적용한다. 예측에서는 이 추정기를 ODE 해 매핑의 신경망 근사와 합성한다. 또한 매개변수를 공유하면 트랜스포머 하나가 매개변수 추정과 궤적 예측을 함께 수행할 수 있음을 보인다. 이 구성에 대해 비점근적 보장과 유한 사전학습 오라클 부등식을 확립한다. 이 부등식은 유한한 사전학습 데이터, 유한한 문맥 길이, 유한한 규모의 트랜스포머 근사에서 오는 오차를 각각 구분한다. 선형 및 비선형 ODE의 수치 실험에서도 사전학습 트랜스포머가 가중치를 갱신하지 않고, 추론 시 문맥을 길게 해 성능을 높일 수 있음을 보였다.
본 연구는 도메인마다 회귀계수, 누적 연결 함수, 임계값이 달라도 적용할 수 있는, 순서형 응답이 정렬되지 않은 고차원 전이학습을 조사한다. 소스와 타깃의 가능도를 합친 뒤 타깃 보정값을 추정하는 표본 분할 알고리즘과 전체 타깃 알고리즘을 개발했다. 적절한 조건에서 두 알고리즘은 매개변수 추정 및 초과 위험에서 미니맥스 최적 수렴률을 달성한다. 시뮬레이션에서는 유한 표본의 추정 및 예측에서 전체 타깃 알고리즘이 표본 분할 알고리즘보다 우수했다. 의료 데이터셋 적용 사례에서는 다섯 범주의 소스 데이터에서 이진 병원 사망 여부를 예측하는 데 정보를 전이했다. 전체 타깃 알고리즘이 타깃만 사용하는 기준선 및 소스와 타깃을 단순히 합치는 기준선보다 예측 성능이 높았다.
본 연구는 $\mathbb{R}^D$ 안에서 미지의 $m$차원 다양체 $\mathcal{M}$ 주변의 관형 영역을 채우는 설명 변수를 사용해 벡터값 회귀를 연구한다. 다양체 인덱스 모델의 평균 반응은 $F=f\circ\Pi_{\mathcal{M}}$이다. 여기서 $\Pi_{\mathcal{M}}$은 $\mathcal{M}$ 위의 최근접점으로의 사영이며, $f:\mathcal{M}\to\mathbb{R}^p$는 단사일 필요가 없는 연결 함수다. 다중 스케일 비등방성 국소 회귀(MANOR)는 반응이 유사한 설명 변수에 다중 스케일 주성분 분석(PCA)을 적용해 접평면을 추정한다. 이어 국소 기울기의 외적을 모아 추정치를 개선한다. 이때 근방의 접선 방향 폭은 줄이되 법선 방향의 섬유는 온전히 유지한다. 연결 함수의 미분이 립시츠 연속이고 반응의 잡음이 유계라고 가정한다. $p\ge m$이고 본 연구의 기하학적 조건과 표본 추출 조건이 성립하면, 독립 관측값 $n$개에서 평균 접공간 오차는 로그 인자를 제외하고 $n^{-2/(m+4)}$ 차수이며, 적분 제곱 예측 오차는 $m$차원 비모수 수렴률인 $n^{-4/(m+4)}$을 달성한다. 내재 차원, 모델과 스케일의 매개변수, 그리고 다양체 부피를 다양체의 도달 반경(reach)의 $m$제곱으로 나눈 비율을 고정한 스케일링 조건에서는 필요한 표본 크기가 $D+p$에 대해 다항식으로 증가하며, 계산량은 $n$, $D$, $p$에 대해 다항식으로 증가한다. 비단조 연결 함수를 갖는 곡선과 벡터값 반응을 갖는 곡면에서 수치 실험을 수행해 관측된 수렴률을 이론적 경계와 비교한다. 랑주뱅 동역학 예제에서는 근사 다양체 인덱스 모델에 따른 도달 확률 예측을 시험한다.
가우스 근사는 강화학습에서 온라인 통계적 추론의 기반을 제공한다. 본 연구는 폴리악-루퍼트 평균화를 적용한 비동기 Q 학습에서 바서슈타인 거리로 측정한 가우스 근사의 정밀한 비점근 수렴률을 확립한다. 반복 횟수를 $n$이라 하면, 상한 $\widetilde{O}(n^{-1/4})$과 로그 인자를 제외하면 이 상한과 일치하는 하한을 증명한다. 벨만 연산자의 비선형성 때문에 Q 학습은 선형 확률 근사보다 분석하기 어렵다. 비동기 갱신에서는 마르코프 잡음으로 인해 분석이 더 복잡해진다. 본 연구는 벨만 연산자의 비선형성, 마르코프 잡음, 유한 표본의 공분산 차이에서 비롯하는 오차를 각각 분리한다. 특히 벨만 연산자가 선형이어도 마르코프 잡음은 피할 수 없는 편향을 일으킨다. 이 편향과 공분산 차이 사이의 절충이 수렴률을 결정한다. 동기 설정으로 분석을 확장해 정밀한 수렴률 $\widetilde{O}(n^{-1/2})$도 확립한다.
본 연구는 독립 표본에서 하키스틱 발산을 기준으로 이산 분포를 추정하는 문제를 처음 다룬다. 가능한 값의 개수, 표본 수, 발산의 매개변수에 따른 최소최대 기대 손실의 비점근 상한과 하한을 제시한다. 상수를 더하는 추정량으로 상한을 달성하고, 베이즈 위험 논증으로 하한을 도출한다. 상한과 하한 모두 문제의 매개변수에 따라 다항식 영역과 지수 영역 사이의 전이가 나타남을 보여 준다.
확률적 경사하강법(SGD)의 적응형 모멘텀 변형에 대해 고차원에서의 유효 동역학을 도출한다. 이 동역학은 마르코프 과정으로 주어진다. 핵심은 지수 이동 평균과 전처리 조건화 때문에 알고리즘에 생기는 비마르코프성을 평균화 방법으로 다룰 수 있다는 점이다. 이 접근법은 적응적 모멘텀 추정(ADAM), 뉴턴–슐츠 방법으로 직교화한 모멘텀(MUON)과 그 변형을 비롯한 다양한 알고리즘에 적용할 수 있다. 텐서 주성분 분석(PCA), 가우스 투영 모델, 교사–학생 신경망, 실무에서 널리 쓰이는 MUON과 ADAM의 혼합 방식으로 XOR 문제를 학습시킨 다층 신경망 등 다양한 학습 과제에도 적용할 수 있다. 이 기법으로 알고리즘 간 성능을 정밀하게 정량 비교할 수 있음을 보여 준다. 예를 들어 학습 초기에는 온라인 SGD가 ADAM보다 일반화 성능이 높지만, 학습 곡선이 교차한 뒤에는 ADAM이 앞서는 현상을 관찰했다. 또한 안정성 경계 현상의 한 형태를 증명했다. 특히 안정성 경계를 정밀하게 특징짓는 무한대 라플라시안의 유사체를 도입한다.
시뮬레이션 기반 추론(SBI)은 우도를 다루기 어렵지만 모델로부터 데이터를 시뮬레이션할 수 있을 때 사후분포 추정을 가능하게 한다. 고차원 또는 가변 길이 데이터의 경우 SBI 방법은 일반적으로 사후분포 추정의 조건 입력으로 저차원 요약 통계량에 의존하므로, 그 충분성이 정확한 추론에 매우 중요하다. 상호 정보량(MI)은 요약이 얼마나 많은 매개변수 정보를 보존하는지를 정량화하여 충분성을 정보 이론적으로 자연스럽게 특성화한다. 그러나 이러한 MI 양은 우도 없는 설정에서 일반적으로 다루기 어렵다. Sui 등(2026)은 학습된 신경 사후분포로부터 Barber–Agakov(BA) 하한을 이용해 MI를 추정하며, 피셔 정보 상한은 논의하되 계산하지는 않는다. 이로 인해 추정이 모호해지는데, 작은 하한은 불충분한 요약을 의미할 수도 있고 부정확한 밀도 추정기를 의미할 수도 있기 때문이다. 우리는 BA 간극을 추정하고 두 한계 사이의 차이가 실제로 무엇을 측정했는지 드러내는 다루기 쉬운 진단 방법으로 이 한계를 해결한다. 그 결과로 얻은 충분성 지표를 관측값 중심의 제한된 데이터 공간으로 확장하여, 목표 사후분포를 보존하면서 시뮬레이션이 데이터의 근방에 집중하도록 하고 요약 간 유효한 충분성 비교를 가능하게 한다. 가변 길이 지진 카탈로그에 대해 학습된 요약 통계량과 수작업 요약 통계량을 비교함으로써, 시간적 전염병형 여진 열(ETAS) 모델에서 이 진단 도구의 사용을 보여준다.
결과가 분리 가능한 힐베르트 공간 $\mathbb{Y}$의 값을 가지는 경우(예: 곡선, 밀도, 또는 분포의 커널 평균 임베딩)의 비모수 도구변수 회귀를 연구한다. 구조 함수는 비적정 연산자 방정식의 해이며, 그 조건부 기댓값 연산자는 단사일 필요가 없고 해가 가설 공간에 속할 필요도 없다. 커널 도구변수 회귀를 $\mathbb{Y}$ 값 결과로 확장하고 두 단계 모두에서 스펙트럼 정칙화를 허용하는 2단계 커널 추정량을 분석하며, 여기에는 2단계에서의 랜드웨버 반복과 쇼월터 방법이 포함된다. 2단계가 커널 적분 연산자의 역에 의해 생성되는 힐베르트 척도에서의 정칙화 방법임을 보인다. 이러한 관점은 추정량이 수렴하는 해를 규명해 준다. 올바르게 지정된 경우에는 재생 커널 힐베르트 공간에서의 최소 노름 해이고, 잘못 지정된 경우에는 올바르게 지정된 설정에 대응하는 사영 연산자의 연속 확장의 치역에 속하는 유일한 해이다. 일반 지표 함수로 표현되는 소스 조건과 연결 조건 하에서, 식별 여부와 관계없이, 올바르게 지정된 설정과 잘못 지정된 설정 모두에서, 1단계 오차에 대해 높은 확률로 성립하는 보간 노름 척도의 비점근적 경계를 도출한다. 다항식 연결 조건에서는 스칼라 커널 도구 회귀의 수렴률을 회복하고 이를 가설 공간 밖의 목표로 확장하며, 지수 연결 조건에서는 심하게 비적정인 영역에서 로그 수렴률을 얻는다.
표본 공분산의 스펙트럼 특성은 고차원 데이터를 다루는 현대 기계학습의 핵심이다. 랜덤 행렬 이론(RMT)은 강력한 도구를 제공하지만, 대부분의 고전적 결과는 $d/n$이 유한한 극한으로 수렴하는 비례 점근을 가정한다. 함수형 데이터 분석과 커널 방법에서는 고정된 무한 차원 힐베르트 공간이 관측값에 더 자연스러운 설정인 경우가 많으며, 이는 비례 점근의 범위를 벗어난다. 이에 따라 대각합 클래스 모집단 공분산 $\Sigma$를 갖는 힐베르트 공간 $\mathcal{H}$의 i.i.d. 관측값 $\boldsymbol{x}_1, \dots, \boldsymbol{x}_n$에 대한 차원 무관 스펙트럼 이론이 필요하다. Cheng과 Montanari(2024)의 차원 무관 릿지 회귀 분석을 토대로, 명시적인 비점근 오차 한계를 갖는 두 가지 결정론적 등가물을 수립한다. 첫째는 표본 그람 행렬의 경험적 스펙트럼 법칙 $\widehat{\mu}_n$을 결정론적 법칙 $\mu_n$으로 근사한다. 둘째는 선형 회귀에서 해석적 스펙트럼 필터의 조건부 예측 위험을 특성화한다. 이 설정에서 예측 위험에 대한 기존의 정밀한 근사는 릿지 회귀와 밀접한 문제에 집중되어 있었다. 본 분석은 벌크 스케일에서 더 넓은 필터 클래스를 다루며, 확인하기 쉬운 명시적 스펙트럼 안정성 조건을 제시한다. 이 이론을 거듭제곱 및 임계 스펙트럼 법칙에 적용하고 비례 영역을 복원한다. 예측에 대해서는 (음의) 릿지 추정량, 반복 릿지, 경사 흐름을 연구한다. 수학적으로는 확률적 보간의 아이디어를 바탕으로 스펙트럼 매개변수를 보간하는 결정론적 역방향 경로를 구성한다. 그 결과 얻은 리졸번트 및 혼합 리졸번트 대각합에 대한 한계는 벌크 내부에서 스펙트럼 법칙의 메조스코픽 근사를 제공하며, 코시 공식을 통해 해석적 스펙트럼 필터의 예측 분산과 제곱 편향에 대한 결정론적 등가물을 제공한다.
매 시점마다 새로운 특징 벡터가 주어지고, 해당 응답을 포함할 가능성이 높은 예측 구간 또는 예측 집합을 제공해야 하는 온라인 예측 설정을 考える. 이 설정에서 데이터 포인트가 i.i.d.(또는 더 일반적으로 교환 가능)이면, 컨포멀 예측은 임의의 학습된 모델의 출력 주위에 유효한 예측 집합을 구성하는 메커니즘을 제공하여 각 시점 $t$에서 $\geq 1-\alpha$의 커버리지 확률을 보장한다. 그러나 실제로는 분포 드리프트, 변화점 등의 문제로 i.i.d. 가정이 위반될 수 있다. 이러한 적대적 설정에서도 온라인 컨포멀 예측 방법은 장기 경험적 커버리지에 대한 보장을 제공할 수 있다. 하지만 이 두 가지 목표 사이에는 상충 관계가 있다. 적대적 설정에 대비하여 장기 경험적 커버리지에 엄격한 제약을 강제하면, i.i.d. 설정에서 순간적인 학습 조건부 커버리지가 불안정하게 진동할 수 있다. 본 연구에서는 i.i.d. 설정에서는 순간적 학습 조건부 커버리지의 누적 오차를 최소화하면서 적대적 설정에서는 장기 경험적 커버리지 보장도 제공하는, 두 세계의 장점을 모두 갖춘 알고리즘을 추구한다. 구체적으로, 어떤 $\beta\in[0,1]$에 대해 장기 경험적 커버리지가 목표 수준 $1-\alpha$에서 최대 $\mathcal{O}(T^{-\beta})$만큼만 벗어나도록 요구하는 조건을 생각한다. 우리는 이 조건들의 족이 상전이로 기술될 수 있음을 증명한다. $\beta\in[0,\frac{1}{2}]$인 경우, 적대적 설정에서 이러한 제약을 만족하면서도 데이터가 실제로 i.i.d.일 때 분할 컨포멀 예측과 동일한 순간 커버리지 성능을 제공하는 알고리즘을 구성할 수 있다. 반면 $\beta\in(\frac{1}{2},1]$인 경우 이러한 조건은 비용을 수반하며 두 세계의 장점을 모두 갖춘 동작을 달성하지 못한다.
가중 컨포멀 p-값은 컨포멀 추론을 공변량 이동이 있는 경우로 일반화한다. 이를 활용하는 한 가지 방법은 Benjamini-Hochberg(BH) 절차에 입력하여 선택할 검정 단위를 결정하거나 이상치를 탐지하는 것이다. 그러나 가중 컨포멀 p-값은 양의 종속성을 갖지 않을 수 있으므로, BH가 유한 표본에서도 거짓 발견율(FDR)을 여전히 통제하는지 알고자 한다. 실험에 따르면 통제하는 것처럼 보이지만, 우리는 그렇지 않음을 증명한다. FDR이 목표 수준 $q$를 초과하는 두 개의 반례를 정확한 유리수 산술로 검증하여 제시한다. 또한 FDR과 $q$의 차이가 얼마나 클 수 있는지도 규명한다. 보정 점이 $n$개, 검정 단위가 $m$개, 가중치 비가 $B$일 때, 상대 초과분 $\mathrm{FDR}/q-1$은 $n$, $m$, $B$, $q$의 함수로 유계이며, $Bm/(nq)$가 작을 때 그 크기는 $\sqrt{Bm/(nq)}$ 차수이다. 이 유계는 $B\le n$인 모든 구성과 모든 $n$에 대해 성립한다. 이 차수는 여러 비영(non-null) 검정 단위가 공통 임계값을 공유할 때 도달될 수 있다. 푸아송 극한 모형에서 그 구성의 초과분은 $B/n\to0$ 후 $m\to\infty$일 때 1차 근사로 $c(q)\sqrt{Bm/(nq)}$이다. 이러한 구조를 갖는 일부 고정 분포에서는 $n$이 커짐에 따라 초과분이 $n^{-1/2}$ 정도로만 감소한다. 모든 검정 단위가 귀무인 경우 고정된 $m$에서 초과분은 $O(B/n)$이며, 특정 구성에서는 $m$에 선형적으로 증가한다. 실무자가 FDR이 얼마나 클 수 있는지 판단하는 데 도움을 주기 위해, $n$, $m$, $q$, $B$에만 의존하는 이 유계를 유한 표본 통제가 증명된 낮춰진 BH 수준으로 전환하고, 우리가 찾을 수 있었던 모든 최악의 경우를 포괄하지만 보장은 제공하지 않는 훨씬 덜 보수적인 경험칙을 제시한다.
공분산 행렬의 존재만을 가정하고 $\mathbb R^d$ 상의 확률벡터의 평균을 $\ell_p$ 노름 하에서 추정하는 문제를 연구한다. 유클리드 노름에서는 표본평균이 이미 기댓값 기준으로 최적이며, 강건 추정량은 대개 고확률 꼬리 경계를 얻기 위해서만 필요하다. 본 연구 결과는 $p>2$인 $\ell_p$ 노름에서는 이러한 상황이 달라져, 기대 위험에 대해서도 강건화가 필요함을 보여 준다. 표본 크기 $n$, 차원 $d$, 노름 매개변수 $p$ 간의 상호작용에 의해 결정되는 민맥스 위험의 급격한 상전이가 존재함을 증명한다. 표본이 큰 영역에서는 고전적인 가우시안 속도를 여전히 달성할 수 있다. 그 보완 영역에서는 heavy-tailed 분포가 진정한 의미의 비가우시안 장애물을 만든다. 나아가 버킷 수를 손실의 기하에 따라 선택하는 좌표별 median-of-means라는 단순한 추정량이 기대 위험 민맥스에서 이 상전이를 최적으로 추적함을 보인다. 또한 일반 노름에 대한 자연스러운 사영 기반 median-of-means 추정량은 Lugosi와 Mendelson(Probab. Theory Relat. Fields, 2019)의 표본평균 기준 대비 최적의 신뢰도 절충을 달성함에도 불구하고, $\ell_p$ 노름에서는 상수 확률 영역에서조차 다항적으로 차선일 수 있음을 보인다.
커널 릿지 회귀에서 척도 매개변수는 데이터의 상관 구조를 모델링하는 데 핵심적인 역할을 한다. 현대의 응용에서는 표본 추출 밀도와 근본적인 상관 범위가 동시에 변하는 경우가 많아 고정 척도 가정은 매우 제한적이다. 그러나 변하는 척도 매개변수 아래에서 점근 이론을 확립하는 것은 근본적으로 어렵다. 이러한 공백을 해결하기 위해 본 논문은 변하는 척도 매개변수 아래의 커널 릿지 회귀에 대한 통합 이론 틀을 개발한다. 우리는 곱 지수 커널을 갖는 균일 텐서 격자에서 학습점 위험의 일관성이 유효 국소 표본 크기가 무한대로 발산하는 것과 필요충분조건임을 보인다. 이 엄밀한 기준은 임의의 결정론적 척도 수열에 따른 모든 영역을 포괄하며, 장거리, 고정 척도, 단거리 영역을 매끄럽게 통합한다. 나아가 이러한 일관성을 보장하는, 신호에 독립적인 결정론적 정규화 페널티의 명시적 구성을 제시한다. 수치 실험은 세 영역 모두에서 이 기준과 해당 페널티를 보여 준다.
빅데이터 시대가 도래하면서 네트워크 형태의 데이터가 다양한 분야에서 나타나고 있다. 수많은 연결을 가진 핵심 단위를 드러내고 참 모형을 복원하기 위해, 통계학자와 공학자의 기대에 부응하도록 희소성 제약 하의 $\beta$ 모형이 제안되었다. 이 네트워크 모형은 Erd\H{o}s-R\'enyi 모형의 뛰어난 성질을 계승할 뿐만 아니라, 희소성 모수 $s$를 조정함으로써 차수 이질성도 나타낸다. 본 논문에서는 원-쌍대 알고리즘으로 구현되는 $\ell_0$ 제약 최대가능도 추정 방법인 동질 추적(Homogeneous Pursuit, HP)을 제안한다. 계산의 어려움을 완화하기 위해 해당 목적함수의 대리 함수를 찾아 원-쌍대 과정을 통해 Majorization Minimization 알고리즘을 유도한다. 더 나아가 면밀한 평가 후, 이렇게 얻은 알고리즘이 수축 사상의 방식으로 양호한 수렴 속도 성질을 가짐을 보인다. 일부 완만한 조건 하에서, 희소성 수준을 선택하기 위해 제안한 일반화 정보 기준(GIC$^*$)은 참값을 찾는 데 일치성을 가진다. HP와 GIC$^*$를 결합하면 적응적 절차인 HP-GIC$^*$가 되며, HP-BIC는 BIC로 희소성을 선택하는 동일한 추정 방법을 가리킨다. 마지막으로 모의실험 연구는 보고된 비교에서 GIC$^*$가 BIC에 비해 지지집합 복원을 개선하며, HP가 희소 벤치마크 방법과 비슷한 추정 정확도를 유지하면서 더 낮은 계산 비용을 달성함을 보여 준다. 마이크로파이낸스 응용은 네트워크 중심성과 참여 사이의 연관성을 연구하는 데 HP-GIC$^*$를 활용하는 예를 보여 주며, 보고된 마을 단위 회귀에서 적합도가 향상되었다.
AI 에이전트와 같은 AI 시스템의 배포 전 테스트에서 개발자는 API 키 유출, 중요한 데이터베이스 삭제, 악성 패키지 설치와 같은 알려진 실패 모드를 수정하거나, 동일한 문제가 다시 발생할 경우에 대비한 비상 계획을 마련하여 다룰 수 있는 경우가 많다. 더 어려운 것은 미지의 미지, 즉 테스트 중에 드러나지 않은 보이지 않는 실패 모드이다. 따라서 테스트를 중단하고 배포할지에 대한 결정에는 본질적인 상충 관계가 존재한다. 시간과 자원을 들여 테스트를 계속하여 더 많은 행동을 관찰하거나, 발견되지 않은 실패 모드가 남아 있을 위험을 감수하고 테스트를 중단하여 배포해야 한다. 그렇다면 개발자는 충분히 테스트했는지를 어떻게 판단하는가? 이에 답하기 위해 본 연구는 보이지 않은 실패 모드를 관찰할 확률이 충분히 작음을 인증하는 알고리즘을 개발한다. 이 알고리즘은 해당 양에 대한 anytime-valid 상한 신뢰 수열을 구성하므로, 개발자는 시스템을 반복적으로 테스트하고 상한을 확인하여 그 값이 선택한 임계값 아래로 내려가면 통계적 보장을 훼손하지 않고 중단할 수 있다. 이 문제는 고전적인 Good-Turing 추정량(Good, 1953)을 낳은 누락 질량(missing-mass) 추정 문제의 순차적 변형으로 해석할 수 있다. 실제 코딩 에이전트 트레이스 데이터셋인 SWE-Chat(Baumann et al., 2026)에서 본 절차를 구현하여, 다중 검정 보정을 적용한 단순 Good-Turing 기준선보다 더 타이트한 상한을 달성함을 보이며, anytime valid하지 않은 고정 시간 범위(다중 검정 보정이 없는) Good-Turing 상한 신뢰 한계보다도 우수함을 보인다. 또한 현실적인 평가 파이프라인에 더 잘 부합하도록, 서로 다른 과제 분포에서의 샘플링과 불완전한 자동 실패 라벨링을 다루도록 방법을 확장한다.