arXiv:2611.20275v1 stat.ML

다양체 인덱스 모델: 증명 가능한 방식으로 통계적·계산적 차원의 저주를 효율적으로 피하기

The Manifold-Index Model: provably and efficiently avoiding the statistical and computational curse of dimensionality

Yantao Wu, Mauro Maggioni

제출 2026-11-15

저자 비고

arXiv Comments

89 pages, 17 figures, 8 tables

한국어 초록

본 연구는 $\mathbb{R}^D$ 안에서 미지의 $m$차원 다양체 $\mathcal{M}$ 주변의 관형 영역을 채우는 설명 변수를 사용해 벡터값 회귀를 연구한다. 다양체 인덱스 모델의 평균 반응은 $F=f\circ\Pi_{\mathcal{M}}$이다. 여기서 $\Pi_{\mathcal{M}}$은 $\mathcal{M}$ 위의 최근접점으로의 사영이며, $f:\mathcal{M}\to\mathbb{R}^p$는 단사일 필요가 없는 연결 함수다. 다중 스케일 비등방성 국소 회귀(MANOR)는 반응이 유사한 설명 변수에 다중 스케일 주성분 분석(PCA)을 적용해 접평면을 추정한다. 이어 국소 기울기의 외적을 모아 추정치를 개선한다. 이때 근방의 접선 방향 폭은 줄이되 법선 방향의 섬유는 온전히 유지한다. 연결 함수의 미분이 립시츠 연속이고 반응의 잡음이 유계라고 가정한다. $p\ge m$이고 본 연구의 기하학적 조건과 표본 추출 조건이 성립하면, 독립 관측값 $n$개에서 평균 접공간 오차는 로그 인자를 제외하고 $n^{-2/(m+4)}$ 차수이며, 적분 제곱 예측 오차는 $m$차원 비모수 수렴률인 $n^{-4/(m+4)}$을 달성한다. 내재 차원, 모델과 스케일의 매개변수, 그리고 다양체 부피를 다양체의 도달 반경(reach)의 $m$제곱으로 나눈 비율을 고정한 스케일링 조건에서는 필요한 표본 크기가 $D+p$에 대해 다항식으로 증가하며, 계산량은 $n$, $D$, $p$에 대해 다항식으로 증가한다. 비단조 연결 함수를 갖는 곡선과 벡터값 반응을 갖는 곡면에서 수치 실험을 수행해 관측된 수렴률을 이론적 경계와 비교한다. 랑주뱅 동역학 예제에서는 근사 다양체 인덱스 모델에 따른 도달 확률 예측을 시험한다.

원문 초록

We study vector-valued regression with predictors filling a tube around an unknown $m$-dimensional manifold $\mathcal{M}$ in $\mathbb{R}^D$. In the Manifold-Index Model, the mean response is $F=f\circ\Pi_{\mathcal{M}}$, where $\Pi_{\mathcal{M}}$ is the nearest-point projection onto $\mathcal{M}$ and $f:\mathcal{M}\to\mathbb{R}^p$ is a possibly non-injective link function. Multiscale ANisotropic lOcal Regression (MANOR) estimates tangent planes by multiscale PCA of predictors with similar responses, then refines them by pooling outer products of local slopes. The neighborhoods narrow tangentially while retaining complete normal fibers. We assume a Lipschitz link differential and bounded response noise. For $p\ge m$, under our geometric and sampling conditions, $n$ independent observations give mean tangent-space error of order $n^{-2/(m+4)}$ and integrated squared prediction error at the $m$-dimensional nonparametric rate $n^{-4/(m+4)}$, up to logarithmic factors. In a scaling regime with fixed intrinsic dimension, model and scale parameters, and ratio of manifold volume to the $m$-th power of its reach, the required sample size grows polynomially in $D+p$, and computation is polynomial in $n$, $D$ and $p$. Numerical experiments on curves with non-monotone links and surfaces with vector-valued responses compare observed convergence rates with the theoretical bounds; a Langevin dynamics example tests prediction of hitting probabilities under an approximate manifold-index model.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.20275v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.