arXiv:2610.01088v1 stat.ME

가우시안 혼합에 대한 무작위 가중치 재조정 NPMLE의 다항로그 희소성

Polylogarithmic Sparsity of Randomly Reweighted NPMLEs for Gaussian Mixtures

Hansheng Jiang

제출 2026-10-01

한국어 초록

가우시안 위치 혼합의 비모수 최대가능도 추정량(NPMLE)은 혼합 분포의 무한 차원 공간에서 가능도를 최대화합니다. 최대화하는 혼합 분포는 유일하지 않을 수 있으며, 그 원자(atom)의 수에 대한 고전적 상한은 표본 크기 $n$에 따라 선형적으로 증가합니다. 본 논문에서는 가능도에 사라질 정도로 작은 무작위 섭동(perturbation)을 가하면 정확한 다항로그 희소성(polylogarithmic sparsity)을 얻을 수 있음을 보입니다. 그 결과 생성되는 무작위 가중치 재조정 NPMLE는 $n$이 증가함에 따라 1 부근으로 집중되는 독립적인 가중치(본 분석에서는 감마 분포로 가정)를 갖는 가중 가능도를 최대화합니다. 이 추정량은 높은 확률로 유일하며, $d$차원에서 $O\{(\log n/\log\log n)^d+\log n\}$개의 원자를 갖고, 통상적인 가능도를 거의 최대화하며, 로그 인자를 제외하고는 모수적 속도에 해당하는 헬링거(Hellinger) 수렴 속도로 혼합 밀도를 추정합니다. 이러한 희소성은 근사치가 아닌 추정량 자체에 대해 성립하며, 지지집합(support) 페널티를 필요로 하지 않습니다. 증명은 양의 커널 혼합에 대한 유효 차원 원리, 즉 적합값(fitted values)의 저차원 변동이 최대화점 집합의 모든 극점의 지지집합을 제어한다는 점에 기반합니다. 수치 실험을 통해 가중치 재조정 NPMLE가 통상적인 NPMLE와 비교할 만한 수준의 헬링거 위험 및 지지집합 크기를 가짐을 검증합니다.

원문 초록

The nonparametric maximum likelihood estimator (NPMLE) of a Gaussian location mixture maximizes the likelihood over the infinite-dimensional space of mixing distributions. The maximizing mixing distribution can be nonunique, and the classical bound on its number of atoms grows linearly with the sample size $n$. We show that a vanishingly small random perturbation of the likelihood yields exact polylogarithmic sparsity. The resulting randomly reweighted NPMLE maximizes a weighted likelihood whose independent weights, taken to be Gamma in our analysis, concentrate around one as $n$ grows. With high probability, it is unique, has $O\{(\log n/\log\log n)^d+\log n\}$ atoms in dimension $d$, nearly maximizes the ordinary likelihood, and estimates the mixture density at a Hellinger rate that is parametric up to logarithmic factors. This sparsity holds for the estimator itself, not for an approximation of it, and requires no support penalty. The proof rests on an effective-dimension principle for positive kernel mixtures: low-dimensional variation of the fitted values controls the support of every extreme point of the set of maximizers. Numerical illustrations verify that the reweighted NPMLE has Hellinger risk and support size comparable to those of the ordinary NPMLE.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.01088v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.