Newest papers

Minimax Optimality of the NPMLE for Gaussian Mixtures in Hellinger Distance

Shayan Hundrieser, Tudor Manole · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.30109 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Chúng tôi phân tích vấn đề ước tính mật độ hỗn hợp Gaussian duy nhất bằng cách sử dụng ước tính xác suất tối đa không tham số (NPMLE) dựa trên các mẫu độc lập $n$ và phân phối giống hệt nhau. Chúng tôi cho thấy rằng NPMLE không bị hạn chế cũng đạt được tỷ lệ tối thiểu tối ưu $\log(n)/n$ ở khoảng cách Hellinger vuông, khi thước đo hỗn hợp thực sự là sub-Gaussian. Hơn nữa, chúng tôi cho thấy rằng khi thước đo hỗn hợp thực sự có hỗ trợ nhỏ gọn, NMPLE bị hạn chế ở khoảng cách nhỏ gọn cũng đạt được tỷ lệ tối thiểu tối ưu, đó là nhanh hơn một chút và $\log(n)/n$ ở khoảng cách Hellinger vuông. Bằng chứng của chúng tôi là đặc trưng mạnh mẽ các phương pháp hỗn hợp Hellinger địa phương của lớp hỗ

Machine translation (Meta M2M100); the English original follows.

Abstract

We analyze the problem of estimating univariate Gaussian mixture densities using the nonparametric maximum likelihood estimator (NPMLE) based on $n$ independent and identically distributed samples. We show that the unconstrained NPMLE achieves the minimax optimal rate $\log(n)/n$ in squared Hellinger distance, when the true mixing measure is sub-Gaussian. In addition, we show that when the true mixing measure has compact support, the NMPLE constrained to a compact interval also achieves the minimax optimal rate, which is slightly faster and of order $\log(n)/(n \log \log n)$. Our proof consists of sharply characterizing the local Hellinger bracketing entropy of the class of finite Gaussian mixtures. One of our key technical innovations is to sharply bound the $L^2$ bracketing entropy of balls of bounded-degree polynomials, which may be of independent interest. As an application, we establish the regret-optimality of $g$-modeling procedures based on the NPMLE in the Gaussian Empirical Bayes problem with bounded priors.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Mathematics, Hellinger distance, Minimax, Entropy (arrow of time), Mixing (physics), Gaussian

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange