Spike and slab Pólya tree posterior densities: Adaptive inference

Abstract

In the density estimation model, the question of adaptive inference using Pólya tree–type prior distributions is considered. A class of prior densities having a tree structure, called spike-and-slab Pólya trees, is introduced. For this class, two types of results are obtained: first, the Bayesian posterior distribution is shown to converge at the minimax rate for the supremum norm in an adaptive way, for any Hölder regularity of the true density between 0 and 1, thereby providing adaptive counterparts to the results for classical Pólya trees in Castillo (Ann. Inst. Henri Poincaré Probab. Stat. 53 (2017) 2074–2102). Second, the question of uncertainty quantification is considered. An adaptive nonparametric Bernstein–von Mises theorem is derived. Next, it is shown that, under a self-similarity condition on the true density, certain credible sets from the posterior distribution are adaptive confidence bands, having prescribed coverage level and with a diameter shrinking at optimal rate in the minimax sense.

Dans le modèle d’estimation de densité, la question de l’inférence adaptative est considérée, au moyen de lois a priori de type arbres de Pólya. Une classe de lois a priori à structure d’arbre, appelée “spike-and-slab Pólya trees”, est introduite. Des résultats de deux types sont obtenus. D’une part, il est établi que la loi a posteriori bayésienne converge à vitesse minimax en terme de la norme-sup de façon adaptative pour toute régularité de Hölder entre 0 et 1, obtenant ainsi des versions adaptatives des résultats pour les arbres de Pólya classiques de Castillo (Ann. Inst. Henri Poincaré Probab. Stat. 53 (2017) 2074–2102). D’autre part, nous considérons le problème de la quantification de l’incertitude. Un théorème de Bernstein–von Mises nonparamétrique et adaptatif est obtenu. Puis, il est établi que, sous conditions d’auto-similarité, des régions de crédibilité bien choisies de la loi a posteriori forment des bandes de confiance adaptatives, de niveau de confiance pré-déterminé, et de diamètre de taille optimale au sens minimax.