August 2021 Testing degree corrections in stochastic block models
Rajarshi Mukherjee, Subhabrata Sen
Author Affiliations +
Ann. Inst. H. Poincaré Probab. Statist. 57(3): 1583-1635 (August 2021). DOI: 10.1214/20-AIHP1120

Abstract

We study sharp detection thresholds for degree corrections in Stochastic Block Models in the context of a goodness of fit problem, and explore the effect of the unknown community assignment (a high dimensional nuisance parameter) and the graph density on testing for degree corrections. When degree corrections are relatively dense, a simple test based on the total number of edges is asymptotically optimal. For sparse degree corrections, the results undergo several changes in behavior depending on density of the underlying Stochastic Block Model. For graphs which are not extremely sparse, optimal tests are based on Higher Criticism or Maximum Degree type tests based on a linear combination of within and across (estimated) community degrees. In the special case of balanced communities, a simple degree based Higher Criticism Test (Mukherjee, Mukherjee, Sen (2021)) is optimal in case the graph is not completely dense, while the more complicated linear combination based procedure is required in the completely dense setting. The “necessity” of the two step procedure is demonstrated for the case of balanced communities by the failure of the ordinary Maximum Degree Test in achieving sharp constants. Finally for extremely sparse graphs the optimal rates change, and a version of the maximum degree test with a different rejection region is shown to be optimal.

Nous étudions les seuils optimaux de détection de la corrélation en degré dans des modèles par blocs stochastiques dans le cadre du problème de validité de l’ajustement, et explorons les effets de la non connaissance de l’affectation des communautés (qui est un paramètre de nuisance de grande dimension) et la densité du graphe en testant des corrections de degré. Quand les corrections de degré sont assez denses, un test simple basé sur le nombre total d’arêtes est asymptotiquement optimal. Pour les corrections de degré parcimonieuses, les résultats font apparaître plusieurs différences dans le comportement, dépendant de la densité du modèle par blocs stochastiques sous-jacent. Pour les graphes qui ne sont pas extrêmement parcimonieux, les tests optimaux sont basés sur des tests de haute criticité ou sur des tests du type du degré maximum portant sur une combinaison linéaire de chacun des degrés (estimés) des communautés. Dans le cas spécial des communautés équilibrées un simple test de haute criticité basé sur le degré (Mukherjee, Mukherjee, Sen (2021)) est optimal si le graphe n’est pas complètement dense, mais une approche plus compliquée basée sur des combinaisons linéaires est nécessaire si le graphe n’est pas complètement dense. La “nécessité” de cette approche en deux étapes est démontrée dans le cas des communautés équilibrées par l’échec du test classique du degré maximum à atteindre les constantes optimales. Enfin, pour les graphes extrêmement parcimonieux, les vitesses optimales changent, et une version du test du degré maximum avec une région de rejet différente est montrée être optimale.

Acknowledgements

The authors thank the Editors, the Associate Editor, and two anonymous referees for numerous helpful comments and suggestions which substantially improved the content and presentation of the paper.

Citation

Download Citation

Rajarshi Mukherjee. Subhabrata Sen. "Testing degree corrections in stochastic block models." Ann. Inst. H. Poincaré Probab. Statist. 57 (3) 1583 - 1635, August 2021. https://doi.org/10.1214/20-AIHP1120

Information

Received: 4 January 2020; Revised: 7 July 2020; Accepted: 4 November 2020; Published: August 2021
First available in Project Euclid: 22 July 2021

MathSciNet: MR4291450
zbMATH: 1493.62040
Digital Object Identifier: 10.1214/20-AIHP1120

Subjects:
Primary: 62C20 , 62G10 , 62G20

Keywords: Detection boundary , sparse signals , Stochastic block model

Rights: Copyright © 2021 Association des Publications de l’Institut Henri Poincaré

JOURNAL ARTICLE
53 PAGES

This article is only available to subscribers.
It is not available for individual sale.
+ SAVE TO MY LIBRARY

Vol.57 • No. 3 • August 2021
Back to Top