Translator Disclaimer
November 2020 Entropy and expansion
Endre Csóka, Viktor Harangi, Bálint Virág
Ann. Inst. H. Poincaré Probab. Statist. 56(4): 2428-2444 (November 2020). DOI: 10.1214/19-AIHP1044


Shearer’s inequality bounds the sum of joint entropies of random variables in terms of the total joint entropy. We give another lower bound for the same sum in terms of the individual entropies when the variables are functions of independent random seeds. The inequality involves a constant characterizing the expansion properties of the system.

Our results generalize to entropy inequalities used in recent work in invariant settings, including the edge-vertex inequality for factor-of-IID processes, Bowen’s entropy inequalities, and Bollobás’s entropy bounds in random regular graphs.

The proof method yields inequalities for other measures of randomness, including covariance.

As an application, we give upper bounds for independent sets in both finite and infinite graphs.

L’inégalité de Shearer limite la somme des entropies conjointes de variables aléatoires en termes d’entropie conjointe totale. Nous donnons une autre borne inférieure pour la même somme en termes d’entropies individuelles lorsque les variables sont des fonctions de nombres aléatoires indépendantes. Le coefficient de l’inégalité caractérise les propriétés d’expansion du système.

Nos résultats se généralisent aux inégalités d’entropie utilisées dans des travaux récents dans des contextes invariants, y compris l’inégalité arête-sommet pour les processus de facteur d’IID, les inégalités d’entropie de Bowen et les limites d’entropie de Bollobás dans des graphes réguliers aléatoires.

La méthode de la preuve produit des inégalités pour d’autres mesures de l’aléatoire, y compris la covariance.

Comme application, nous donnons des bornes supérieures pour des ensembles indépendants dans des graphes finis et infinis.


Download Citation

Endre Csóka. Viktor Harangi. Bálint Virág. "Entropy and expansion." Ann. Inst. H. Poincaré Probab. Statist. 56 (4) 2428 - 2444, November 2020.


Received: 13 February 2019; Revised: 26 November 2019; Accepted: 17 December 2019; Published: November 2020
First available in Project Euclid: 21 October 2020

MathSciNet: MR4164843
Digital Object Identifier: 10.1214/19-AIHP1044

Primary: 05C69, 05E18, 37A50, 60K35, 94A17

Rights: Copyright © 2020 Institut Henri Poincaré


This article is only available to subscribers.
It is not available for individual sale.

Vol.56 • No. 4 • November 2020
Back to Top