Limit theorems for longest monotone subsequences in random Mallows permutations

Abstract

We study the lengths of monotone subsequences for permutations drawn from the Mallows measure. The Mallows measure was introduced by Mallows in connection with ranking problems in statistics. Under this measure, the probability of a permutation $\pi$ is proportional to $q^{\operatorname{inv}(\pi)}$ where $q$ is a positive parameter and $\operatorname{inv}(\pi)$ is the number of inversions in $\pi$.

In our main result we show that when $0<q<1$, then the limiting distribution of the longest increasing subsequence (LIS) is Gaussian, answering an open question in (Probab. Theory Related Fields 161 (2015) 719–780). This is in contrast to the case when $q=1$ where the limiting distribution of the LIS when scaled appropriately is the GUE Tracy–Widom distribution. We also obtain a law of large numbers for the length of the longest decreasing subsequence (LDS) and identify the limiting constant, answering a further open question in (Probab. Theory Related Fields 161 (2015) 719–780).

Nous étudions les longueurs des sous-suites monotones de permutations aléatoires tirées sous la mesure de Mallows. La mesure de Mallows a été introduite par Mallows dans le contexte des problèmes de classement en statistique. Sous cette mesure la probabilité d’une permutation $\pi$ est proportionnelle à $q^{\operatorname{inv}(\pi)}$ où $q$ est un paramètre positif et $\operatorname{inv}(\pi)$ est le nombre d’inversions de $\pi$.

Notre résultat principal montre que lorsque $0<q<1$, la loi de la plus longue sous-suite croissante est Gaussienne, répondant ainsi à une question posée dans (Probab. Theory Related Fields 161 (2015) 719–780). Notons le contraste avec le cas $q=1$, où la loi limite de la plus longue sous-suite croissante proprement normalisée est la distribution du GUE Tracy–Widom. Nous obtenons aussi une loi des grands nombres pour la longueur de la plus longue sous-suite décroissante et identifions la limite, répondant ainsi à une autre question posée dans (Probab. Theory Related Fields 161 (2015) 719–780).