Large scale behaviour of the spatial $\varLambda$-Fleming–Viot process

Abstract

We consider the spatial $\varLambda $-Fleming–Viot process model (Electron. J. Probab. 15 (2010) 162–216) for frequencies of genetic types in a population living in $\mathbb{R}^{d}$, in the special case in which there are just two types of individuals, labelled $0$ and $1$. At time zero, everyone in a given half-space has type 1, whereas everyone in the complementary half-space has type $0$. We are concerned with patterns of frequencies of the two types at large space and time scales. We consider two cases, one in which the dynamics of the process are driven by purely ‘local’ events and one incorporating large-scale extinction recolonisation events. We choose the frequency of these events in such a way that, under a suitable rescaling of space and time, the ancestry of a single individual in the population converges to a symmetric stable process of index $\alpha\in(1,2]$ (with $\alpha=2$ corresponding to Brownian motion). We consider the behaviour of the process of allele frequencies under the same space and time rescaling. For $\alpha=2$, and $d\geq2$ it converges to a deterministic limit. In all other cases the limit is random and we identify it as the indicator function of a random set. In particular, there is no local coexistence of types in the limit. We characterise the set in terms of a dual process of coalescing symmetric stable processes, which is of interest in its own right. The complex geometry of the random set is illustrated through simulations.

On étudie le processus $\varLambda $-Fleming–Viot spatial (Electron. J. Probab. 15 (2010) 162–216) modélisant les fréquences locales de types génétiques dans une population évoluant dans $\mathbb{R}^{d}$. On considère le cas particulier où il n’y a que deux types possibles, notés $0$ et $1$. Initialement, tous les individus présents dans le demi-espace des points dont la première coordonnée est négative sont de type $1$, tandis que les individus présents dans le demi-espace complémentaire sont de type $0$. On s’intéresse au comportement des fréquences locales sur des échelles de temps et d’espace très grandes. On considère deux cas : dans le premier, l’évolution du processus est due uniquement à des événements ‘locaux’ ; dans le second, on incorpore des événements d’extinction et recolonisation de grande ampleur. On choisit la fréquence de ces événements de sorte qu’après une renormalisation spatiale et temporelle appropriée, la lignée ancestrale d’un individu de la population converge vers un processus $\alpha$-stable symétrique, d’indice $\alpha\in(1,2]$ (où $\alpha=2$ correspond au mouvement brownien). On étudie l’évolution du processus des fréquences alléliques aux mêmes échelles spatio-temporelles. Lorsque $\alpha=2$ et $d\geq2$, celui-ci converge vers un processus déterministe. Dans tous les autres cas, le processus limite est aléatoire et on l’identifie comme la fonction indicatrice d’un ensemble aléatoire évoluant au cours du temps. En particulier, les deux types ne coexistent pas à la limite. On caractérise chaque ensemble en termes d’un processus dual constitué de mouvements stables symétriques coalescents ayant un intérêt en eux-mêmes. La géométrie complexe des ensembles limites est illustrée par des simulations.