Zero-inflation in the Multivariate Poisson Lognormal Family - Fédération de Recherche BioEnviS, BioEnvironnement et Santé (Université de Lyon) Accéder directement au contenu
Article Dans Une Revue Annals of Applied Statistics Année : 2024

Zero-inflation in the Multivariate Poisson Lognormal Family

Zero-inflation dans la famille Poisson Lognormal multivariée

Résumé

Analyzing high-dimensional count data is a challenge and statistical model-based approaches provide an adequate and efficient framework that preserves explainability. The (multivariate) Poisson-Log-Normal (PLN) model is one such model: it assumes count data are driven by an underlying structured latent Gaussian variable, so that the dependencies between counts solely stems from the latent dependencies. However PLN doesn't account for zero-inflation, a feature frequently observed in real-world datasets. Here we introduce the Zero-Inflated PLN (ZIPLN) model, adding a multivariate zero-inflated component to the model, as an additional Bernoulli latent variable. The Zero-Inflation can be fixed, site-specific, feature-specific or depends on covariates. We estimate model parameters using variational inference that scales up to datasets with a few thousands variables and compare two approximations: (i) independent Gaussian and Bernoulli variational distributions or (ii) Gaussian variational distribution conditioned on the Bernoulli one. The method is assessed on synthetic data and the efficiency of ZIPLN is established even when zero-inflation concerns up to $90\%$ of the observed counts. We then apply both ZIPLN and PLN to a cow microbiome dataset, containing $90.6\%$ of zeroes. Accounting for zero-inflation significantly increases log-likelihood and reduces dispersion in the latent space, thus leading to improved group discrimination.
L'analyse des données de comptage à haute dimension est complexe, et les approches basées sur des modèles statistiques offrent un cadre adéquat et efficace qui préserve l'explicabilité. Le modèle Poisson-Log-Normal (PLN) (multivarié) est un tel modèle : il suppose que les données de comptage sont entraînées par une variable latente gaussienne structurée sous-jacente, de sorte que les dépendances entre les comptages proviennent uniquement des dépendances latentes. Cependant, le modèle PLN ne tient pas compte de la surreprésentation des zéros, une caractéristique fréquemment observée dans les jeux de données réels. Nous introduisons ici le modèle Zero-Inflated PLN (ZIPLN), ajoutant une composante multivariée surreprésentée en zéros au modèle, sous forme d'une variable latente de Bernoulli supplémentaire. La surreprésentation des zéros peut être fixe, spécifique au site, spécifique à la caractéristique ou dépendre de covariables. Nous estimons les paramètres du modèle en utilisant l'inférence variationnelle qui s'adapte à des jeux de données contenant quelques milliers de variables et comparons deux approximations : (i) des distributions variationnelles indépendantes gaussiennes et de Bernoulli ou (ii) une distribution variationnelle gaussienne conditionnée par celle de Bernoulli. La méthode est évaluée sur des données synthétiques et l'efficacité de ZIPLN est établie même lorsque la surreprésentation des zéros concerne jusqu'à 90% des comptages observés. Nous appliquons ensuite ZIPLN et PLN à un ensemble de données du microbiome des vaches, contenant 90,6% de zéros. Prendre en compte la surreprésentation des zéros augmente significativement la log-vraisemblance et réduit la dispersion dans l'espace latent, conduisant ainsi à une meilleure discrimination des groupes.
Fichier principal
Vignette du fichier
main.pdf (5.43 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
licence

Dates et versions

hal-04586927 , version 1 (24-05-2024)

Licence

Identifiants

Citer

Bastien Batardière, Julien Chiquet, François Gindraud, Mahendra Mariadassou. Zero-inflation in the Multivariate Poisson Lognormal Family. Annals of Applied Statistics, inPress. ⟨hal-04586927⟩
0 Consultations
0 Téléchargements

Altmetric

Partager

Gmail Mastodon Facebook X LinkedIn More