Get access

Simultaneous fixed and random effects selection in finite mixture of linear mixed-effects models

Authors

  • Yeting Du,

    1. Department of Mathematics and Statistics, McGill University, Burnside Hall, Room 1005, 805 Sherbrooke Street West, Montreal, Quebec, Canada H3A 0B9
    Search for more papers by this author
  • Abbas Khalili,

    Corresponding author
    1. Department of Mathematics and Statistics, McGill University, Burnside Hall, Room 1005, 805 Sherbrooke Street West, Montreal, Quebec, Canada H3A 0B9
    Search for more papers by this author
  • Johanna G. Nešlehová,

    1. Department of Mathematics and Statistics, McGill University, Burnside Hall, Room 1005, 805 Sherbrooke Street West, Montreal, Quebec, Canada H3A 0B9
    Search for more papers by this author
  • Russell J. Steele

    1. Department of Mathematics and Statistics, McGill University, Burnside Hall, Room 1005, 805 Sherbrooke Street West, Montreal, Quebec, Canada H3A 0B9
    Search for more papers by this author

Abstract

In this article, we study finite mixtures of linear mixed-effects (FMLME) models that are useful for longitudinal regression modelling in the presence of heterogeneity in both fixed and random effects. These models are computationally challenging when the number of covariates is large, and traditional variable selection techniques become expensive to implement. We introduce a penalized likelihood approach, and propose a nested EM algorithm for efficient numerical computations. The resulting estimators are shown to possess consistency and sparsity properties, and to be asymptotically normally distributed. We illustrate the performance of our method through simulations and a real data example. The Canadian Journal of Statistics 41: 596–616; 2013 © 2013 Statistical Society of Canada

Résumé

Dans cet article, les auteurs étudient des mélanges finis de modèles linéaires à effets mixtes, qui sont utiles pour la régression de données longitudinales en présence d'hétérogénéité des composantes fixes et aléatoires. Lorsque le nombre de covariables est élevé, ces modèles sont exigeants sur le plan calculatoire et les techniques classiques de sélection de variable deviennent laborieuses. Les auteurs présentent une approche de vraisemblance pénalisée et proposent un algorithme EM emboî té afin de procéder aux calculs numériques de façon efficace. Ils démontrent les propriétés de convergence, d’éparpillement et de normalité asymptotique des estimateurs. Ils illustrent leur méthode à l'aide de données simulées et réelles. La revue canadienne de statistique 41: 596–616; 2013 © 2013 Société statistique du Canada

Ancillary