SEARCH

SEARCH BY CITATION

Keywords:

  • nonlinear processes;
  • missing observations;
  • identification;
  • expectation–maximization;
  • particle filters

Abstract

A novel maximum likelihood solution to the problem of identifying parameters of a nonlinear model under missing observations is presented. If the observations are missing, then it is difficult to build a partial likelihood function consisting of only the available observations. Hence, an expectation–maximization (EM) algorithm, which uses the expected value of the complete log-likelihood function including the missing observations, is developed. The expected value of the complete log-likelihood (E-step) in the EM algorithm is approximated using particle filters and smoothers. New expressions for particle filters and smoothers under missing observations are derived. In order to reduce the variance on the smoothed states, a point-wise (as opposed to path-based) state estimation procedure is used. The maximization step (M-step) in the EM algorithm is performed using standard optimization routines. The proposed nonlinear identification approach is illustrated through numerical examples.

On présente une nouvelle solution de vraisemblance maximum au problème d'identification des paramètres d'un modèle non linéaire avec des observations manquantes. Si des observations manquent, il est alors difficile d'établir une fonction de vraisemblance partielle seulement sur les observations disponibles. En conséquence, on a mis au point un algorithme de maximation des attentes (EM), qui utilise la valeur attendue de la fonction de vraisemblance logarithmique complète incluant les observations manquantes. La valeur attendue de la vraisemblance logarithmique complète (étape E) dans l'algorithme EM est approchée à l'aide de filtres et d'algorithmes de lissage. De nouvelles expressions pour les filtres et les algorithmes de lissage avec des observations manquantes sont calculées. Afin de réduire la variance des états lissés, on fait appel à une méthode d'estimation des états ponctuels (par opposition à une méthode basée sur les trajectoires). L'étape de maximisation (étape M) dans l'algorithme EM est réalisée au moyen de méthodes d'optimisation standards. La méthode d'identification non linéaire proposée est illustrée par des exemples numériques.