A Bayesian method for classification and discrimination

Authors


  • Both authors were supported in part by NSF grant DMS-89O3842.The second author was also supported by NSF grant DMS-9024793.

Abstract

We discuss Bayesian analyses of traditional normal-mixture models for classification and discrimination. The development involves application of an iterative resampling approach to Monte Carlo inference, commonly called Gibbs sampling, and demonstrates routine application. We stress the benefits of exact analyses over traditional classification and discrimination techniques, including the ease with which such analyses may be performed in a quite general setting, with possibly several normal-mixture components having different covariance matrices, the computation of exact posterior classification probabilities for observed data and for future cases to be classified, and posterior distributions for these probabilities that allow for assessment of second-level uncertainties in classification.

Abstract

RÉSUMÉ

Les auteurs s'intéressent à l'analyse bayésienne des modeles traditionnels de classification ou de discrimination dans lesquels interviennent des mélanges de lois normales. Leur travail porte plus particulierement sur l'application d'une procédure de ré-échantillonnage itérative à une méthode inférentielle de type Monte-Carlo, communément appelée l'échantillonnage de Gibbs. Us font valoir les avantages que component les analyses exactes par rapport aux techniques traditionnelles de classification et de discrimination. Us illustrent entre autres avec quelle facilité il est possible d'effectuer de telles analyses, měme lorsque les matrices de variances-covariances des lois normales qui composent le mélange different. Us montrent aussi comment effectuer de façon exacte le calcul des probabilitiés de classification a posteriori d'observations passées et futures, ainsi que celui des lois a posteriori associées à ces probabilités, ce qui permet d'évaluer l'incertitude du deuxiéme ordre rattachée au processus de classification.

Ancillary