La régression logistique bayésienne

Abstract

Historiquement l’étude des mod`eles décrivant les modalités prises par des variables qualitatives date de plusieurs années, les travaux les plus marquants de cette époque sont ceux de Berkson consacrés aux mod`ele logistique. Nous avons étudié dans ce mémoire la classe des mod`eles GLM qui contient les modéles linéaires classiques et aussi les mod`eles logistique pour lesquels nous avons abordé deux méthodes d’estimation pour les param`etres : la méthode du maximum de vraisemblance et la méthode bayésienne renforcée par les techniques d’approximation MCMC. La qualité de l’estimation est analysée par des quantités tels que le coefficient de détermination dans le cas des mod`eles classiques et les pseudos R2 dans le cas des mod`eles logistique, la matrice de confusion et les diagrammes ROC, la courbe logistique ainsi que les représentations graphiques des fonction de lien et cela afin d’évaluer la qualité du mod`ele logistique. Un exemple et une application sont présentés afin d’illustrer la modélisation logistique binaire en utilisant les logiciels R et WinBUGS qui permettent d’implémenter l’approximation de Laplace ainsi que l’algorithme de Gibbs, de cela on voit bien que les performances des ordinateurs ont rendu faisable des procédés de simulation efficaces et la disponibilité des programmes informatique a facilité le calcul des probabilité a posteriori qui était jusque la d’une complexité décourageante, et nous avons obtenu la m^eme conclusion par les deux méthodes d’estimation. Faute du covid-19 qui nous a privé de faire un stage pour avoir des données réelles, nous nous sommes contenté de présenter deux applications dont les données de la premiére application sont tirées d’un livre et les données de la deuxiéme sont tirées d’un cours. Nous avons établi nousm^eme toutes les estimations présentés et nous pouvons conclure que m^eme si les deux méthodes d’estimations présentées ont permis d’accepter la m^eme variable mais la valeur du coefficient de cette variable est plus grande dans l’estimation bayésienne, ce qui nous a permis d’avoir dans les résultats de prévision, moins de chances de faire défaut que le rsultat obtenu avec l’estimation classique. Terminons sur ce constat que les méthodes de régression sont des méthodes tr`es puissantes mais qui doivent ^etre utilisées avec beaucoup de discernement et de prudence. Evidemment la régression logistique polytomique reste des mod`eles tr`es riches `a développer et qu’on n’a pas pu faire dans le cadre de ce mémoire . La bibliographie jointe démontre par son volume que les mod`eles logit ont ces derni`eres années su séduire un nombre grandissant de statisticiens et de chercheurs par la simplicité de ses applications et interprétation.