Apprentissage des SVMs régularisés par la méthode directe du support

Abstract

Dans ce mémoire, nous avons élaboré une nouvelle approche basée sur la méthode directe de support (MDS) pour la minimisation d'une fonction quadratique convexe à variables bornées où la matrice associée est semi-définie positive. La MDS est appliquée aux problèmes de SVM régularisés. Elle est particulièrement utile lorsque le problème PQ comporte un grand nombre de variables.Le principe de cette méthode est simple : partant d'une solution réalisable de support initiale, chaque itération consiste à trouver une direction d'amélioration et un pas maximal le long de cette direction en améliorant la valeur de la fonction objectif tout en veillant à ne pas sortir du domaine réalisable déterminé par les bornes du problème. Afin de comparer son efficacité avec la méthode SMO, nous avons implémenté la MDS sur Python. Les expérimentations numériques sur des benchmarks ont montré l'efficacité de notre méthode par rapport à SMO en termes de nombre d'itérations, mais en termes de temps CPU, c'est l'inverse qui se produit.