Thèse de Odalric-Ambrym Maillard

Apprentissage Séquentiel : Bandits, Statistique et Renforcement

Cette thèse traite des domaines suivant en Apprentissage Automatique: la théorie des Bandits, l'Apprentissage statistique et l'Apprentissage par renforcement. Son fil rouge est l'étude de plusieurs notions d'adaptation, d'un point de vue non asymptotique : à un environnement ou à un adversaire dans la partie I, à la structure d'un signal dans la partie II, à la structure de récompenses ou à un modèle des états du monde dans la partie III. Tout d'abord nous dérivons une analyse non asymptotique d'un algorithme de bandit à plusieurs bras utilisant la divergence de Kullback-Leibler. Celle-ci permet d'atteindre, dans le cas de distributions à support fini, la borne inférieure de performance asymptotique dépendante des distributions de probabilité connue pour ce problème. Puis, pour un bandit avec un adversaire possiblement adaptatif, nous introduisons des modèles dépendants de l'histoire et traduisant une possible faiblesse de l'adversaire et montrons comment en tirer parti pour concevoir des algorithmes adaptatifs à cette faiblesse. Nous contribuons au problème de la régression en montrant l'utilité des projections aléatoires, à la fois sur le plan théorique et pratique, lorsque l'espace d'hypothèses considéré est de dimension grande, voire infinie. Nous utilisons également des opérateurs d'échantillonnage aléatoires dans le cadre de la reconstruction parcimonieuse lorsque la base est loin d'être orthogonale. Enfin, nous combinons la partie I et II : pour fournir une analyse non-asymptotique d'algorithmes d'apprentissage par renforcement; puis, en amont du cadre des Processus Décisionnel de Markov, pour discuter du problème pratique du choix d'un bon modèle d'états.

Jury

Directeur de Thèse : Rémi Munos, Directeur de Recherche, INRIA Lille - Nord Europe Co-directeur : Philippe Berthet, Professeur, Université de Toulouse Rapporteurs : Nicolò Cesa-Bianchi, Professeur, Università degli Studi di Milano (Italie) Csaba Szepesvári, Associate Professor, University of Alberta (Canada) Membres : Olivier Cappé, Directeur de Recherche CNRS, LTCI Pascal Massart, Professeur, Université Paris 11

Thèse de l'équipe SequeL soutenue le 3 octobre 2011

Retour vers les autres thèses