research

Apprentissage par renforcement rapide pour des grands ensembles d'actions en utilisant des codes correcteurs d'erreur

Abstract

National audienceL'utilisation de l'apprentissage par renforcement (AR) pour la résolution de problèmes réalistes se heurte à des questions de passage à l'échelle. La plupart des algorithmes d'AR sont incapables de gérer des problèmes avec des centaines, voire des milliers d'actions, ce qui en limite l'application dans la pratique. Nous considérons le problème d'AR dans le cadre de l'apprentissage supervisé où la politique optimale est obtenue sous la forme d'un classeur multi-classes, l'ensemble des classes correspondant à l'ensemble des actions du problème. Nous introduisons l'utilisation de codes correcteurs d'erreurs (CCE) dans ce contexte et proposons deux nouvelles méthodes pour réduire la complexité de l'apprentissage en utilisant des approches à base de rollouts. La première de ces méthodes consiste à introduire un classeur basé sur des CCE comme classeur multi-classes, ce qui réduit la complexité de l'apprentissage de O(A^2 ) a O(A log(A)). Ensuite, nous proposons une seconde méthode qui met à profit le dictionnaire de codage du CCE pour découper le PDM initial en O(log(A)) PDM à 2 actions. Cette seconde méthode réduit la complexité de l'apprentissage de O(A^2) a O(log(A)) ce qui permet de traiter en des temps très raisonnables des problèmes avec un grand nombre d'actions. Nous terminons avec une démonstration expérimentale de l'intérêt de notre approche

    Similar works