L'objectif de cette thèse est de présenter ma modeste contribution à l'effort collectif de l'humanité pour comprendre l'intelligence et construire des machines intelligentes.
Ceci est une thèse par articles (cinq au total), tous représentant une entreprise personnelle dans laquelle j'ai consacré beaucoup d'énergie.
Les articles sont présentés en ordre chronologique, et ils touchent principalement à deux sujets : l'apprentissage de représentations et l'optimisation. Les articles des chapitres 3, 5 et 9
sont dans la première catégorie, et ceux des chapitres 7 et 11 sont dans la seconde catégorie.
Dans le premier article, nous partons de l'idée de modéliser la géométrie des données en entraînant un auto-encodeur débruitant qui reconstruit les données après qu'on les ait perturbées. Nous établissons un lien entre les auto-encodeurs contractifs et les auto-encodeurs débruitants. Notre contribution majeure consiste à démontrer mathématiquement une propriété intéressante qu'ont les solutions optimales aux auto-encodeurs débruitants lorsqu'ils sont définis à partir de bruit additif gaussien. Plus spécifiquement, nous démontrons qu'ils apprennent le score de la densité de probabilité. Nous présentons un ensemble de méthodes pratiques par lesquelles ce résultat nous permet de transformer un auto-encodeur en modèle génératif. Nous menons certaines expériences dans le but d'apprendre la géométrie locale des distributions de données.
Dans le second article, nous continuons dans la même ligne d'idées en construisant un modèle génératif basé sur l'apprentissage de distributions conditionnelles. Cet exercice se fait dans un cadre plus général et nous nous concentrons sur les propriétés de la chaine de Markov obtenu par échantillonnage de Gibbs. à l'aide d'une petite modification lors de la construction de la chaine de Markov, nous obtenons un modèle que l'on nomme "Generative Stochastic Networks". Plusieurs copies de ce modèle peuvent se combiner pour créer une hiérarchie de représentations abstraites servant à mieux représenter la nature des données. Nous présentons des expériences sur l'ensemble de données MNIST et sur le remplissage d'images trouées.
Dans notre troisième article, nous présentons un nouveau paradigme pour l'optimisation parallèle. Nous proposons d'utiliser un ensemble de noeuds de calcul pour évaluer les coefficients nécessaires à faire de l'échantillonnage préférentiel sur les données d'entraînement. Cette idée ressemble beaucoup à l'apprentissage avec curriculum qui est une méthode dans laquelle l'ordre des données fournies au modèle est choisi avec beaucoup de soin dans le but de faciliter l'apprentissage.
Nous comparons les résultats expérimentaux observés à ceux anticipés en terme de réduction de variance sur les gradients.
Dans notre quatrième article, nous revenons au concept d'apprentissage de représentations et nous cherchons à savoir s'il serait possible de définir une notion utile de "contenu en information" dans le contexte de couches de réseaux neuronaux.
Ceci nous intéresse en particulier parce qu'il y a une sorte de paradoxe avec les réseaux profonds qui sont déterministes. Les couches les plus profondes ont des meilleures représentations que les premières couches, mais si l'on regarde strictement avec le point de vue de l'entropie (venant de la théorie de l'information) il est impossible qu'une couche plus profonde contienne plus d'information qu'une couche à l'entrée.
Nous développons une méthode d'entraînement de classifieur linéaire sur chaque couche du modèle étudié (dont les paramètres sont maintenant figés pendant l'étude). Nous appelons ces classifeurs des "sondes linéaires de classification", et nous nous en servons pour mieux comprendre la dynamique particulière de l'entraînement d'un réseau profond.
Nous présentons des expériences menées sur des gros modèles (Inception v3 et ResNet-50), et nous découvrons une propriété étonnante : la performance de ces sondes augmente de manière monotone lorsque l'on descend dans les couches plus profondes.
Dans le cinquième article, nous retournons à l'optimisation, et nous étudions la courbure de l'espace de la fonction de perte. Nous regardons les vecteurs propres dominants de la matrice hessienne, et nous explorons les gains potentiels dans ces directions s'il était possible de faire un pas d'une longueur optimale.
Nous sommes principalement intéressés par les gains dans les directions associées aux valeurs propres négatives car celles-ci sont généralement ignorées par les méthodes populaire d'optimisation convexes. L'étude de la matrice hessienne demande des coûts énormes en calcul, et nous devons nous limiter à des expérience sur les données MNIST. Nous découvrons que des gains très importants peuvent être réalisés dans les directions de courbure négative, et que les longueurs de pas optimales sont beaucoup plus grandes que celles suggérées par la littérature existante.The goal of this thesis is to present a body of work that serves as my modest
contribution to humanity's
quest to understand intelligence and to implement intelligent systems.
This is a thesis by articles, containing five articles, not all of equal impact,
but all representing a very meaningful personal endeavor.
The articles are presented in chronological order, and they cluster
around two general topics : representation learning and optimization. Articles from chapters 3, 5, and 9
are in the former category, whereas articles from chapters 7 and 11 are in the latter.
In the first article, we start with the idea of manifold learning through training
a denoising auto-encoder to locally reconstruct data after perturbations.
We establish a connection between contractive auto-encoders and denoising auto-encoders.
More importantly, we prove mathematically a very interesting property from the
optimal solution to denoising auto-encoders with additive gaussian noise.
Namely, the fact that they learn exactly the score of the probability density function
of the training distribution. We present a collection of ways in which this
allows us to turn an auto-encoder into a generative model.
We provide experiments all related to the goal of local manifold learning.
In the second article, we continue with that idea of building a generative model
by learning conditional distributions. We do that in a more general setting
and we focus more on the properties of the Markov chain obtained by Gibbs sampling.
With a small modification in the construction of the Markov chain,
we obtain the more general "Generative Stochastic Networks",
which we can then stack together into a structure that can represent more
accurately the different levels of abstraction of the data modeled.
We present experiments involving the generation of MNIST digits and image inpainting.
In the third article, we present a novel idea for distributed optimization.
Our proposal uses
a collection of worker nodes to compute the importance weights to be used
by one master node to perform Importance Sampling.
This paradigm has a lot in common with the idea of curriculum learning,
whereby the order of training examples is taken to have a significant impact on the
training performance.
We present results to compare the potential reduction in variance
for gradient estimates with the practical reduction in variance observed.
In the fourth article, we go back to the concept of representation learning
by asking whether there would be any measurable quantity in a neural network layer
that would correspond intuitively to its "information contents".
This is particularly interesting because there is a kind of paradox in
deterministic neural networks : deeper layers encode better representations of the
input signal, but they carry less (or equal) information than the raw inputs (in terms of entropy).
By training a linear classifier on every layer in a neural network (with frozen parameters),
we are able to measure linearly separability of the representations at every layer.
We call these "linear classifier probes", and we show how they
can be used to better understand the dynamics of training a neural network.
We present experiments with large models (Inception v3 and ResNet-50) and uncover
a surprizing property : linear separability increases in a strictly monotonic
relationship with the layer depth.
In the fifth article, we revisit optimization again, but now we study the negative
curvature of the loss function. We look at the most dominant eigenvalues and
eigenvectors of the Hessian matrix, and we explore the gains to be made
by modifying the model parameters along that direction with an optimal step size.
We are mainly interested in the potential gains for directions of negative curvature,
because those are ignored by the very popular convex optimization
methods used by the deep learning community.
Due to the large computational costs of anything dealing with
the Hessian matrix, we run a small model on MNIST. We find that large gains
can be made in directions of negative curvature, and that the optimal step sizes
involved are larger than the current literature would recommend
