Modèles probabilistes formels pour problèmes cognitifs usuels

International audienceHow can an incomplete and uncertain model of the environment be used to perceive, infer, decide and act efficiently? This is the challenge that both living and artificial cognitive systems have to face. Symbolic logic is, by its nature, unable to deal with this question. The subjectivist approach to probability is an extension to logic that is designed specifically to face this challenge. In this paper, we review a number of frequently encountered cognitive issues and cast them into a common Bayesian formalism. The concepts we review are ambiguities, fusion, multimodality, conflicts, modularity, hierarchies and loops. First, each of these concepts is introduced briefly using some examples from the neuroscience, psychophysics or robotics literature. Then, the concept is formalized using a template Bayesian model. The assumptions and common features of these models, as well as their major differences, are outlined and discussed.Comment un modèle incomplet et incertain de l'environnement peut-il être utilisé pour décider, agir, apprendre, raisonner et percevoir efficacement ? Voici le défi central que les systèmes cognitifs tant naturels qu'artificiels doivent résoudre. La logique, de par sa nature même, faite de certitudes et ne laissant aucune place au doute, est incapable de répondre à cette question. L'approche subjectiviste des probabilités est une extension de la logique conçue pour pallier ce manque. Dans cet article, nous passons en revue un ensemble de problèmes cognitifs usuels et nous montrons comment les formuler et les résoudre avec un formalisme probabiliste unique. Les concepts abordés sont : l'ambigüité, la fusion, la multi-modalité, les conflits, la modularité, les hiérarchies et les boucles. Chacune de ces questions est tout d'abord brièvement présentée à partir d'exemples venant des neurosciences, de la psychophysique ou de la robotique. Ensuite, le concept est formalisé en utilisant un modèle générique bayésien. Enfin, les hypothèses, les points communs et les différences de chacun de ces modèles sont analysés et discutés

Étude d'un modèle génératif pour l'analyse en temps réel de trajectoires bidimensionnelles bruitées

Les règles du jeu -- Mise en situation -- Où se situe l'intérêt? -- Pourquoi limiter l'analyse aux trajectoires bidimensionnelles? -- Qu'est-ce que le modèle d'acitivité? -- Pourquoi les modèles graphiques probabilistes? -- Le problématique et les objectifs -- Une approche non supervisée -- Pourquoi Robocup? -- La plateforme de travail -- L'avant-match -- Point de vue de la planification -- Point de vue des modèles comportementaux et d'activité -- Dans le cadre des compétitions de soccer multi-agent -- La formation de l'équipe -- La première approche considérée -- L'alternative gagnante -- Les distinctions du modèle envisagé -- L'échauffement -- Modèle d'activité multi-résolution -- L'espace des primitives -- Le modèle graphique probabiliste (PGM) -- Le modèle de segmentation en-ligne -- Le plan de match -- Les trois contextes d'application -- Méthodologie de test : PGM seul -- Méthodologie de test : PGM avec modèle de segmentation en-ligne -- Validation du PGM- -- Validation du modèle de segmentation en-ligne -- Validation du PGM avec modèle de segmentation en-ligne -- Les échos de vestiaires -- Les principales contributions -- Le rendement et les limites du PGM -- Le rendement et les limites du modèle de segmentation en-ligne -- Avenues potentielles pour le modèle d'activité

Classification des données de grandes dimensions à l'aide de variantes de machines de Boltzmann

Les machines de Boltzmann sont des modèles graphiques non orientés impliquant des variables latentes. Dans leur version de base, toutes les variables impliquées dans le modèle sont binaires et s’interagissent entre elles. Ces modèles requièrent un grand nombre de paramètres, rendant leur apprentissage complexe et nécessitant des ordinateurs avec une grande capacité de stockage. De plus, les machines de Boltzmann sont souvent utilisées comme phase préliminaire pour d'autres algorithmes, fournissant soit un prétraitement des données, soit une méthode d'initialisation pour les réseaux de neurones à propagation avant. Elles ne constituent pas une solution autonome pour les problèmes de classification et de regroupement de données. Dans cette thèse, nous avons étudié le cas où les variables de la machine de Boltzmann restreinte sont continues. Nous avons d'abord proposé une méthodologie basée sur l'utilisation des décompositions tensorielles pour représenter la matrice de poids de la machine de Boltzmann restreinte gaussienne (GRBM), où les variables sont supposées continues et non bornées. Cette méthodologie a permis de réduire la capacité en mémoire du modèle en diminuant le nombre de paramètres grâce aux formats tensoriels. En particulier, l'opérateur de produits matriciels (MPO) s'est révélé être le format offrant la meilleure compression de la GRBM parmi les formats tensoriels expérimentés, sans détériorer la qualité du modèle initial. En outre, nous avons étudié d'autres variantes de la machine de Boltzmann restreinte (RBM) en supposant que les variables du modèle sont continues et bornées. Nous avons nommé ce modèle la machine de Boltzmann restreinte à intervalle compact (CIRBM). Afin de résoudre les problèmes de classification des données de grande dimension, nous avons proposé un modèle appelé machine de Boltzmann restreinte multinomiale à intervalle compact (MCIRBM). La particularité de ce modèle est qu'il est autonome et ne nécessite aucun recours à un autre algorithme de classification. En plus de posséder de bonnes caractéristiques de modèle génératif, le modèle MCIRBM a un excellent pouvoir prédictif, surpassant certains modèles utilisés pour la classification des données de grande dimension. De plus, nous avons proposé un modèle de mélange de machines de Boltzmann restreintes à intervalle compact (MixCIRBM) dans le but de réaliser des tâches de regroupement des données de grande dimension en grappes. Le modèle MixCIRBM est ajusté à l'aide de l'algorithme d'espérance-maximisation et testé sur des données générées et réelles. Les expériences ont montré que le modèle MixCIRBM propose une capacité de regroupement de données supérieure à celle du modèle de mélange gaussien et de l'algorithme K-moyennes. Les différents modèles étudiés dans cette thèse ont été entraînés par des algorithmes reposant sur la méthode de Monte-Carlo par chaînes de Markov (MCMC).Boltzmann machines are undirected graphical models involving latent variables. In their basic version, all the variables involved in the model are binary and interact with each other. These models require many parameters, making their learning complex and requiring computers with large storage capacity. Additionally, Boltzmann machines are often used as a preliminary phase for other algorithms, providing either data preprocessing or an initialization method for feedforward neural networks. They are not a stand-alone solution for classification and clustering problems. In this thesis, we studied the case where the variables of the restricted Boltzmann machine are continuous. We first proposed a methodology based on the use of tensor decompositions to represent the weight matrix of the Gaussian restricted Boltzmann machine (GRBM), where the variables are assumed to be continuous and unbounded. This methodology allowed the reduction of memory needed by decreasing the number of parameters through tensor decompositions. In particular, the matrix product operator (MPO) was found to be the format offering the best compression of the GRBM among the experimented tensor decompositions, without deteriorating the initial model's quality. Furthermore, we studied other variants of the restricted Boltzmann machine (RBM), assuming that the model variables are continuous and bounded. We named this model the compact interval restricted Boltzmann machine (CIRBM). In order to address high-dimensional data classification problems, we proposed a model called the multinomial compact interval restricted Boltzmann machine (MCIRBM). The particularity of this model is that it is autonomous and does not require any other classification algorithm. In addition to having good generative model characteristics, the MCIRBM model has excellent predictive power, outperforming some models used for high-dimensional data classification tasks. Moreover, we proposed a compact interval restricted Boltzmann machine mixture model (MixCIRBM) to perform high-dimensional data clustering tasks. The MixCIRBM model is fitted using the expectation-maximization algorithm and tested on both generated and real data. Experiments showed that the MixCIRBM model provides better data clustering capabilities than the Gaussian mixture model and the K-means algorithm. The various models studied in this thesis were trained using algorithms based on the Markov chain Monte Carlo method (MCMC)

A Posture Sequence Learning System for an Anthropomorphic Robotic Hand

The paper presents a cognitive architecture for posture learning of an anthropomorphic robotic hand. Our approach is aimed to allow the robotic system to perform complex perceptual operations, to interact with a human user and to integrate the perceptions by a cognitive representation of the scene and the observed actions. The anthropomorphic robotic hand imitates the gestures acquired by the vision system in order to learn meaningful movements, to build its knowledge by different conceptual spaces and to perform complex interaction with the human operator

Conception et implémentation d'un serveur de modèle de l'usager

Dans ce mémoire nous situons premièrement la place du modèle de l'apprenant (MA pour la suite) dans l'architecture d'un tuteur intelligent. Deuxièmement, nous décrivons les différents types de modèle de l'apprenant, les méthodes de représentation des connaissances utilisées dans ces modèles ainsi que les avantages et les inconvénients de ces méthodes. Troisièmement, nous présentons une combinaison de méthodes permettant de représenter les connaissances dans le modèle de l'apprenant. En dernier lieu, nous présentons une architecture générale du modèle de l'usager (MU pour la suite) indépendante de tout domaine d'application spécifique. Les instances de cette architecture seront dans le cadre d'un système tutoriel intelligent, le modèle d'un apprenant et dans le cadre du commerce électronique, celui d'un client. Afin de permettre la réutilisabilité des techniques nécessaires au développement d'un modèle usager, nous proposons une interface de programmation (API) intégrant une combinaison des méthodes les plus couramment utilisées."--Résumé abrégé par UM

Modélisation graphique probabiliste pour la maîtrise des risques, la fiabilité et la synthèse de lois de commande des systèmes complexes

Mes travaux de recherche sont menés au Centre de Recherche en Automatique de Nancy (CRAN), dans le département Ingénierie des Systèmes Eco-Techniques (ISET) sous la responsabilité de B. Iung et de A. Thomas et le département Contrôle - Identification - Diagnostic (CID) sous la responsabilité de D. Maquin et de G. Millerioux.L’objectif principal de mes recherches est de formaliser des méthodes de construction de modèles probabilistes représentant les bons fonctionnements et les dysfonctionnements d’un système industriel. Ces modèles ont pour but de permettre l’évaluation des objectifs de fonctionnement du système (exigences opérationnelles, performances) et les conséquences en termes de fiabilité et de maîtrise des risques (exigences de sûreté). Ceci nécessite de modéliser les impacts de l’environnement sur le système et sur ses performances, mais aussi l’impact des stratégies de commande et des stratégies de maintenance sur l’état de santé du système.Pour plus de détails.A travers les différents travaux de thèses et collaborations, j’ai exploité différents formalismes de modélisation probabilistes. Les apports majeurs de nos contributions se déclinent en 3 points :• La modélisation des conséquences fonctionnelles des défaillances, structurée à partir des connaissances métiers. Nous avons développés les principes de modélisation par Réseau Bayésien (RB) permettant de relier la fiabilité et les effets des états de dégradation des composants à l’architecture fonctionnelle du système. Les composants et les modes de défaillances sont alors décrits naturellement par des variables multi-états ce qui est difficile à modéliser par les méthodes classiques de sûreté de fonctionnement. Nous proposons de représenter le modèle selon différents niveaux d'abstraction en relation avec l’analyse fonctionnelle. La modélisation par un modèle probabiliste relationnel (PRM) permet de capitaliser la connaissance par la création des classes génériques instanciées sur un système avec le principe des composants pris sur étagère.• Une modélisation dynamique de la fiabilité des systèmes pris dans leur environnement. Nous avons contribué lors de notre collaboration avec Bayesia à la modélisation de la fiabilité des systèmes par Réseau Bayésien Dynamique (RBD). Un RBD permet, grâce à la factorisation de la loi jointe, une complexité inférieure à une Chaîne de Markov ainsi qu’un paramétrage plus facile. La collaboration avec Bayesia a permis l’intégration dans Bayesialab (outil de modélisation) de ces extensions et notamment l’utilisation de paramètres variables dans le temps élargissant la modélisation des RBD à des processus Markoviens non homogènes.• La synthèse de la loi de commande pour l’optimisation de la fiabilité du système. Nous travaillons sur l’intégration de la fiabilité dans les objectifs de commande des systèmes sous contrainte de défaillances ou de défauts. Nous posons aujourd’hui le problème dans un contexte général de commande. Nous proposons une structuration du système de commande intégrant des fonctions d’optimisation et des fonctions d’évaluation de grandeurs probabilistes liées à la fiabilité du système. Nos travaux récents sont focalisés sur l’intégration, dans la boucle d’optimisation de la commande, des facteurs issues d’une analyse de sensibilité de la fiabilité du système par rapport aux composants

Restauration d'image et champs markoviens : étude de deux méthodes

Généralités sur la restauration d'images -- Restauration par ordinateur -- Formation d'images -- Exemples de systèmes de formation d'images -- Dégradation d'images -- Modélisation -- La fonction du transfert -- Le bruit dans la restauration -- Filtrage inverse -- Filtre de Wiener ou des moindres carrés -- Formulation dans le cas discret -- Maximum a posteriori (MAP) -- Autres méthodes -- Les champs markoviens et la distribution de Gibbs -- Processus stochastique markovien -- Champs aléatoires -- Notions de voisinages et de cliques -- Champ de Markov et distribution de Gibbs -- Modèle de Ising et autres modèles -- L'ICM de Besag -- Hypothèses de base et maximum a posteriori -- Iterated conditional modes (ICM) -- Modèles -- Détériorations complexes -- Reconstruction par blocs -- Implantation sur ordinateur -- Derin et Elliott et la programmation dynamique -- Maximum a posteriori -- Modèles -- Formulation récursive -- Algorithme -- Programmation dynamique -- Exemples de réalisations de champs markoviens -- Exemples de restauration -- Criteères de comparaison -- Pourcentage de pixels mal assignés -- Image des différences ou plan d'erreur -- Blocs de pixels -- Pourcentage avec Laplacien -- Programmes et algorithmes -- Ordinateur et langage -- Programme > -- Programme >