Modélisation graphique probabiliste pour la maîtrise des risques, la fiabilité et la synthèse de lois de commande des systèmes complexes

Mes travaux de recherche sont menés au Centre de Recherche en Automatique de Nancy (CRAN), dans le département Ingénierie des Systèmes Eco-Techniques (ISET) sous la responsabilité de B. Iung et de A. Thomas et le département Contrôle - Identification - Diagnostic (CID) sous la responsabilité de D. Maquin et de G. Millerioux.L’objectif principal de mes recherches est de formaliser des méthodes de construction de modèles probabilistes représentant les bons fonctionnements et les dysfonctionnements d’un système industriel. Ces modèles ont pour but de permettre l’évaluation des objectifs de fonctionnement du système (exigences opérationnelles, performances) et les conséquences en termes de fiabilité et de maîtrise des risques (exigences de sûreté). Ceci nécessite de modéliser les impacts de l’environnement sur le système et sur ses performances, mais aussi l’impact des stratégies de commande et des stratégies de maintenance sur l’état de santé du système.Pour plus de détails.A travers les différents travaux de thèses et collaborations, j’ai exploité différents formalismes de modélisation probabilistes. Les apports majeurs de nos contributions se déclinent en 3 points :• La modélisation des conséquences fonctionnelles des défaillances, structurée à partir des connaissances métiers. Nous avons développés les principes de modélisation par Réseau Bayésien (RB) permettant de relier la fiabilité et les effets des états de dégradation des composants à l’architecture fonctionnelle du système. Les composants et les modes de défaillances sont alors décrits naturellement par des variables multi-états ce qui est difficile à modéliser par les méthodes classiques de sûreté de fonctionnement. Nous proposons de représenter le modèle selon différents niveaux d'abstraction en relation avec l’analyse fonctionnelle. La modélisation par un modèle probabiliste relationnel (PRM) permet de capitaliser la connaissance par la création des classes génériques instanciées sur un système avec le principe des composants pris sur étagère.• Une modélisation dynamique de la fiabilité des systèmes pris dans leur environnement. Nous avons contribué lors de notre collaboration avec Bayesia à la modélisation de la fiabilité des systèmes par Réseau Bayésien Dynamique (RBD). Un RBD permet, grâce à la factorisation de la loi jointe, une complexité inférieure à une Chaîne de Markov ainsi qu’un paramétrage plus facile. La collaboration avec Bayesia a permis l’intégration dans Bayesialab (outil de modélisation) de ces extensions et notamment l’utilisation de paramètres variables dans le temps élargissant la modélisation des RBD à des processus Markoviens non homogènes.• La synthèse de la loi de commande pour l’optimisation de la fiabilité du système. Nous travaillons sur l’intégration de la fiabilité dans les objectifs de commande des systèmes sous contrainte de défaillances ou de défauts. Nous posons aujourd’hui le problème dans un contexte général de commande. Nous proposons une structuration du système de commande intégrant des fonctions d’optimisation et des fonctions d’évaluation de grandeurs probabilistes liées à la fiabilité du système. Nos travaux récents sont focalisés sur l’intégration, dans la boucle d’optimisation de la commande, des facteurs issues d’une analyse de sensibilité de la fiabilité du système par rapport aux composants

Combiner intelligence artificielle et programmation mathématique pour la planification des horaires des équipages en transport aérien

RÉSUMÉ: La recherche opérationnelle est un élément central de l’amélioration des horaires d’équipage. L’objectif est d’appliquer des algorithmes de programmation mathématique pour trouver des solutions optimales. Toutefois, cette approche présente un inconvénient important : les temps d’exécution sont longs et nécessitent souvent plusieurs jours pour converger. Cela réduit la valeur pratique d’une solution optimale puisqu’il n’est pas possible d’effectuer une nouvelle exécution avec de nouveaux réglages de paramètres. Étant donné que les horaires des transporteurs aériens sont fréquemment perturbés par des événements météorologiques pendant toute l’année, il est souhaitable de chercher de nouveaux moyens de réduire les durées d’exécution. Dans le cadre de cette thèse, on s’intéresse au problème de rotations d’équipage aériens ou CPP (Crew Pairing Problem), une des étapes de la planification des horaires d’équipage. Pour chaque catégorie d’équipage et chaque type de flotte d’aéronefs, le CPP consiste à trouver un ensemble de rotations à coût minimal afin que chaque vol actif soit effectué par un équipage, en respectant certaines conditions supplémentaires qui varient selon les applications et qui découlent généralement des accords de travail de chaque compagnie. Ce problème devient difficile à résoudre lorsque le nombre de vols augmente car le nombre de rotations possibles augmente de façon exponentielle (nombre de variables). La méthode la plus répandue depuis les années 1990 a été de résoudre le problème de partitionnement d’ensemble avec génération de colonnes insérée dans un algorithme de séparation et évaluation ou B&B (branch-&-bound). Lorsque le nombre de vols augmente dans un problème de rotations d’équipage, le temps pour le résoudre par génération de colonnes devient important. Le nombre d’itérations de génération de colonnes, le temps par itération pour résoudre le problème maître et le nombre de noeuds de branchement augmentent. La méthode d’agrégation dynamique des contraintes (DCA) accélère le problème maître en réduisant le nombre de contraintes de partitionnement définies dans le problème maître restreint en agrégeant en une seule contrainte chaque groupe de tâches qui devraient être consécutives dans la solution optimale. Ceci correspond à fixer temporairement à 1 des variables de connexion de vol. Ceci permet de remplacer toutes les contraintes de couverture des vols d’une grappe par une contrainte unique. L’algorithme modifie dynamiquement ces grappes pour atteindre la solution optimale si certaines prédictions étaient fausses. L’objectif de cette thèse est donc d’utiliser différentes méthodes d’apprentissage machine pour proposer des grappes de vols ayant une forte probabilité d’être effectués consécutivement par le même équipage, dans une solution optimale. Cette information alimente l’optimiseur de program mation mathématique pour terminer le travail en tenant compte de la fonction de coût exacte et des contraintes complexes. Dans le premier sujet de cette thèse, nous présentons une étude de cas sur l’utilisation d’algorithmes d’apprentissage machine pour initialiser solveur commercial à base de génération de colonnes à grande échelle (GENCOL) dans le contexte d’un problème hebdomadaire de rotations d’équipage aérien, où de petites économies de 1.0 % se traduisent par une augmentation des revenus annuels de dizaines de millions de dollars dans une grande compagnie aérienne. Nous nous concentrons sur le problème de la prédiction du prochain vol de correspondance d’un équipage, défini comme un problème de classification multiclasse formé à partir de données historiques, et nous concevons une approche de réseaux de neurones adaptée qui atteint une grande précision (99.7% au total ou 82.5% sur les cas plus difficiles). Nous démontrons l’utilité de notre approche en utilisant une heuristique simple pour combiner les prédictions de connexion de vols afin de former des grappes initiales de vols qui sont fournis comme information initiale au solveur GENCOL, ce qui donne une amélioration de vitesse 10x et jusqu’à 0.2% d’économie. Dans le second sujet de cette thèse, nous proposons de combiner de multiples méthodes d’optimisation mises en oeuvre, développées et testées sur de petits ensembles de données, afin d’obtenir un nouveau solveur efficace pour le problème de rotations d’équipes à grande échelle. Nous utilisons l’apprentissage machine pour proposer des grappes initiales pour un problème de rotations d’équipage important : des problèmes mensuels comportant jusqu’à 50 000 vols. Nous utilisons l’apprentissage machine, pour produire des grappes de vols ayant une forte probabilité d’être effectués consécutivement par le même équipage, dans une solution optimale. Un nouvel algorithme combinant plusieurs techniques avancées de recherche opérationnelle sera utilisé pour assembler et modifier ces grappes, au besoin, afin de produire une bonne solution. Cette nouvelle approche, en commençant par l’apprentissage machine et en terminant l’optimisation par la programmation mathématique, permettra de résoudre des problèmes globalement plus importants et d’éviter la perte d’optimalité résultant de la décomposition heuristique en petites périodes de temps dans l’approche à horizon fuyant. Nous montrons que les grappes produites par l’heuristique à base d’apprentissage machine sont mieux adaptées aux problèmes de rotations d’équipage, ce qui se traduit par une réduction moyenne du coût de la solution entre 6.8 et 8.52 %, qui est principalement dû à la réduction du coût des contraintes globales entre 69.79 et 78.11 %, par rapport aux rotations obtenus avec une solution initiale standard. Dans l’algorithme de génération de colonnes, une solution initiale réalisable est requise pour assurer la faisabilité du problème primal à chaque itération de génération de colonnes. De plus, il est évident, d’après les résultats expérimentaux dans la littérature, que si la qualité de la solution initiale est meilleure, la convergence de génération de colonnes est également plus rapide. Ainsi, une solution initiale de haute qualité devrait être générée dans un laps de temps plus court. Pour pouvoir proposer une telle solution initiale, on a besoin d’un algorithme d’apprentissage machine capable d’incorporer les contraintes locales dans le processus d’entraînement. Dans le troisième sujet de cette thèse, nous présentons donc les réseaux à noyaux convolutifs structurés (SCKN) qui combinent les propriétés des architectures d’apprentissage profond, la flexibilité non paramétrique des méthodes du noyau et les prédicteurs structurés. Plus précisément, nous montrons que l’utilisation supervisée de cette combinaison surpasse les méthodes de pointe en termes de sous-optimalité primale et de précision du test sur l’ensemble de données OCR. Nous appliquons cette méthode à un ensemble de données de prévision de connexions de vols pour proposer de bonnes solutions initiales à un solveur de planification des horaires d’équipage aérien. Les principaux résultats des calculs montrent que l’utilisation de l’approche proposée aboutit à de meilleures solutions avec des coûts significativement plus faibles, réduisant de 9.51 % le coût de la solution et de 80.25 % le coût des contraintes globales. De plus, l’utilisation de la solution obtenue pour relancer le processus d’optimisation donne de meilleurs résultats, réduisant encore le coût de la solution et fournissant une solution avec un coût très négligeable des contraintes globales et un nombre beaucoup plus réduit de repositionnements.----------ABSTRACT: A focal point for improving crew scheduling is the study of operations research methods, in order to find optimal solutions. However, this approach has a major drawback. While optimal solutions are possible to achieve, the run times are lengthy, often requiring days for convergence. This reduces the practical value of an optimal solution because there is limited ability to complete a re-run with new parameter settings. Given that air carrier schedules experience frequent year-round disruption from weather events, it is desirable to look for new ways to reduce run times thus making schedule re-generation quicker and more interactive. For each crew category and aircraft fleet type, the crew pairing problem (CPP) consists of finding a set of minimum-cost rotations so that each active flight is performed by a crew, under certain additional conditions that vary according to the applications and that generally result from the work agreements of each airline. This problem becomes difficult to solve when the number of flights increases because the number of possible rotations increases exponentially (number of variables). The most prevalent method since the 1990s has been the set partitioning problem with column generation inserted in branch-&-bound. When the number of flights increases in a CPP, the time to solve it by column generation becomes important. Specifically, the number of iterations and the time per iteration to solve the master problem and the number of branching nodes increase. The dynamic constraint aggregation (DCA) method accelerates the master problem by reducing the number of partitioning constraints defined in the restricted master problem by aggregating into a single constraint each group of tasks that should be consecutive in the optimal solution. This corresponds to temporarily fixing to one the flight-connection variables. This allows all flightcovering constraints for flights in a cluster to be replaced by a single constraint. The algorithm modifies the clusters dynamically to reach an optimal solution if some predictions were wrong. The objective of this thesis is therefore to use various machine learning methods to propose clusters of flights with a high probability of being performed consecutively by the same crew, in an optimal solution. This information feeds into the mathematical programming optimizer to complete the work taking into account the exact cost function and complex CPP constraints. In the first subject of this thesis, we present a case study of using machine learning classification algorithms to initialize a large-scale commercial operations research solver (GENCOL) in the context of a weekly airline CPP, where small savings of as little as 1% translate to increasing annual revenue by dozens of millions of dollars in a large airline. We focus on the problem of predicting the next connecting flight of a crew, framed as a multiclass classification problem trained from historical data, and design an adapted neural network approach that achieves high accuracy (99.7%) overall or 82.5% on harder instances). We demonstrate the utility of our approach by using simple heuristics to combine the flight-connection predictions to form initial crew-pairing clusters that are provided as initial information to the GENCOL solver, yielding a 10x speed improvement and up to 0.2% cost saving. In the second subject of this thesis, we propose to combine multiple optimization methods implemented, developed and tested on small datasets, in order to obtain an efficient new solver for large-scale CPPs. We use Machine Learning (ML) to propose a good initial partition for a large CPP: monthly problems with up to 50 000 flights. We use ML to produce clusters of flights having a high probability of being performed consecutively by the same crew, in an optimal solution. A new algorithm combining several advanced Operations Research techniques will be used to assemble and modify these clusters, when necessary, to produce a good solution. This new approach, starting with Machine Learning and finishing the optimization with Mathematical Programming will permit to solve globally larger problems and will avoid the loss of optimality resulting of heuristic decomposition in small time slices in the rolling horizon approach. We show that the clusters produced by ML-based heuristics are better suited for CPPs, resulting in an average reduction of solution cost between 6.8% and 8.52%, which is mainly due to the reduction in the cost of global constraints between 69.79% and 78.11%, when compared to pairings obtained with a standard initial solution. In the column generation algorithm, an initial feasible solution is required to ensure the feasibility of the primal problem at each iteration of column generation. Moreover, it is clear from the computational experiments in the literature that if the quality of the initial solution is better, the convergence of column generation is also faster. Thus, a high quality initial solution should be generated in a shorter period of time. To be able to propose such an initial solution, we need a Machine Learning algorithm that is able to integrate local constraints into the training process. In the third subject of this thesis, we therefore introduce a Structured Convolutional Kernel Network, or SCKN, which combines the properties of deep learning architectures, the non-parametric flexibility of kernel methods and the structured predictors. More precisely, we show that using this combination in a supervised fashion outperforms state of the art methods in terms of the primal sub-optimality as well as on the test accuracy on the OCR dataset. We apply this method on a Next-Flight-Prediction dataset to propose good initial solutions to an airline crew scheduling solver. The main computational results show that using our proposed approach yields better results with significantly smaller costs, reducing by 9.51% the solution cost and by 80.25% the cost of global constraints. Furthermore, using the obtained solution to re-launch the optimization process yields better results, further reducing the solution cost and providing a solution with a very negligible cost of global constraints and a much smaller number of deadheads

Conférence Nationale d'Intelligence Artificielle Année 2020

National audienc

L’analogie de l’hérédité culturelle : fondements conceptuels de la théorie de la double hérédité

Selon la théorie de la double hérédité, les processus de transmission sociale des connaissances permettraient aux cultures humaines d'évoluer de manière darwinienne. On parvient à cette conclusion en inférant que, étant donné qu'une analogie profonde peut être établie entre les mécanismes de transmission génétique et ceux de transmission sociale, on devrait non seulement concevoir que les processus cognitifs d'apprentissage social constituent bel et bien un système d'hérédité distinct du système d'hérédité génétique, mais qu’il est aussi légitime, sur la base de cette même analogie, de transférer les concepts explicatifs et outils formels issus de la biologie évolutionnaire et de les adapter à l'étude des cultures humaines en vue de constituer une théorie darwinienne de l'évolution culturelle. Cette analogie de l’hérédité culturelle fait depuis longtemps l'objet de controverses tant au sein de la littérature scientifique que dans les discussions philosophiques. On ne semble pas s'entendre sur la nature même de cette analogie ni non plus sur la force de justification épistémique qu'une telle analogie donnerait à la mise en place d'une théorie darwinienne de l'évolution culturelle. Néanmoins, à travers plus de quarante années de débats, la structure de cette analogie n'a jamais été examinée en détail et on a rarement examiné l'épistémologie des inférences par analogie dans un tel contexte. L'objectif principal de la présente thèse consistera à offrir une première analyse systématique de la nature, de la structure, de la fonction et de la justification épistémique de l'analogie de l'hérédité culturelle, fondement conceptuel de la théorie de la double hérédité. En portant ici une attention particulière à la structure logique de cette analogie, on pourra constater l'ampleur de sa complexité, complexité passant souvent inaperçue dans les critiques de la théorie de la double hérédité. On défendra ici la thèse selon laquelle l'analogie de l'hérédité culturelle est en fait composée de deux analogies constitutives qui, conjointement, ouvrent la voie à la mise en place et à l’organisation d’un programme de recherche visant à mettre au point une théorie darwinienne de l’évolution culturelle.According to the dual-inheritance theory, processes of social transmission of ideas should allow human cultures to evolve in a Darwinian fashion. This conclusion is obtained by an explanatory inference according to which a profound analogy can be established between the cognitive processes of social learning and those of genetic transmission mechanisms. Not only should we understand social learning as a genuine cultural inheritance system, distinct although complementary to the genetic inheritance system, but, on the basis of the very same analogy, it would also be legitimate to transfer and adapt the theoretical concepts, explanatory formats and formal tools of evolutionary biology to the study of cultural dynamics so as to constitute a Darwinian theory of cultural evolution. The cultural inheritance analogy has been controversial since it was first suggested. A lack of consensus amongst scientists and philosophers about the proper meaning and epistemic reach of such an analogy has impeded the acceptance that human cultures might evolve. Nonetheless, through the forty years of controversy, the structure of the cultural inheritance analogy has never been systematically scrutinized and its relevance as an epistemic foundation for theory construction seldom examined. The main objective of this dissertation is to offer a first systematic analysis of the nature, structure, function and epistemic reach of the cultural inheritance analogy as the conceptual foundation of the dual-inheritance theory. By insisting on its logical structure, it is argued here that it is a complex analogy, the complexity of which is often misunderstood by the criticisms levelled against the dual-inheritance theory. It is argued here that the cultural inheritance analogy is in fact composed of two constitutive analogies that conjointly justify and organize a Darwinian research program of cultural evolution

La philosophie naturelle d'Aristote et le problème contemporain de l'inscription corporelle de l'esprit

En raison du progrès soutenu des sciences expérimentales et des technologies de l’information, plusieurs chercheurs en neurosciences affirment que nous sommes plus près que jamais de montrer la façon dont la physiologie et l’organisation du cerveau produisent les fonctions supérieures du système nerveux. Ainsi, des scientifiques de renom ont commencé à formuler des hypothèses, à construire des théories et à développer des modèles de simulation numérique en vue d’expliquer l’apparition de la conscience à partir des mécanismes de signalisation neuronale et de la modification adaptative des circuits nerveux cérébraux. Les philosophes aussi cherchent maintenant à formuler la solution au problème de l’explication de l’unité du corps et de l’esprit sur les bases de ces connaissances. Mais étant donné que cette approche implique la compréhension des phénomènes mentaux en termes de phénomènes physiques, leur réflexion conduit, en général, soit à une description réductionniste de l’esprit, soit à un dualisme de propriétés. C’est pourquoi certains d’entre eux ont proposé récemment de chercher dans la philosophie naturelle d’Aristote la direction que devrait emprunter cette recherche. Pourtant, plusieurs des arguments avancés par ces savants contemporains à l’appui de leurs thèses comportent des erreurs de principe, de compréhension ou de méthode qui mettent sérieusement en doute la solidité de leurs propositions. Cette recherche analyse en détail ces arguments dans le dessein de faire ressortir les principales difficultés et de les enlever pour juger d’une façon plus éclairée de la vraie contribution de ces connaissances à notre compréhension de l’unité naturelle que forment le corps et l’esprit. Sa démarche se divise en trois étapes principales. La première vise à prendre connaissance de l’état actuel de la recherche expérimentale en neurobiologie, la deuxième évalue deux modèles représentatifs de la recherche théorique des neurosciences et la troisième se propose de parvenir à comprendre le plus exactement possible la façon dont Aristote rend compte de l’unité du corps et de l’esprit. Trois observations générales résultent de cet examen. Premièrement, qu’en réalité la neurobiologie ne cherche pas à comprendre l’aspect phénoménal des fonctions supérieures du cerveau, mais uniquement leurs fondements neuraux, car elle est consciente de ses limites naturelles en tant que science expérimentale. Deuxièmement, que les arguments avancés par ces modèles théoriques de la conscience en faveur de la compréhension biologique des fonctions supérieures du système nerveux se servent principalement de l’altération du sens des mots du vocabulaire associé à la cognition pour accomplir le passage des phénomènes biologiques aux phénomènes mentaux, proposant essentiellement de comprendre ces derniers comme le résultat d’une inférence statistique accomplie par la signalisation neuronale grâce à la structuration adaptative des circuits nerveux. Troisièmement, que la philosophie naturelle d’Aristote accomplit réellement l’unité du corps et de l’esprit, mais qu’elle ne parvient pas à expliquer cette unité à partir des mécanismes de la perception et du mouvement de l’animal, mais plutôt à partir des principes qui fondent son étude de la nature, et que les objections formulées à ses arguments découlent d’une lecture fragmentaire ou biaisée de ses écrits et d’une compréhension superficielle ou erronée de ses concepts fondamentaux de sa philosophie. Ces observations permettent de conclure que la tâche de la philosophie de la nature n’est pas celle d’accommoder sa réflexion concernant l’unité que forment ensemble le corps, l’âme et l’esprit aux résultats des sciences expérimentales, mais celle de formuler des principes aptes à unifier les différents aspects de la réalité sur lesquels portent ces différentes sciences.The steady progress of experimental science and information technologies has led several researchers in the neurosciences to affirm that we are now closer than ever to disclosing the way in which the physiological organisation of the brain produces the higher functions of the nervous system. Consequently, these renowned scientists have proposed hypotheses, elaborated theories and developed numerical simulation models in order to explain the emergence of consciousness from the mechanics of neural signaling and the adaptation of the brain’s neural circuits. Philosophers are currently also seeking the solution to the problem of explaining the unity of body and mind on the basis of this knowledge. But as this approach implies describing mental phenomena in terms of the underlying physical phenomena, their reflections generally lead either to a reductionist description of the mind or to a dualist theory. For this reason, certain of them have recently proposed that such research should look for inspiration in the natural philosophy of Aristotle. However, several of the arguments advanced by these contemporary researchers in the support of their theses are flawed by errors of principle, of comprehension or of method, which place serious doubt upon the solidity of their propositions. In the present dissertation these arguments are placed under detailed scrutiny in order to pinpoint the main difficulties and discard them, allowing a clearer evaluation of the true contribution of these propositions to our understanding of the natural unity formed by body and the mind. This project is divided into three major sections. The first is intended to present the current state of experimental research in neurobiology; the second evaluates two representative models from current theoretical research in neuroscience; and the third endeavours to come to as exact an understanding as possible of the way in which Aristotle treats the unity of the body and the soul, to which the intellect v i belongs in the particular case of man and whose concept does not exactly match the contemporary concept of mind. There are three general observations that can be drawn from this examination. Firstly, in reality neurobiology does not seek to explain the phenomenal aspects of the brain’s higher functions, only their neurological bases, because as an experimental science it is bound by natural limits. Secondly, the arguments put forth by theoretical models of consciousness in favour of a biological understanding of the higher neurological functions are mainly based on the alteration of the meaning of words associated with cognition in order to make the transition from biological to mental phenomena. These phenomena would then be understood essentially as the result of statistical inference accomplished by neuronal signaling, made possible by the adaptive restructuring of neural circuits. Thirdly, Aristotle’s natural philosophy truly succeeds in uniting body and soul, but his explanation of this unity is not founded on the mechanisms of perception and movement in the animal, but rather on the principles underlying his study of nature, and the objections that have been raised against his arguments have been based on fragmentary or biased readings of his writings, and on an erroneous or superficial understanding of the fundamental concepts of his philosophy. These observations allow us to draw the conclusion that the proper task of the philosophy of nature is not to accommodate its reflections concerning the unity of body, soul and spirit to the results of experimental science, but rather that of formulating the principles that unify the different aspects of reality upon which the different sciences are based