Efficient Probabilistic Inference Algorithms for Cooperative Multiagent Systems

Probabilistic reasoning methods, Bayesian networks (BNs) in particular, have emerged as an effective and central tool for reasoning under uncertainty. In a multi-agent environment, agents equipped with local knowledge often need to collaborate and reason about a larger uncertainty domain. Multiply sectioned Bayesian networks (MSBNs) provide a solution for the probabilistic reasoning of cooperative agents in such a setting. In this thesis, we first aim to improve the efficiency of current MSBN exact inference algorithms. We show that by exploiting the calculation schema and the semantic meaning of inter-agent messages, we can significantly reduce an agent\u27s local computational cost as well as the inter-agent communication overhead. Our novel technical contributions include 1) a new message passing architecture based on an MSBN linked junction tree forest (LJF); 2) a suite of algorithms extended from our work in BNs to provide the semantic analysis of inter-agent messages; 3) a fast marginal calibration algorithm, designed for an LJF that guarantees exact results with a minimum local and global cost. We then investigate how to incorporate approximation techniques in the MSBN framework. We present a novel local adaptive importance sampler (LLAIS) designed to apply localized stochastic sampling while maintaining the LJF structure. The LLAIS sampler provides accurate estimations for local posterior beliefs and promotes efficient calculation of inter-agent messages. We also address the problem of online monitoring for cooperative agents. As the MSBN model is restricted to static domains, we introduce an MA-DBN model based on a combination of the MSBN and dynamic Bayesian network (DBN) models. We show that effective multi-agent online monitoring with bounded error is possible in an MA-DBN through a new secondary inference structure and a factorized representation of forward messages

Probabilistic modeling and reasoning in multiagent decision systems

Ph.DDOCTOR OF PHILOSOPH

Graphical modeling of asymmetric games and value of information in multi-agent decision systems

Master'sMASTER OF ENGINEERIN

Proceedings of the Fifth European Workshop on Probabilistic Graphical Models

Peer reviewe

Modélisation bayésienne des interactions multidimensionnelles dans un système complexe : application à la gestion des risques de crues

Le travail aborde la modélisation et l’analyse de systèmes complexes, caractérisés, dans un cadre incertain et évolutif, par de nombreuses interactions entre composants. Dans un cadre de gestion des risques, le travail vise à créer un modèle causal spatio-temporel pour l’explication et la probabilisation de certains événements redoutés à des fins de diagnostic et de pronostic. Le travail de modélisation est basé sur l’approche bayésienne et, plus particulièrement, sur les Réseaux Bayésiens (RB). Dans l’optique de considérer des systèmes de grande taille et de représenter leur complexité spatio-temporelle, leur caractère multiéchelles et incertain dans un cadre dynamique, l’idée de ce travail est alors d’étendre le concept des Réseaux Bayesiens Dynamiques (RBD) et d’utiliser le paradigme Orienté Objet pour l’appliquer aux réseaux bayésiens. Dans leur forme actuelle, les réseaux bayésiens orientés objet permettent de créer des instances réutilisables mais non instanciables. En d’autres termes, cela implique que l’objet généré est susceptible d’être appelé plusieurs fois dans la construction d’un modèle mais sans pour autant que ces paramètres (tables de probabilités marginales ou conditionnelles) ne soient modifiés. Ce travail de thèse vise à combler cette lacune en proposant une approche structurée permettant de construire des grands systèmes à base d’objets (caractérisés par des réseaux bayésiens simples) dont les paramètres peuvent être actualisés en fonction de l’instant ou du contexte de leur appel et de leur utilisation. Ce concept est concrétisé sous la forme de Réseaux Bayésiens Multidimensionnels par leur propension à combiner plusieurs dimensions qu’elles soient spatiales ou temporelles

Inference in multiply sectioned Bayesian networks with extended Shafer-Shenoy and lazy propagation

As Bayesian networks are applied to larger and more complex problem domains, search for flexible modeling and more efficient inference methods is an ongoing effort. Multiply sectioned Bayesian networks (MSBNs) extend the HUGIN inference for Bayesian networks into a coherent framework for flexible modeling and distributed inference. Lazy propagation extends the Shafer-Shenoy and HUGIN inference methods with reduced space complexity. We apply the Shafer-Shenoy and lazy propagation to inference in MSBNs. The combination of the MSBN framework and lazy propagation provides a better framework for modeling and inference in very large domains. It retains the modeling flexibility of MSBNs and reduces the runtime space complexity, allowing exact inference in much larger domains given the same computational resources.