Parallelizing Julia with a Non-Invasive DSL

Computational scientists often prototype software using productivity languages that offer high-level programming abstractions. When higher performance is needed, they are obliged to rewrite their code in a lower-level efficiency language. Different solutions have been proposed to address this trade-off between productivity and efficiency. One promising approach is to create embedded domain-specific languages that sacrifice generality for productivity and performance, but practical experience with DSLs points to some road blocks preventing widespread adoption. This paper proposes a non-invasive domain-specific language that makes as few visible changes to the host programming model as possible. We present ParallelAccelerator, a library and compiler for high-level, high-performance scientific computing in Julia. ParallelAccelerator\u27s programming model is aligned with existing Julia programming idioms. Our compiler exposes the implicit parallelism in high-level array-style programs and compiles them to fast, parallel native code. Programs can also run in "library-only" mode, letting users benefit from the full Julia environment and libraries. Our results show encouraging performance improvements with very few changes to source code required. In particular, few to no additional type annotations are necessary

Parallel fluid dynamics for the film and animation industries

Includes bibliographical references (leaves 142-149).The creation of automated fluid effects for film and media using computer simulations is popular, as artist time is reduced and greater realism can be achieved through the use of numerical simulation of physical equations. The fluid effects in today’s films and animations have large scenes with high detail requirements. With these requirements, the time taken by such automated approaches is large. To solve this, cluster environments making use of hundreds or more CPUs have been used. This overcomes the processing power and memory limitations of a single computer and allows very large scenes to be created. One of the newer methods for fluid simulation is the Lattice Boltzmann Method (LBM). This is a cellular automata type of algorithm, which parallelizes easily. An important part of the process of parallelization is load balancing; the distribution of computation amongst the available computing resources in the cluster. To date, the parallelization of the Lattice Boltzmann method only makes use of static load balancing. Instead, it is possible to make use of dynamic load balancing, which adjusts the computation distribution as the simulation progresses. Here, we investigate the use of the LBM in conjunction with a Volume of Fluid (VOF) surface representation in a parallel environment with the aim of producing large scale scenes for the film and animation industries. The VOF method tracks mass exchange between cells of the LBM. In particular, we implement the new dynamic load balancing algorithm to improve the efficiency of the fluid simulation using this method. Fluid scenes from films and animations have two important requirements: the amount of detail and the spatial resolution of the fluid. These aspects of the VOF LBM are explored by considering the time for scene creation using a single and multi-CPU implementation of the method. The scalability of the method is studied by plotting the run time, speedup and efficiency of scene creation against the number of CPUs. From such plots, an estimate is obtained of the feasibility of creating scenes of a giving level of detail. Such estimates enable the recommendation of architectures for creation of specific scenes. Using a parallel implementation of the VOF LBM method we successfully create large scenes with great detail. In general, considering the significant amounts of communication required for the parallel method, it is shown to scale well, favouring scenes with greater detail. The scalability studies show that the new dynamic load balancing algorithm improves the efficiency of the parallel implementation, but only when using lower number of CPUs. In fact, for larger number of CPUs, the dynamic algorithm reduces the efficiency. We hypothesise the latter effect can be removed by making using of centralized load balancing decision instead of the current decentralized approach. The use of a cluster comprising of 200 CPUs is recommended for the production of large scenes of a grid size 6003 in a reasonable time frame

Development of a novel scale-down method to study pH and dissolved oxygen heterogeneities in mammalian cell cultures

In recent years, there has been a growing interest in studying the effects of spatial heterogeneities that are present in large-scale cell culture bioreactors. When scaling up from bench-top to production bioreactors mixing times often increase, which make heterogeneities within large-scale vessels more likely

Approche distribuée pour le diagnostic de systèmes complexes ouverts

Nowadays, modern technological systems are more and more based on sophisticated control architecture, which guarantee performance and operational reliability. Moreover, with the rise of wireless networks over the past decades, it has become common in this day and age to instrument these open systems (with variable topology) using a sensors/actuators network for control and supervision purposes.One of the significant issues associated with this type of system is the ubiquitous existence of sensor and actuators faults (breakdowns, loss of communication, biases, etc.). The development of diagnosis techniques is crucial for specific systems where, often, a "minor" fault can have severe or even catastrophic impacts on the system's evolution.This thesis presents the fault diagnosis of water systems, more precisely water canals, and the suitability of a distributed diagnosis approach. Detailed discussions with theoretical and simulation results are provided throughout the chapters.In order to conduct simulations of the hydraulic network that is composed of free-surface canals and water structures, a mathematical model, which computational burden is relatively low and has the benefit of modular computing, is established. A discrete-time nonlinear model for the canal is obtained by coupling the Saint-Venant equations, which describe the physics of free-surface fluids, and the Lattice Boltzmann method for fluid simulation. Physical instrumentation (water level sensors, motors, radio modules for wireless communication) of an existing facility, micro-canal, has also been conducted.For fault diagnosis, fault classification and a system division to make the approach modular are suggested. A contribution to fault diagnosis along water canals by considering gates, sensors and outflow faults is made. Theoretical and simulation results are presented for two scenarios. A first scenario where single fault occurrences of each type are tackled and a second one where simultaneous faults of different types in the same canal reach/pool are studied.A probabilistic model, a bayesian one, is suggested for fault diagnosis for control systems. The suitability of such a model for probability calculus while allowing the presence of unobserved states or variables is presented. Theoretical and simulation results are presented with regard to prior probabilities effects and time dependencies. This Bayesian model aims at providing a unifying framework where any fault diagnosis method can be taken as input.The suitability of a distributed multi-agent architecture where agents are assigned to execute a subsystem fault diagnosis is presented. The relevance of such a modular approach when it comes to scaling it to larger-scale canal networks is highlighted. Theoretical and simulation results for agents diagnosis performance are presented for a sequence of each fault type along a canal pool. The suitability of using a bayesian diagnosis while considering the multi-agent paradigm is introduced and discussed.De nos jours, les systèmes technologiques modernes reposent sur des architectures de contrôle de plus en plus sophistiquées qui garantissent performances et sûreté de fonctionnement. Par ailleurs, avec l'essor des réseaux sans fil au cours de ces dernières décennies, il est devenu commun de nos jours d'instrumenter ces systèmes ouverts (à topologie variable) à l'aide d'un réseau de capteurs/actionneurs pour des fins de commande et de supervision.Une des problématiques majeures liées à ce genre de systèmes est l'existence omniprésente de défauts capteurs ou actionneurs (pannes, perte de communication, dérive, biais, ect.). Le déploiement de ces méthodes de supervision et de commande s'avère important, voire crucial, pour certains systèmes où, souvent, un "petit" défaut peut avoir des impacts conséquents sur l'évolution du système.Cette thèse traite du diagnostic de défauts pour des systèmes d'eau, et plus précisément les canaux d'irrigation, et l'intérêt d'une approche de diagnostic distribuée. Des discussions détaillées avec des résultats théoriques et de simulation sont fournies tout au long des chapitres.Afin de réaliser des simulations du réseau hydraulique composé de canaux à surface libre et d'ouvrages, nous avons établi un modèle mathématique dont la charge de calcul est relativement faible et qui offre la possibilité d'un calcul modulaire. Un modèle non linéaire discret pour le canal est obtenu en couplant les équations de Saint-Venant, qui décrivent la physique et l'écoulement des fluides à surface libre, et la méthode de Lattice Boltzmann pour la simulation des fluides. L'instrumentation physique (capteurs de niveau d'eau, moteurs, modules radio pour communication sans fil) d'une installation existante, le micro-canal, a également été réalisée.En ce qui concerne le diagnostic, nous suggérons une classification des défauts et une division du système pour rendre l'approche modulaire. Une contribution au diagnostic le long des canaux d'eau en considérant les vannes, les capteurs ainsi que les fuites/apports d'eau est également apportée. Des résultats théoriques et de simulation sont présentés pour deux scénarios. Un premier scénario où les occurrences de défauts uniques de chaque type sont abordées, et un second où des défauts simultanés de différents types dans le même bief de canal sont étudiés.Par ailleurs, nous proposons un modèle probabiliste, bayésien, pour le diagnostic des défauts des systèmes de contrôle. La pertinence d'un tel modèle pour le calcul des probabilités tout en permettant la présence d'états ou de variables non observés est présentée. Des résultats théoriques et de simulation sont présentés en ce qui concerne les effets de probabilités textit{a priori} et les dépendances temporelles. Ce modèle bayésien vise à fournir un cadre unificateur où toute méthode de diagnostic de défaut peut être prise comme donnée d'entrée.L'intérêt d'une architecture multi-agents distribuée dans laquelle des agents sont affectés à l'exécution d'un diagnostic de défauts par sous-système est présenté. La faisabilité de l'application d'une telle approche modulaire à des réseaux de canaux à plus grande échelle est soulignée. Des résultats théoriques et de simulation de performances de diagnostic des agents sont présentés pour une séquence d'un même type de défaut le long d'un bief de canal. L'opportunité d'utiliser un diagnostic bayésien tout en considérant le paradigme multi-agents est introduite et discutée

Distributed approach for fault diagnosis in open complex systems

De nos jours, les systèmes technologiques modernes reposent sur des architectures de contrôle de plus en plus sophistiquées qui garantissent performances et sûreté de fonctionnement. Par ailleurs, avec l'essor des réseaux sans fil au cours de ces dernières décennies, il est devenu commun de nos jours d'instrumenter ces systèmes ouverts (à topologie variable) à l'aide d'un réseau de capteurs/actionneurs pour des fins de commande et de supervision.Une des problématiques majeures liées à ce genre de systèmes est l'existence omniprésente de défauts capteurs ou actionneurs (pannes, perte de communication, dérive, biais, ect.). Le déploiement de ces méthodes de supervision et de commande s'avère important, voire crucial, pour certains systèmes où, souvent, un "petit" défaut peut avoir des impacts conséquents sur l'évolution du système.Cette thèse traite du diagnostic de défauts pour des systèmes d'eau, et plus précisément les canaux d'irrigation, et l'intérêt d'une approche de diagnostic distribuée. Des discussions détaillées avec des résultats théoriques et de simulation sont fournies tout au long des chapitres.Afin de réaliser des simulations du réseau hydraulique composé de canaux à surface libre et d'ouvrages, nous avons établi un modèle mathématique dont la charge de calcul est relativement faible et qui offre la possibilité d'un calcul modulaire. Un modèle non linéaire discret pour le canal est obtenu en couplant les équations de Saint-Venant, qui décrivent la physique et l'écoulement des fluides à surface libre, et la méthode de Lattice Boltzmann pour la simulation des fluides. L'instrumentation physique (capteurs de niveau d'eau, moteurs, modules radio pour communication sans fil) d'une installation existante, le micro-canal, a également été réalisée.En ce qui concerne le diagnostic, nous suggérons une classification des défauts et une division du système pour rendre l'approche modulaire. Une contribution au diagnostic le long des canaux d'eau en considérant les vannes, les capteurs ainsi que les fuites/apports d'eau est également apportée. Des résultats théoriques et de simulation sont présentés pour deux scénarios. Un premier scénario où les occurrences de défauts uniques de chaque type sont abordées, et un second où des défauts simultanés de différents types dans le même bief de canal sont étudiés.Par ailleurs, nous proposons un modèle probabiliste, bayésien, pour le diagnostic des défauts des systèmes de contrôle. La pertinence d'un tel modèle pour le calcul des probabilités tout en permettant la présence d'états ou de variables non observés est présentée. Des résultats théoriques et de simulation sont présentés en ce qui concerne les effets de probabilités textit{a priori} et les dépendances temporelles. Ce modèle bayésien vise à fournir un cadre unificateur où toute méthode de diagnostic de défaut peut être prise comme donnée d'entrée.L'intérêt d'une architecture multi-agents distribuée dans laquelle des agents sont affectés à l'exécution d'un diagnostic de défauts par sous-système est présenté. La faisabilité de l'application d'une telle approche modulaire à des réseaux de canaux à plus grande échelle est soulignée. Des résultats théoriques et de simulation de performances de diagnostic des agents sont présentés pour une séquence d'un même type de défaut le long d'un bief de canal. L'opportunité d'utiliser un diagnostic bayésien tout en considérant le paradigme multi-agents est introduite et discutée.Nowadays, modern technological systems are more and more based on sophisticated control architecture, which guarantee performance and operational reliability. Moreover, with the rise of wireless networks over the past decades, it has become common in this day and age to instrument these open systems (with variable topology) using a sensors/actuators network for control and supervision purposes.One of the significant issues associated with this type of system is the ubiquitous existence of sensor and actuators faults (breakdowns, loss of communication, biases, etc.). The development of diagnosis techniques is crucial for specific systems where, often, a "minor" fault can have severe or even catastrophic impacts on the system's evolution.This thesis presents the fault diagnosis of water systems, more precisely water canals, and the suitability of a distributed diagnosis approach. Detailed discussions with theoretical and simulation results are provided throughout the chapters.In order to conduct simulations of the hydraulic network that is composed of free-surface canals and water structures, a mathematical model, which computational burden is relatively low and has the benefit of modular computing, is established. A discrete-time nonlinear model for the canal is obtained by coupling the Saint-Venant equations, which describe the physics of free-surface fluids, and the Lattice Boltzmann method for fluid simulation. Physical instrumentation (water level sensors, motors, radio modules for wireless communication) of an existing facility, micro-canal, has also been conducted.For fault diagnosis, fault classification and a system division to make the approach modular are suggested. A contribution to fault diagnosis along water canals by considering gates, sensors and outflow faults is made. Theoretical and simulation results are presented for two scenarios. A first scenario where single fault occurrences of each type are tackled and a second one where simultaneous faults of different types in the same canal reach/pool are studied.A probabilistic model, a bayesian one, is suggested for fault diagnosis for control systems. The suitability of such a model for probability calculus while allowing the presence of unobserved states or variables is presented. Theoretical and simulation results are presented with regard to prior probabilities effects and time dependencies. This Bayesian model aims at providing a unifying framework where any fault diagnosis method can be taken as input.The suitability of a distributed multi-agent architecture where agents are assigned to execute a subsystem fault diagnosis is presented. The relevance of such a modular approach when it comes to scaling it to larger-scale canal networks is highlighted. Theoretical and simulation results for agents diagnosis performance are presented for a sequence of each fault type along a canal pool. The suitability of using a bayesian diagnosis while considering the multi-agent paradigm is introduced and discussed

Approche distribuée pour le diagnostic de systèmes complexes ouverts

Nowadays, modern technological systems are more and more based on sophisticated control architecture, which guarantee performance and operational reliability. Moreover, with the rise of wireless networks over the past decades, it has become common in this day and age to instrument these open systems (with variable topology) using a sensors/actuators network for control and supervision purposes.One of the significant issues associated with this type of system is the ubiquitous existence of sensor and actuators faults (breakdowns, loss of communication, biases, etc.). The development of diagnosis techniques is crucial for specific systems where, often, a "minor" fault can have severe or even catastrophic impacts on the system's evolution.This thesis presents the fault diagnosis of water systems, more precisely water canals, and the suitability of a distributed diagnosis approach. Detailed discussions with theoretical and simulation results are provided throughout the chapters.In order to conduct simulations of the hydraulic network that is composed of free-surface canals and water structures, a mathematical model, which computational burden is relatively low and has the benefit of modular computing, is established. A discrete-time nonlinear model for the canal is obtained by coupling the Saint-Venant equations, which describe the physics of free-surface fluids, and the Lattice Boltzmann method for fluid simulation. Physical instrumentation (water level sensors, motors, radio modules for wireless communication) of an existing facility, micro-canal, has also been conducted.For fault diagnosis, fault classification and a system division to make the approach modular are suggested. A contribution to fault diagnosis along water canals by considering gates, sensors and outflow faults is made. Theoretical and simulation results are presented for two scenarios. A first scenario where single fault occurrences of each type are tackled and a second one where simultaneous faults of different types in the same canal reach/pool are studied.A probabilistic model, a bayesian one, is suggested for fault diagnosis for control systems. The suitability of such a model for probability calculus while allowing the presence of unobserved states or variables is presented. Theoretical and simulation results are presented with regard to prior probabilities effects and time dependencies. This Bayesian model aims at providing a unifying framework where any fault diagnosis method can be taken as input.The suitability of a distributed multi-agent architecture where agents are assigned to execute a subsystem fault diagnosis is presented. The relevance of such a modular approach when it comes to scaling it to larger-scale canal networks is highlighted. Theoretical and simulation results for agents diagnosis performance are presented for a sequence of each fault type along a canal pool. The suitability of using a bayesian diagnosis while considering the multi-agent paradigm is introduced and discussed.De nos jours, les systèmes technologiques modernes reposent sur des architectures de contrôle de plus en plus sophistiquées qui garantissent performances et sûreté de fonctionnement. Par ailleurs, avec l'essor des réseaux sans fil au cours de ces dernières décennies, il est devenu commun de nos jours d'instrumenter ces systèmes ouverts (à topologie variable) à l'aide d'un réseau de capteurs/actionneurs pour des fins de commande et de supervision.Une des problématiques majeures liées à ce genre de systèmes est l'existence omniprésente de défauts capteurs ou actionneurs (pannes, perte de communication, dérive, biais, ect.). Le déploiement de ces méthodes de supervision et de commande s'avère important, voire crucial, pour certains systèmes où, souvent, un "petit" défaut peut avoir des impacts conséquents sur l'évolution du système.Cette thèse traite du diagnostic de défauts pour des systèmes d'eau, et plus précisément les canaux d'irrigation, et l'intérêt d'une approche de diagnostic distribuée. Des discussions détaillées avec des résultats théoriques et de simulation sont fournies tout au long des chapitres.Afin de réaliser des simulations du réseau hydraulique composé de canaux à surface libre et d'ouvrages, nous avons établi un modèle mathématique dont la charge de calcul est relativement faible et qui offre la possibilité d'un calcul modulaire. Un modèle non linéaire discret pour le canal est obtenu en couplant les équations de Saint-Venant, qui décrivent la physique et l'écoulement des fluides à surface libre, et la méthode de Lattice Boltzmann pour la simulation des fluides. L'instrumentation physique (capteurs de niveau d'eau, moteurs, modules radio pour communication sans fil) d'une installation existante, le micro-canal, a également été réalisée.En ce qui concerne le diagnostic, nous suggérons une classification des défauts et une division du système pour rendre l'approche modulaire. Une contribution au diagnostic le long des canaux d'eau en considérant les vannes, les capteurs ainsi que les fuites/apports d'eau est également apportée. Des résultats théoriques et de simulation sont présentés pour deux scénarios. Un premier scénario où les occurrences de défauts uniques de chaque type sont abordées, et un second où des défauts simultanés de différents types dans le même bief de canal sont étudiés.Par ailleurs, nous proposons un modèle probabiliste, bayésien, pour le diagnostic des défauts des systèmes de contrôle. La pertinence d'un tel modèle pour le calcul des probabilités tout en permettant la présence d'états ou de variables non observés est présentée. Des résultats théoriques et de simulation sont présentés en ce qui concerne les effets de probabilités textit{a priori} et les dépendances temporelles. Ce modèle bayésien vise à fournir un cadre unificateur où toute méthode de diagnostic de défaut peut être prise comme donnée d'entrée.L'intérêt d'une architecture multi-agents distribuée dans laquelle des agents sont affectés à l'exécution d'un diagnostic de défauts par sous-système est présenté. La faisabilité de l'application d'une telle approche modulaire à des réseaux de canaux à plus grande échelle est soulignée. Des résultats théoriques et de simulation de performances de diagnostic des agents sont présentés pour une séquence d'un même type de défaut le long d'un bief de canal. L'opportunité d'utiliser un diagnostic bayésien tout en considérant le paradigme multi-agents est introduite et discutée