Efficient shared memory message passing for inter-VM communications

Thanks to recent advances in virtualization technologies, it is now possible to benefit from the flexibility brought by virtual machines at little cost in terms of CPU performance. However on HPC clusters some overheads remain which prevent widespread usage of virtualization. In this article, we tackle the issue of inter-VM MPI communications when VMs are located on the same physical machine. To achieve this we introduce a virtual device which provides a simple message passing API to the guest OS. This interface can then be used to implement an efficient MPI library for virtual machines. The use of a virtual device makes our solution easily portable across multiple guest operating systems since it only requires a small driver to be written for this device. We present an implementation based on Linux, the KVM hypervisor and Qemu as its userspace device emulator. Our implementation achieves near native performance in terms of MPI latency and bandwidth

MPI Application Binary Interface Standardization

MPI is the most widely used interface for high-performance computing (HPC) workloads. Its success lies in its embrace of libraries and ability to evolve while maintaining backward compatibility for older codes, enabling them to run on new architectures for many years. In this paper, we propose a new level of MPI compatibility: a standard Application Binary Interface (ABI). We review the history of MPI implementation ABIs, identify the constraints from the MPI standard and ISO C, and summarize recent efforts to develop a standard ABI for MPI. We provide the current proposal from the MPI Forum's ABI working group, which has been prototyped both within MPICH and as an independent abstraction layer called Mukautuva. We also list several use cases that would benefit from the definition of an ABI while outlining the remaining constraints

Vers des supports exécutifs et des outils de profilage adaptés aux architectures many/multi-cœur dans le cadre du calcul hautes performances

Depuis un peu plus de dix ans, nous avons amorcé un changement marqué dans l’architecture des processeurs qui a eu un impact direct sur l’architecture des super-calculateurs. Avec la stagnation de la fréquence des processeurs, nous avons assisté à une explosion du nombre d’unités de calcul, que ce soit au travers des architectures de type many/multi-cœurs ou encore des architectures de types GPUs. Cette évolution a mis une pression accrue sur les supports exécutifs.Les travaux que j’ai réalisés au sein du support exécutif MPC ont pour but d’apporter une solution à ces problèmes. Pour mener à bien ces activités, j’ai fait évoluer le support exécutif MPC. Cette évolution avait pour objectif de faire de MPC un support exécutif de recherche qui permet aux doctorants du laboratoire de mettre en œuvre leurs contributions. Pour atteindre cet objectif, il était nécessaire de rendre MPC à la fois modulaire et robuste. Ces évolutions ont permis de mener à bien des travaux sur l’allocation mémoire et la localité des données en contexte calcul hautes performances multithread ainsi que l’optimisation des communications sur réseau rapide en contexte multithread.En marge des travaux sur les supports exécutifs eux-mêmes, j’ai mené des études sur l’intégration de ces derniers dans un contexte machine virtuelle. En effet, la virtualisation est de plus en plus utilisée au sein des centres de calcul où MPC est exécuté. J’ai aussi mené des travaux sur le profilage d’applications à grande échelle pour permettre de caractériser l’application dans un contexte réel et ainsi optimiser les supports exécutifs

Vers des supports exécutifs et des outils de profilage adaptés aux architectures many/multi-cœur dans le cadre du calcul hautes performances

Depuis un peu plus de dix ans, nous avons amorcé un changement marqué dans l’architecture des processeurs qui a eu un impact direct sur l’architecture des super-calculateurs. Avec la stagnation de la fréquence des processeurs, nous avons assisté à une explosion du nombre d’unités de calcul, que ce soit au travers des architectures de type many/multi-cœurs ou encore des architectures de types GPUs. Cette évolution a mis une pression accrue sur les supports exécutifs.Les travaux que j’ai réalisés au sein du support exécutif MPC ont pour but d’apporter une solution à ces problèmes. Pour mener à bien ces activités, j’ai fait évoluer le support exécutif MPC. Cette évolution avait pour objectif de faire de MPC un support exécutif de recherche qui permet aux doctorants du laboratoire de mettre en œuvre leurs contributions. Pour atteindre cet objectif, il était nécessaire de rendre MPC à la fois modulaire et robuste. Ces évolutions ont permis de mener à bien des travaux sur l’allocation mémoire et la localité des données en contexte calcul hautes performances multithread ainsi que l’optimisation des communications sur réseau rapide en contexte multithread.En marge des travaux sur les supports exécutifs eux-mêmes, j’ai mené des études sur l’intégration de ces derniers dans un contexte machine virtuelle. En effet, la virtualisation est de plus en plus utilisée au sein des centres de calcul où MPC est exécuté. J’ai aussi mené des travaux sur le profilage d’applications à grande échelle pour permettre de caractériser l’application dans un contexte réel et ainsi optimiser les supports exécutifs

Introducing kernel-level page reuse for high performance computing

International audienc

MPC: A Unified Parallel Runtime for Clusters of NUMA Machines

International audienc

Event Streaming for Online Performance Measurements Reduction

International audienc

Optimizing Collective Operations in Hybrid Applications

International audienc

Improving MPI communication overlap with collaborative polling

International audienc