Federated Learning Aggregation: New Robust Algorithms with Guarantees

Federated Learning has been recently proposed for distributed model training at the edge. The principle of this approach is to aggregate models learned on distributed clients to obtain a new more general "average" model (FedAvg). The resulting model is then redistributed to clients for further training. To date, the most popular federated learning algorithm uses coordinate-wise averaging of the model parameters for aggregation. In this paper, we carry out a complete general mathematical convergence analysis to evaluate aggregation strategies in a federated learning framework. From this, we derive novel aggregation algorithms which are able to modify their model architecture by differentiating client contributions according to the value of their losses. Moreover, we go beyond the assumptions introduced in theory, by evaluating the performance of these strategies and by comparing them with the one of FedAvg in classification tasks in both the IID and the Non-IID framework without additional hypothesis

Clinical review: Prognostic value of magnetic resonance imaging in acute brain injury and coma

Progress in management of critically ill neurological patients has led to improved survival rates. However, severe residual neurological impairment, such as persistent coma, occurs in some survivors. This raises concerns about whether it is ethically appropriate to apply aggressive care routinely, which is also associated with burdensome long-term management costs. Adapting the management approach based on long-term neurological prognosis represents a major challenge to intensive care. Magnetic resonance imaging (MRI) can show brain lesions that are not visible by computed tomography, including early cytotoxic oedema after ischaemic stroke, diffuse axonal injury after traumatic brain injury and cortical laminar necrosis after cardiac arrest. Thus, MRI increases the accuracy of neurological diagnosis in critically ill patients. In addition, there is some evidence that MRI may have potential in terms of predicting outcome. Following a brief description of the sequences used, this review focuses on the prognostic value of MRI in patients with traumatic brain injury, anoxic/hypoxic encephalopathy and stroke. Finally, the roles played by the main anatomical structures involved in arousal and awareness are discussed and avenues for future research suggested

Two Distinct Dynamic Modes Subtend the Detection of Unexpected Sounds

International audienceThe brain response to auditory novelty comprises two main EEG components: an early mismatch negativity and a late P300. Whereas the former has been proposed to reflect a prediction error, the latter is often associated with working memory updating. Interestingly, these two proposals predict fundamentally different dynamics: prediction errors are thought to propagate serially through several distinct brain areas, while working memory supposes that activity is sustained over time within a stable set of brain areas. Here we test this temporal dissociation by showing how the generalization of brain activity patterns across time can characterize the dynamics of the underlying neural processes. This method is applied to magnetoencephalography (MEG) recordings acquired from healthy participants who were presented with two types of auditory novelty. Following our predictions, the results show that the mismatch evoked by a local novelty leads to the sequential recruitment of distinct and short-lived patterns of brain activity. In sharp contrast, the global novelty evoked by an unexpected sequence of five sounds elicits a sustained state of brain activity that lasts for several hundreds of milliseconds. The present results highlight how MEG combined with multivariate pattern analyses can characterize the dynamics of human cortical processes

Involvement of mast cells and intracellular signaling pathways in the development of the human adrenal glands

La mise en place de la voie de synthèse des minéralocorticoïdes au cours du développement foetal chez l’homme reste un processus encore non totalement élucidé, que ce soit du point de vue de la chronologie d’expression des enzymes de la stéroïdogenèse ou bien des acteurs déterminant la production d’aldostérone en période péri-natale. Chez l’adulte, la sécrétion d’aldostérone est contrôlée majoritairement par des facteurs circulants tels que le système rénine angiotensine et le potassium. L’importance des mécanismes paracrines a été plus récemment démontré, impliquant différents acteurs, dont les mastocytes intra-surrénaliens situés dans la région sous-capsulaire. En effet, les produits de sécrétion mastocytaire stimulent la production d’aldostérone par l’intermédiaire de la libération de sérotonine et de l’activation des récepteurs sérotoninergiques de type 4 présents à la surface des cellules stéroïdogènes. Cependant, le rôle des mastocytes et de la voie sérotoninergique dans le développement surrénalien n’a jamais été étudié. Dans ce travail, nous montrons que les mastocytes colonisent la surrénale foetale vers 18 semaines d’aménorrhée (SA) dans la zone définitive de façon conjointe à l’apparition des premières cellules exprimant la 3β-hydroxystéroïde déshydrogénase. L’aldostérone synthase (CYP11B2) est détectée dans la même zone vers 24 SA, puis son expression augmente au cours du développement. De façon intéressante, nous mettons en évidence une densité mastocytaire ainsi qu’une expression de CYP11B2 plus importantes chez les foetus comparés aux nouveau-nés de termes équivalents, suggérant l’implication des mastocytes dans le processus d’adaptation à la vie extra-utérine. Par ailleurs, nous rapportons une activation des voies de signalisation Wnt/β-caténine et Shh au cours du développement surrénalien, qui ne semble pas contrôler la prolifération cellulaire. La voie Shh pourrait être associée à l’acquisition du phénotype stéroïdogène mature alors que la voie β-caténine qui est active antérieurement à l’expression de CYP11B2 ne semble pas suffisante pour initier la fonction minéralocorticoïde. Globalement, ce travail montre la chronologie de la différenciation de la zone définitive surrénalienne au cours du développement et révèle pour la première fois la mise en place de système de régulation paracrine impliquée dans la production d’aldostérone en anté et post-natal.The establishment of the mineralocorticoid synthesis pathway during fetal development in humans remains a process that has not been fully elucidated, whether from the point of view of the chronology of expression of the enzymes of steroidogenesis or of the actors involved in the production of aldosterone in the peri-natal period. In adults, aldosterone secretion is mainly controlled by circulating factors such as the renin angiotensin system and potassium. The importance of paracrine mechanisms has more recently been demonstrated, involving different actors, like intra-adrenal mast cells located in the subcapsular region. Mast cell secretion stimulate the production of aldosterone through the release of serotonin and the activation of type 4 serotonergic receptors present on the surface of steroidogenic cells. However, the role of mast cells and the serotonin pathway in adrenal development has never been studied. In this work, we show that mast cells colonize the fetal adrenal gland around 18 weeks of gestation (WG) in the definitive area in conjunction with the appearance of the first cells expressing 3β-hydroxysteroid dehydrogenase. Aldosterone synthase (CYP11B2) is detected in the same area around 24 weeks, and then its expression increases during development. Interestingly, we highlight a mast cell density as well as an expression of CYP11B2 higher in fetuses compared to newborns of equivalent terms, suggesting the involvement of mast cells in the process of adaptation to extra-uterine life. Furthermore, we report an activation of the Wnt/β-catenin and Shh signaling pathways during adrenal development, which does not appear to control cell proliferation. The Shh pathway could be associated with the acquisition of the mature steroidogenic phenotype whereas the β-catenin pathway, which is active prior to the expression of CYP11B2, does not appear to be sufficient to initiate mineralocorticoid function. Overall, this work shows the chronology of the differentiation of the definitive adrenal zone during development and reveals for the first time the establishment of the paracrine regulatory system involved in the production of aldosterone in the ante and postnatal period

Le retard pubertaire chez le garçon‎ : effets à long terme du traitement par androgènes

Le retard pubertaire du garçon est dit dans 2/3 des cas, "simple" c’est-à-dire correspondant à un simple décalage temporel. Il est parfois traité par injections mensuelles d'androgènes. Toutefois, les effets à moyen et long terme restent peu connus, d'autant plus qu'il a été montré récemment que l’administration de hautes doses de testostérone pouvait entrainer une suppression de la spermatogénèse chez des hommes sains. Le but principal de l’étude a donc été d’évaluer de façon rétrospective l’impact sur la fertilité du traitement par androgènes, les objectifs secondaires étant l'étude de la taille finale, la sociabilité et le retentissement psychologique. Méthodes : Il s'agit d'une étude rétrospective bicentrique rouennaise incluant tous les garçons qui ont été suivis entre 1982 et 2005 soit au CHU soit en cabinet de ville pour retard pubertaire. Après analyse des causes du retard pubertaire, des questionnaires ont été envoyé aux patients adultes qui avaient été traités pour un retard pubertaire simple ainsi qu'à des patients non traités dit "contrôles", après appariement sur l’âge à la 1re consultation et sur l’âge actuel. Résultats : 45 patients ont été inclus dans l'étude parmi lesquels 5 patients traités par androgènes pour un retard pubertaire simple. Les données à long terme ont été recueillies pour 5 patients (30%) : 2 traités, et 3 contrôles. Aucun trouble de fertilité n’a été signalé chez les patients traités et dans tous les cas, la taille finale correspondait à la taille cible génétique. L’impact psychologique est apparu plus important chez les sujets non traités, avec un retentissement sur la vie sociale, scolaire et professionnelle. Conclusion : Cette étude pointe la difficulté du diagnostic étiologique du retard pubertaire et montre sur 5 patients que le traitement ne semble pas impacter la fertilité mais améliorer le vécu psychologique à l'adolescence. Cependant, des études complémentaires sur une plus large population sont nécessaires afin de confirmer ces résultats

Implication des mastocytes et des voies de signalisation intra-cellulaire dans le développement des glandes surrénales humaines

The establishment of the mineralocorticoid synthesis pathway during fetal development in humans remains a process that has not been fully elucidated, whether from the point of view of the chronology of expression of the enzymes of steroidogenesis or of the actors involved in the production of aldosterone in the peri-natal period. In adults, aldosterone secretion is mainly controlled by circulating factors such as the renin angiotensin system and potassium. The importance of paracrine mechanisms has more recently been demonstrated, involving different actors, like intra-adrenal mast cells located in the subcapsular region. Mast cell secretion stimulate the production of aldosterone through the release of serotonin and the activation of type 4 serotonergic receptors present on the surface of steroidogenic cells. However, the role of mast cells and the serotonin pathway in adrenal development has never been studied. In this work, we show that mast cells colonize the fetal adrenal gland around 18 weeks of gestation (WG) in the definitive area in conjunction with the appearance of the first cells expressing 3β-hydroxysteroid dehydrogenase. Aldosterone synthase (CYP11B2) is detected in the same area around 24 weeks, and then its expression increases during development. Interestingly, we highlight a mast cell density as well as an expression of CYP11B2 higher in fetuses compared to newborns of equivalent terms, suggesting the involvement of mast cells in the process of adaptation to extra-uterine life. Furthermore, we report an activation of the Wnt/β-catenin and Shh signaling pathways during adrenal development, which does not appear to control cell proliferation. The Shh pathway could be associated with the acquisition of the mature steroidogenic phenotype whereas the β-catenin pathway, which is active prior to the expression of CYP11B2, does not appear to be sufficient to initiate mineralocorticoid function. Overall, this work shows the chronology of the differentiation of the definitive adrenal zone during development and reveals for the first time the establishment of the paracrine regulatory system involved in the production of aldosterone in the ante and postnatal period.La mise en place de la voie de synthèse des minéralocorticoïdes au cours du développement foetal chez l’homme reste un processus encore non totalement élucidé, que ce soit du point de vue de la chronologie d’expression des enzymes de la stéroïdogenèse ou bien des acteurs déterminant la production d’aldostérone en période péri-natale. Chez l’adulte, la sécrétion d’aldostérone est contrôlée majoritairement par des facteurs circulants tels que le système rénine angiotensine et le potassium. L’importance des mécanismes paracrines a été plus récemment démontré, impliquant différents acteurs, dont les mastocytes intra-surrénaliens situés dans la région sous-capsulaire. En effet, les produits de sécrétion mastocytaire stimulent la production d’aldostérone par l’intermédiaire de la libération de sérotonine et de l’activation des récepteurs sérotoninergiques de type 4 présents à la surface des cellules stéroïdogènes. Cependant, le rôle des mastocytes et de la voie sérotoninergique dans le développement surrénalien n’a jamais été étudié. Dans ce travail, nous montrons que les mastocytes colonisent la surrénale foetale vers 18 semaines d’aménorrhée (SA) dans la zone définitive de façon conjointe à l’apparition des premières cellules exprimant la 3β-hydroxystéroïde déshydrogénase. L’aldostérone synthase (CYP11B2) est détectée dans la même zone vers 24 SA, puis son expression augmente au cours du développement. De façon intéressante, nous mettons en évidence une densité mastocytaire ainsi qu’une expression de CYP11B2 plus importantes chez les foetus comparés aux nouveau-nés de termes équivalents, suggérant l’implication des mastocytes dans le processus d’adaptation à la vie extra-utérine. Par ailleurs, nous rapportons une activation des voies de signalisation Wnt/β-caténine et Shh au cours du développement surrénalien, qui ne semble pas contrôler la prolifération cellulaire. La voie Shh pourrait être associée à l’acquisition du phénotype stéroïdogène mature alors que la voie β-caténine qui est active antérieurement à l’expression de CYP11B2 ne semble pas suffisante pour initier la fonction minéralocorticoïde. Globalement, ce travail montre la chronologie de la différenciation de la zone définitive surrénalienne au cours du développement et révèle pour la première fois la mise en place de système de régulation paracrine impliquée dans la production d’aldostérone en anté et post-natal

Implication des mastocytes et des voies de signalisation intra-cellulaire dans le développement des glandes surrénales humaines

The establishment of the mineralocorticoid synthesis pathway during fetal development in humans remains a process that has not been fully elucidated, whether from the point of view of the chronology of expression of the enzymes of steroidogenesis or of the actors involved in the production of aldosterone in the peri-natal period. In adults, aldosterone secretion is mainly controlled by circulating factors such as the renin angiotensin system and potassium. The importance of paracrine mechanisms has more recently been demonstrated, involving different actors, like intra-adrenal mast cells located in the subcapsular region. Mast cell secretion stimulate the production of aldosterone through the release of serotonin and the activation of type 4 serotonergic receptors present on the surface of steroidogenic cells. However, the role of mast cells and the serotonin pathway in adrenal development has never been studied. In this work, we show that mast cells colonize the fetal adrenal gland around 18 weeks of gestation (WG) in the definitive area in conjunction with the appearance of the first cells expressing 3β-hydroxysteroid dehydrogenase. Aldosterone synthase (CYP11B2) is detected in the same area around 24 weeks, and then its expression increases during development. Interestingly, we highlight a mast cell density as well as an expression of CYP11B2 higher in fetuses compared to newborns of equivalent terms, suggesting the involvement of mast cells in the process of adaptation to extra-uterine life. Furthermore, we report an activation of the Wnt/β-catenin and Shh signaling pathways during adrenal development, which does not appear to control cell proliferation. The Shh pathway could be associated with the acquisition of the mature steroidogenic phenotype whereas the β-catenin pathway, which is active prior to the expression of CYP11B2, does not appear to be sufficient to initiate mineralocorticoid function. Overall, this work shows the chronology of the differentiation of the definitive adrenal zone during development and reveals for the first time the establishment of the paracrine regulatory system involved in the production of aldosterone in the ante and postnatal period.La mise en place de la voie de synthèse des minéralocorticoïdes au cours du développement foetal chez l’homme reste un processus encore non totalement élucidé, que ce soit du point de vue de la chronologie d’expression des enzymes de la stéroïdogenèse ou bien des acteurs déterminant la production d’aldostérone en période péri-natale. Chez l’adulte, la sécrétion d’aldostérone est contrôlée majoritairement par des facteurs circulants tels que le système rénine angiotensine et le potassium. L’importance des mécanismes paracrines a été plus récemment démontré, impliquant différents acteurs, dont les mastocytes intra-surrénaliens situés dans la région sous-capsulaire. En effet, les produits de sécrétion mastocytaire stimulent la production d’aldostérone par l’intermédiaire de la libération de sérotonine et de l’activation des récepteurs sérotoninergiques de type 4 présents à la surface des cellules stéroïdogènes. Cependant, le rôle des mastocytes et de la voie sérotoninergique dans le développement surrénalien n’a jamais été étudié. Dans ce travail, nous montrons que les mastocytes colonisent la surrénale foetale vers 18 semaines d’aménorrhée (SA) dans la zone définitive de façon conjointe à l’apparition des premières cellules exprimant la 3β-hydroxystéroïde déshydrogénase. L’aldostérone synthase (CYP11B2) est détectée dans la même zone vers 24 SA, puis son expression augmente au cours du développement. De façon intéressante, nous mettons en évidence une densité mastocytaire ainsi qu’une expression de CYP11B2 plus importantes chez les foetus comparés aux nouveau-nés de termes équivalents, suggérant l’implication des mastocytes dans le processus d’adaptation à la vie extra-utérine. Par ailleurs, nous rapportons une activation des voies de signalisation Wnt/β-caténine et Shh au cours du développement surrénalien, qui ne semble pas contrôler la prolifération cellulaire. La voie Shh pourrait être associée à l’acquisition du phénotype stéroïdogène mature alors que la voie β-caténine qui est active antérieurement à l’expression de CYP11B2 ne semble pas suffisante pour initier la fonction minéralocorticoïde. Globalement, ce travail montre la chronologie de la différenciation de la zone définitive surrénalienne au cours du développement et révèle pour la première fois la mise en place de système de régulation paracrine impliquée dans la production d’aldostérone en anté et post-natal

FedControl: When Control Theory Meets Federated Learning

To date, the most popular federated learning algorithms use coordinate-wise averaging of the model parameters. We depart from this approach by differentiating client contributions according to the performance of local learning and its evolution. The technique is inspired from control theory and its classification performance is evaluated extensively in IID framework and compared with FedAvg.Comment: arXiv admin note: substantial text overlap with arXiv:2205.1086

Federated Learning Aggregation: New Robust Algorithms with Guarantees

International audienceFederated Learning has been recently proposed for distributed model training at the edge. The principle of this approach is to aggregate models learned on distributed clients to obtain a new more general "average" model (FedAvg). The resulting model is then redistributed to clients for further training. To date, the most popular federated learning algorithm uses coordinate-wise averaging of the model parameters for aggregation. In this paper, we carry out a complete general mathematical convergence analysis to evaluate aggregation strategies in a federated learning framework. From this, we derive novel aggregation algorithms which are able to modify their model architecture by differentiating client contributions according to the value of their losses. Moreover, we go beyond the assumptions introduced in theory, by evaluating the performance of these strategies and by comparing them with the one of FedAvg in classification tasks in both the IID and the Non-IID framework without additional hypothesis

FedControl: When Control Theory Meets Federated Learning

International audienceTo date, the most popular federated learning algorithms use coordinate-wise averaging of the model parameters. We depart from this approach by differentiating client contributions according to the performance of local learning and its evolution. The technique is inspired from control theory and its classification performance is evaluated extensively in IID framework and compared with FedAvg