Joint Optimization of Energy Consumption and Completion Time in Federated Learning

Federated Learning (FL) is an intriguing distributed machine learning approach due to its privacy-preserving characteristics. To balance the trade-off between energy and execution latency, and thus accommodate different demands and application scenarios, we formulate an optimization problem to minimize a weighted sum of total energy consumption and completion time through two weight parameters. The optimization variables include bandwidth, transmission power and CPU frequency of each device in the FL system, where all devices are linked to a base station and train a global model collaboratively. Through decomposing the non-convex optimization problem into two subproblems, we devise a resource allocation algorithm to determine the bandwidth allocation, transmission power, and CPU frequency for each participating device. We further present the convergence analysis and computational complexity of the proposed algorithm. Numerical results show that our proposed algorithm not only has better performance at different weight parameters (i.e., different demands) but also outperforms the state of the art.Comment: This paper appears in the Proceedings of IEEE International Conference on Distributed Computing Systems (ICDCS) 2022. Please feel free to contact us for questions or remark

Self-consistent learning of neural dynamical systems from noisy time series

We introduce a new method which, for a single noisy time series, provides unsupervised filtering, state space reconstruction, efficient learning of the unknown governing multivariate dynamical system, and deterministic forecasting. We construct both the underlying trajectories and a latent dynamical system using deep neural networks. Under the assumption that the trajectories follow the latent dynamical system, we determine the unknowns of the dynamical system, and filter out stochastic outliers in the measurements. In this sense the method is self-consistent. The embedding dimension is determined iteratively during the training by using the false-nearest-neighbors Algorithm and it is implemented as an attention map to the state vector. This allows for a state space reconstruction without a priori information on the signal. By exploiting the differentiability of the neural solution trajectory, we can define the neural dynamical system locally at each time, mitigating the need for forward and backwards passing through numerical solvers of the canonical adjoint method. On a chaotic time series masked by additive Gaussian noise, we demonstrate that the denoising ability and the predictive power of the proposed method are mainly due to the self-consistency, insensitive to methods used for the state space reconstruction.Nanyang Technological UniversityNational Research Foundation (NRF)The work of Zhe Wang was supported by Energy Research Institute@NTU, Nanyang Technological University, where most of this work was performed. This work was supported by the National Research Foundation, Prime Minister’s Office, Singapore under its Campus for Research Excellence and Technological Enterprise (CREATE) programme

Medium-induced change of the optical response of metal clusters in rare-gas matrices

Interaction with the surrounding medium modifies the optical response of embedded metal clusters. For clusters from about ten to a few hundreds of silver atoms, embedded in rare-gas matrices, we study the environment effect within the matrix random phase approximation with exact exchange (RPAE) quantum approach, which has proved successful for free silver clusters. The polarizable surrounding medium screens the residual two-body RPAE interaction, adds a polarization term to the one-body potential, and shifts the vacuum energy of the active delocalized valence electrons. Within this model, we calculate the dipole oscillator strength distribution for Ag clusters embedded in helium droplets, neon, argon, krypton, and xenon matrices. The main contribution to the dipole surface plasmon red shift originates from the rare-gas polarization screening of the two-body interaction. The large size limit of the dipole surface plasmon agrees well with the classical prediction.Published versio

ETUDE PAR SIMULATION DES PROPRIETES STRUCTURALES ET THERMODYNAMIQUES DES AGREGATS DE SODIUM DANS UN MODELE THOMAS-FERMI ETENDU

L'OBJET DE CE TRAVAIL EST L'ETUDE DE LA THERMODYNAMIQUE ET DE LA STRUCTURE DES AGREGATS DE SODIUM DE TAILLE MOYENNE (INFERIEURE A 55 ATOMES) PAR DES SIMULATIONS NUMERIQUES. DANS LE PREMIER CHAPITRE DE CE MEMOIRE, NOUS PRESENTERONS QUELQUES MODELES ENVISAGEABLES POUR LA SIMULATION THERMODYNAMIQUE DES AGREGATS DE SODIUM. NOUS EXPOSERONS ENSUITE LES METHODES CLASSIQUES DE SIMULATION AINSI QUE LES DIFFICULTES LIEES A CES TECHNIQUES. EN PARTICULIER, NOUS ABORDERONS LES PROBLEMES D'ERGODICITE BRISEE DES SIMULATIONS AINSI QUE LES METHODES PERMETTANT D'Y REMEDIER AU MIEUX. NOUS FINIRONS CE CHAPITRE EN DONNANT LES OUTILS NECESSAIRES AU CALCUL DES QUANTITES THERMODYNAMIQUES A PARTIR DES TRAJECTOIRES SIMULEES. DANS LE DEUXIEME CHAPITRE, NOUS DECRIRONS QUELQUES ASPECTS TECHNIQUES LIES A LA PARALLELISATION DU CODE DE SIMULATION. CELLE-CI A ETE EFFECTUEE EN VUE D'AUGMENTER LA PERFORMANCE DU CODE, POINT CLEF PERMETTANT LA CONVERGENCE DES CALCULS. LE TROISIEME CHAPITRE CONCERNE LES PROBLEMES D'OPTIMISATION GLOBALE DES STRUCTURES QUI SONT INTIMEMENT LIES A CEUX DES SIMULATIONS. NOUS EXPOSERONS LES RESULTATS D'UNE ETUDE SYSTEMATIQUE DES GEOMETRIES OPTIMALES DES AGREGATS DE SODIUM SIMPLEMENT CHARGES JUSQU'A UNE TAILLE DE 40 ATOMES. FINALEMENT, NOUS ABORDERONS LES RESULTATS THERMODYNAMIQUES AVEC L'ANALYSE DE PLUSIEURS SERIES DE SIMULATIONS EFFECTUEES POUR LES TAILLES 8, 40 ET 55 ET POUR PLUSIEURS ETATS DE CHARGES.GRENOBLE1-BU Sciences (384212103) / SudocSudocFranceF

Dynamique électronique femtoseconde dans les agrégats métalliques

L'objet de ce travail est une étude théorique de la dynamique femtoseconde, linéaire et non linéaire, des électrons délocalisés dans les agrégats métalliques. L'utilisation de divers modèles d'agrégats, du jellium sphérique à ceux où les ions sont décrits par un pseudopotentiel réaliste, permet de considérer le rôle des interactions électrons-ion. L'approche théorique utilisée est basée sur la limite semi-classique des équations de Kohn-Sham dépendant du temps. Les électrons sont représentés par une distribution d'espace de phase gouvernée par l'équation de Vlasov et les ions évoluent selon les équations classiques du mouvement. Un code de calcul parallèle permet d'analyser la dynamique d'agrégats de plusieurs centaines d'atomes pendant quelques centaines de femtosecondes, et ce tout en assurant la conservation du caractère fermionique des électrons. Une comparaison directe entre les résultats quantiques (TDLDA) et leurs correspondants semi-classiques justifie l'utilisation de cette approche. Trois études sont présentées : la relaxation ultrarapide du plasmon, la dynamique des interactions laser intense-agrégats et les collisions ion multichargé-agrégat métallique. Contrairement aux modèles du type jellium, la description de la structure ionique discrète permet de rendre compte des temps de relaxation du plasmon mesurés expérimentalement, inférieurs à 10 fs. On l'explique en terme de diffusion électronique sur les non linéarités du potentiel des ions. Une approche en termes d'orbites classiques dans le champ moyen permet de comprendre la manifestation d'effets de taille finie. Les interactions électron-ion jouent aussi un rôle essentiel dans l'absorption et la redistribution de l'énergie laser pendant et après le passage d'une impulsion laser intense femtoseconde ; en particulier, les effets de la pression cinétique sont indispensables pour décrire l'énergétique de l'explosion finale de l'édifice atomique. Enfin, l'analyse des énergies d'excitation d'agrégats chargés par des ions multichargés permet d'interpréter l'évolution des tailles d'apparition expérimentales.LYON1-BU.Sciences (692662101) / SudocSudocFranceF

Core-polarization-corrected random-phase approximation with exact exchange for dipole surface plasmons in silver clusters

10.1103/PhysRevA.94.043415PHYSICAL REVIEW A94

Medium-induced change of the optical response of metal clusters in rare-gas matrices

10.1103/PhysRevA.96.043404PHYSICAL REVIEW A96