A Partition-Based Implementation of the Relaxed ADMM for Distributed Convex Optimization over Lossy Networks

In this paper we propose a distributed implementation of the relaxed Alternating Direction Method of Multipliers algorithm (R-ADMM) for optimization of a separable convex cost function, whose terms are stored by a set of interacting agents, one for each agent. Specifically the local cost stored by each node is in general a function of both the state of the node and the states of its neighbors, a framework that we refer to as `partition-based' optimization. This framework presents a great flexibility and can be adapted to a large number of different applications. We show that the partition-based R-ADMM algorithm we introduce is linked to the relaxed Peaceman-Rachford Splitting (R-PRS) operator which, historically, has been introduced in the literature to find the zeros of sum of functions. Interestingly, making use of non expansive operator theory, the proposed algorithm is shown to be provably robust against random packet losses that might occur in the communication between neighboring nodes. Finally, the effectiveness of the proposed algorithm is confirmed by a set of compelling numerical simulations run over random geometric graphs subject to i.i.d. random packet losses.Comment: Full version of the paper to be presented at Conference on Decision and Control (CDC) 201

Distributed Convex Optimisation using the Alternating Direction Method of Multipliers (ADMM) in Lossy Scenarios

The Alternating Direction Method of Multipliers (ADMM) is an extensively studied algorithm suitable for solving convex distributed optimisation problems. This Thesis presents a formulation of the ADMM that is guaranteed to converge if the communications among agents are faulty and the agents perform updates asynchronously. With strongly convex costs, the proposed algorithm is shown to converge exponentially fast. The further extension to partition-based problems is presented

A Tutorial on Distributed Optimization for Cooperative Robotics: from Setups and Algorithms to Toolboxes and Research Directions

Several interesting problems in multi-robot systems can be cast in the framework of distributed optimization. Examples include multi-robot task allocation, vehicle routing, target protection and surveillance. While the theoretical analysis of distributed optimization algorithms has received significant attention, its application to cooperative robotics has not been investigated in detail. In this paper, we show how notable scenarios in cooperative robotics can be addressed by suitable distributed optimization setups. Specifically, after a brief introduction on the widely investigated consensus optimization (most suited for data analytics) and on the partition-based setup (matching the graph structure in the optimization), we focus on two distributed settings modeling several scenarios in cooperative robotics, i.e., the so-called constraint-coupled and aggregative optimization frameworks. For each one, we consider use-case applications, and we discuss tailored distributed algorithms with their convergence properties. Then, we revise state-of-the-art toolboxes allowing for the implementation of distributed schemes on real networks of robots without central coordinators. For each use case, we discuss their implementation in these toolboxes and provide simulations and real experiments on networks of heterogeneous robots

Non-centralized optimization-based control schemes for large-scale energy systems

Non-centralized control schemes for large-scale systems, including energy networks, are more flexible, scalable, and reliable than the centralized counterpart. These benefrts are obtained by having a set of local control!ers, each of which is responsible for a partition of the system, instead of one central entity that controls the whole system. Furthermore,in sorne cases, employing a non­ centralized control structure might be necessary due to the intractability problem of the centralized method.Thus, this thesis is devoted to the study of non-centralized optimization-based control approaches for large-scale energy systems. Mainly,this thesis focuses on the communication and cooperation processes of local controllers, which are integral parts of such schemes. Throughout this thesis,the model predictíve control framework is applied to solve the economic dispatch problem of large-scale energy systems. In a non-centralized architecture, local controllers must cooperatively solve the economic dispatch problem, which is formulated as a convex optimization problem with edge-based coupling constraints, at each time step.Therefore, first, the augmented Lagrangian approach is deployed to decompose the problem and to design two distributed optimization methods, which are iterative and require the local controllers to exchange information with each other at each iteration. lt is then shown that the sequence produced by these methods converges to an optima!solution when sorne cond tions, which include how the controllers must communicate and cooperate, are satisfied. However, in practice, the communication process might not always be perfect,i.e.,the required communication assumption does not hold. In the case of communication link failures, the distributed methods might not be able to compute a solution.Therefore,an information exchange protocol that is based on consensus is designed to overcome this problem. Furthermore, the proposed distributed methods are also further·extended such that they work over random communication networks and asynchronous updates, i.e.,when not all controllers always perform the updates . Under this setup, the convergence and the convergence rate of the algorithms are shown. Additionally, the implementation of these distributed methods to an MPC-based economic dispatch is also presented. The discussion includes the techniques that can be used to reduce the number of iterat ions and the performance of the methods in a numerical study. Considering that the aforementioned methods are comrnunication-intensive, an alternative non-centralized scheme, which provides a trade-off between comrnunication intensity and suboptirnality,is proposed.The scheme consists of repartitioning the network online with the aim of obtaining self-sufficient subsystems, forming coalitions for subsystems that are not self-sufficient,and decomposing the economic dispatch problem of the system into coalition-based subproblems. In this scheme, each subsystem only communicates to the others that belong to the sarne coalition;thus, reducing communication. Especially when all subsystems are self-sufficient, exchanging information is not needed. Finally,a cooperation problem during the implementation of the decisions is discussed. Specifically, sorne subsystems do not cornply with the computed decisions to gain better performance at the cost of deteriorating the performance of the other subsystems.A resilient scheme that can cope with this problem is formulated.lt consists of a stochastic method to robustify the decisions against such adversaria! behavior and an identification and mitigation method that is based on hypothesis testing using Bayesian inference.The proposed scheme, in general,can mitigate the effect of non-Los esquemas de control no centralizados aplicados a sistemas a gran escala, entre los que se incluyen las redes energéticas, son más flexibles, escalables y fiables que sus equivalentes centralizados. Dichos beneficios pueden obtenerse empleando un conjunto de controladores locales, donde cada uno de ellos es responsable de una parte del sistema, en lugar de una entidad central que controle la totalidad del sistema.Asimismo,el uso de una estructura de control no centralizada podría ser, en algunos casos, necesario, dado el problema de intratabilidad del método centralizado. Por consiguiente, la presente tesis trata sobre el estudio de enfoques de control no centralizados basados en optimización para redes energéticas a gran escala. Principalmente, esta tesis se centra en los procesos de comunicación y cooperación llevados a cabo por los controladores locales , que constituyen partes esenciales de dichos esquemas . A lo largo de esta tesis, el control predictivo basado en modelos se usa para resolver el problema de expedir energia en redes energéticas a gran escala desde un punto de vista económico. En arquitecturas no centralizadas, los controladores locales deben resolver dicho problema de forma cooperativa, el cual se formula como un problema de optimización convexo con restricciones de acoplamiento en los enlaces entre nodos, que debe ser resuelto en cada instante de tiempo. Para ello, el método de Lagrangiano aumentado se utiliza inicialmente para descomponer el problema y diseñar dos métodos de optimización distribuidos , que son iterativos y requieren que los controladores locales intercambien información entre ellos en cada iteración . A continuación, se muestra que la secuencia generada por estos métodos converge a la solución óptima a condición de que se cumplan ciertas condiciones,incluyendo cómo los controladores deben comunicarse y cooperar. Sin embargo, en la práctica,la comunicación no siempre es perfecta, es decir,el supuesto de comunicación requerido no se cumple. En el caso de fallos en los enlaces de comunicación, los métodos distribuidos podrían no ser capaces de proporcionar una solución. Para paliar este problema, se diseña un protocolo de información basado en consenso.l'v1ás aún, los métodos de optimización distribuidos se extienden a fin de que sean capaces de trabajar en redes con comunicaciones aleatorias y actualizaciones asíncronas, es decir,redes en que no todos los controladores realicen las actualizaciones . En esta configuración se muestran la convergencia y el orden de convergencia de dichos algoritmos. Se muestra, además, la implementación de estos métodos en el control predictivo económico basado en modelos para redes energéticas. La discusión incluye las técnicas que pueden usarse para reducir el número de iteraciones, así como el desempeño de los métodos, a través de un estudio numérico. Teniendo en cuenta que los métodos anteriormente mencionados requieren una comunicación intensa,se propone otro esquema no centralizado que proporciona un compromiso entre intensidad de comunicación y suboptimalidad . Dicha estrategia consiste en volver a particionar en línea el sistema con el objetivo de obtener subsistemas autosuficientes,formando coaliciones de subsistemas que no lo sean por separado,y descomponiendo el problema económico de expedición de energía en subproblemas de tipo coalicional. En este esquema ,cada subsistema se comunica únicamente con aquellos otros subsistemas que pertenezcan a la misma coalición, reduciendo asi el tráfico de comunicación. En particular, cuando todos los subsistemas son autosuficientes, el intercambio de información ya no es necesario. Finalmente,se considera el problema de la cooperación durante la implementación de las decisiones Específicamente, algunos subsistemas no acatan las decisiones tomadas con el fin de lograr un desempeño propio superior a expensas de empeorar el desempeño de otros subsistemas. Es por esto que, con el fin de lidiar con este problema, se propone un esquema resiliente, el cual consiste en un método estocástico para hacer las decisiones más robustas frente a tal comportamiento adverso, y un método de identificación y mitigación basado en evaluación de hipótesis usando inferencia bayesiana. En general, el esquema propuesto logra mitigar el efecto de los subsistemas incumplidores sobre el resto, y en un caso concreto, también permite identificar los subsistemas adversos.Els esquemes de control no centralitzats aplicats a sistemes a gran escala, entre els quals s’inclouen les xarxes energètiques, són més flexibles, escalables i fiables que els seus equivalents centralitzats. Aquests beneficis es poden obtenir fent servir un conjunt de controladors locals, en què cadascun d’ells és responsable d’una part del sistema, en lloc d’una entitat central que controli la totalitat del sistema. Així mateix, l’ús d’una estructura de control no centralitzada podria ser, en alguns casos, necessari, donat el problema d’intractabilitat del mètode centralitzat. Per tant, la present tesi tracta sobre l’estudi d’enfocaments de control no centralitzats basats en optimització per a xarxes energètiques a gran escala. Principalment, aquesta tesi se centra en els processos de comunicació i cooperació duts a terme pels controladors locals, que constitueixen parts essencials d’aquests esquemes. Al llarg d’aquesta tesi, el control predictiu basat en models s’utilitza per a resoldre el problema d’expedició d’energia en xarxes energètiques a gran escala des d’un punt de vista econòmic. En arquitectures no centralitzades, els controladors locals han de resoldre aquest problema de forma cooperativa, formulat com un problema d’optimització convex amb restriccions d’acoblament en els enllaços entre nodes i que ha de ser resolt a cada instant de temps. A tal efecte, el mètode de Lagrangià augmentat s’utilitza inicialment per a descomposar el problema i dissenyar dos mètodes d’optimització distribuïts, que són iteratius i requereixen que els controladors locals intercanviïn informació entre ells a cada iteració. A continuació, es mostra que la seqüència generada per aquests mètodes convergeix a la solució òptima si es compleixen certes condicions, incloent la manera en què els controladors s’han de comunicar i cooperar. No obstant això, a la pràctica, la comunicació no és sempre perfecta, és a dir, el supòsit de comunicació perfecta no es compleix. En el cas de fallades en els enllaços de comunicació, els mètodes distribuïts podrien no ser capaços de proporcionar una solució. Per a resoldre aquest problema, es dissenya un protocol d’informació basat en consens. A més, els mètodes d’optimització distribuïts s’amplien per tal que siguin capaços de treballar en xarxes amb comunicacions aleatòries i actualitzacions asíncrones, és a dir, xarxes en què no tots els controladors realitzin les actualitzacions. En aquestes configuracions es mostren la convergència i l’ordre de convergència d’aquests algoritmes. A més, es mostra també la implementació d’aquests mètodes en el control predictiu econòmic basat en models per a xarxes energètiques. La discussió inclou les tècniques que es poden emprar per a reduir el nombre d’iteracions, així com el rendiment dels mètodes, fent servir un estudi numèric. Tenint en compte que els mètodes anteriorment esmentats requereixen una comunicació intensa, es proposa un altre esquema no centralitzat que proporciona un compromís entre intensitat de comunicació i suboptimalitat. Aquesta estratègia consisteix en tornar a particionar el sistema en línia amb l’objectiu d’obtenir subsistemes autosuficients, formant coalicions de subsistemes que no ho siguin per separat, i descomposant el problema econòmic d’expedició d’energia en subproblemes de tipus coalicional. En aquest esquema, cada subsistema es comunica únicament amb aquells altre subsistemes que pertanyin a la mateixa coalició, reduint així el trànsit de comunicació. En particular, quan tots els sistemes són autosuficients, l’intercanvi d’informació deixa de ser necessari. Finalment, es considera el problema de la cooperació durant la implementació de les decisions. Específicament, alguns subsistemes no acaten les decisions preses amb la finalitat de millorar el propi rendiment a costa de disminuir el d’altres subsistemes. És per això que, a fi de solucionar aquest problema, es proposa un esquema resilient, el qual consisteix en un mètode estocàstic per fer les decisions més robustes davant d’aquest comportament advers, i un mètode d’identificació i mitigació basat en evaluar hipòtesis utilitzant inferència bayesiana. En general, l’esquema proposat aconsegueix mitigar l’efecte que els subsistemes no obedients exerceixen sobre la resta, i en un cas concert, també permet identificar els subsistemes adversos.ABSTRAKSI (Indfonesian) Skema kendali yang tidak tersentralisasi untuk sistem berskala besar, seperti sistem aringan energi, lebih fleksibel, skalabel, dan reliabel dibandingkan dengan skema tersentralisasi. Keuntungan ini diperoleh dari terdapatnya satu set pengendali lokal, yang hanya bertanggung jawab terhadap satu partisi dari sistem tersebut, daripada jika hanya terdapat satu entitas yang mengendalikan seluruh sistem. Bahkan dalam beberapa sistem, penerapan struktur kendali yang tidak tersentralisasi menjadi keharusan karena adanya permasalahan intraktabilitas dari metode tersentralisasi. Oleh karena itu, disertasi ini bertujuan untuk melakukan studi pada metode kendali berdasarkan optimisasi dengan struktur yang tidak tersentralisasi untuk sistem energi berskala besar. Khususnya, disertasi ini memfokuskan pada proses komunikasi dan kooperasi pengendali‐pengendali lokal, yang merupakan bagian integral dalam skema yang dimaksud. Pada disertasi ini, sistem kontrol prediktif (model predictive control (MPC)) diterapkan untuk menyelesaikan optimisasi economic dispatch pada sistem energi berskala besar. Dalam arsitektur yang tidak tersentralisasi, pengendali‐pengendali lokal harus menyelesaikan permasalahan economic dispatch secara kooperatif. Permasalahan economic dispatch ini diformulasikan sebagai optimisasi yang konveks dan memiliki konstrain terkopling. Oleh karena itu, pendekatan Lagrange yang teraugmentasi diterapkan untuk mendekomposisi permasalahan optimisasi terkait. Pendekatan ini juga digunakan untuk merancang dua metode optimisasi terdistribusi, yang iteratif dan mengharuskan pengendali‐pengendali lokal bertukar informasi satu sama lain pada setiap iterasi. Sekuensi yang dihasilkan dari kedua metode tersebut akan terkonvergensi pada suatu solusi yang optimal apabila beberapa kondisi, yang meliputi bagaimana pengendali harus berkomunikasi dan berkooperasi, terpenuhi. Namun, pada praktiknya, proses komunikasi yang terjadi mungkin tidak selalu sempurna, dalam hal ini asumsi pada proses komunikasi yang dibutuhkan tidak terpenuhi. Pada kasus kegagalan jaringan komunikasi, metode terdistribusi yang dirancang mungkin tidak dapat menemukan solusinya. Oleh karena itu, suatu protokol untuk pertukaran informasi yang berdasarkan pada konsensus dirancang untuk mengatasi permasalahan ini. Selanjutnya, dua metode terdistribusi yang telah dirancang juga dikembangkan lebih jauh sehingga metode‐metode tersebut dapat bekerja pada jaringan komunikasi stokastik dengan proses yang asinkron, yaitu proses dimana tidak semua pengendali selalu melakukan pembaruan. Dalam hal ini, konvergensi dan laju konvergensi dari metode yang dirancang dipertunjukkan. Selain itu, implementasi dari metode terdistribusi pada sistem economic dispatch berbasis MPC juga dibahas. Diskusi pada bagian ini mencakup beberapa teknik yang dapat digunakan untuk mengurangi jumlah iterasi dan performa dari metode‐metode yang dirancang pada suatu studi numerik. Dengan pertimbangan bahwa metode‐metode yang disebut sebelumnya membutuhkan komunikasi yang intensif, maka sebuah skema alternatif, yang memberikan trade‐off antara intensitas komunikasi dan suboptimalitas, juga dirancang. Skema ini terdiri dari repartisi sistem online yang bertujuan untuk mendapatkan subsistemsubsistem yang swasembada, pembentukan koalisi untuk subsistem‐subsistem yang tidak swasembada, dan dekomposisi permasalahan economic dispatch menjadi subproblem berbasis koalisi. Dalam skema ini, tiap subsistem hanya perlu berkomunikasi dengan subsistem‐subsistem lain yang berada pada koalisi yang sama; sehingga mengurangi aliran komunikasi. Jika semua subsistem yang terbentuk swasembada, maka pertukaran informasi tidak dibutuhkan sama sekali. Pada akhirnya, disertasi ini juga membahas mengenai suatu permasalahan koperasi dalam masa implementasi keputusan (solusi). Pada permasalahan kooperasi ini, terdapat beberapa subsistem yang tidak menuruti keputusan (solusi), misalnya dengan tujuan untuk mendapatkan kinerja yang lebih baik dan di saat yang bersamaan memperburuk kinerja subsistem lainnya. Maka, sebuah skema resilien yang dapat mengatasi permasalahan ini dirumuskan. Skema tersebut terdiri dari sebuah metode stokastik untuk merobustifikasi keputusan terhadap perilaku adversari dan sebuah metode identifikasi dan mitigasi yang berdasarkan pada pengujian hipotesis dengan menggunakan inferensi Bayes. Skema yang diusulkan, secara umum, dapat memitigasi pengaruh subsistem yang tidak patuh pada subsistem reguler, dan pada kasus tertentu, juga dapat mengidentifikasi subsistem yang menjadi adversari

Multi-Agent Distributed Optimization and Estimation over Lossy Networks

Nowadays, optimization is a pervasive tool, employed in a lot different fields. Due to its flexibility, it can be used to solve many diverse problems, some of which do not seem to require an optimization framework. As so, the research on this topic is always active and copious. Another very interesting and current investigation field involves multi-agent systems, that is, systems composed by a lot of (possibly different) agents. The research on cyber-physical systems, believed to be one of the challenges of the 21st century, is very extensive, and comprises very complex systems like smart cities and smart power-grids, but also much more simple ones, like wireless sensor networks or camera networks. In a multi-agent context, the optimization framework is extensively used. As a consequence, optimization in multi-agent systems is an attractive topic to investigate. The contents of this thesis focus on distributed optimization within a multi-agent scenario, i.e., optimization performed by a set of peers, among which there is no leader. Accordingly, when these agents have to perform a task, formulated as an optimization problem, they have to collaborate to solve it, all using the same kind of update rule. Collaboration clearly implies the need of messages exchange among the agents, and the focus of the thesis is on the criticalities related to the communication step. In particular, no reliability of this step is assumed, meaning that the packets exchanged between two agents can sometime be lost. Also, the sought-for solution does not have to employ an acknowledge protocol, that is, when an agent has to send a packet, it just sends it and goes on with its computation, without waiting for a confirmation that the receiver has actually received the packet. Almost all works in the existing literature deal with packet losses employing an acknowledge (ACK) system; the effort in this thesis is to avoid the use of an ACK system, since it can slow down the communication step. However, this choice of averting the use of ACKs makes the development of optimization algorithms, and especially their convergence proof, more involved. Apart from robustness to packet losses, the algorithms developed in this dissertation are also asynchronous, that is, the agents do not need to be synchronized to perform the update and communication steps. Three types of optimization problems are analyzed in the thesis. The first one is the patrolling problem for camera networks. The algorithm developed to solve this problem has a restricted applicability, since it is very task-dependent. The other two problems are more general, because both concern the minimization of the sum of cost functions, one for each agent in the system. In the first case, the form of the local cost functions is particular: these, in fact, are locally coupled, in the sense that the cost function of an agent depends on the variables of the agent itself and on those of its direct neighbors. The sought-for algorithm has to satisfy two properties (apart from asynchronicity and robustness to packet losses): the requirement of asking a single communication exchange per iteration (which also reduces the need of synchronicity) and the requirement that the communication among agents is only between direct neighbors. In the second case, the local functions depend all on the same variables. The analysis first focuses on the special case of local quadratic cost functions and their strong relationship with the consensus problem. Besides the development of a robust and asynchronous algorithm for the average consensus problem, a comparison among algorithms to solve the minimization of the sum of quadratic cost functions is carried out. Finally, the distributed minimization of the sum of more general local cost functions is tackled, leading to the development of a robust version of the Newton-Raphson consensus. The theoretical tools employed in the thesis to prove convergence of the algorithms mainly rely on Lyapunov theory and the separation of scales theory

Distributed Stochastic Subgradient Optimization Algorithms Over Random and Noisy Networks

We study distributed stochastic optimization by networked nodes to cooperatively minimize a sum of convex cost functions. The network is modeled by a sequence of time-varying random digraphs with each node representing a local optimizer and each edge representing a communication link. We consider the distributed subgradient optimization algorithm with noisy measurements of local cost functions' subgradients, additive and multiplicative noises among information exchanging between each pair of nodes. By stochastic Lyapunov method, convex analysis, algebraic graph theory and martingale convergence theory, it is proved that if the local subgradient functions grow linearly and the sequence of digraphs is conditionally balanced and uniformly conditionally jointly connected, then proper algorithm step sizes can be designed so that all nodes' states converge to the global optimal solution almost surely

Creating, Validating, and Using Synthetic Power Flow Cases: A Statistical Approach to Power System Analysis

abstract: Synthetic power system test cases offer a wealth of new data for research and development purposes, as well as an avenue through which new kinds of analyses and questions can be examined. This work provides both a methodology for creating and validating synthetic test cases, as well as a few use-cases for how access to synthetic data enables otherwise impossible analysis. First, the question of how synthetic cases may be generated in an automatic manner, and how synthetic samples should be validated to assess whether they are sufficiently ``real'' is considered. Transmission and distribution levels are treated separately, due to the different nature of the two systems. Distribution systems are constructed by sampling distributions observed in a dataset from the Netherlands. For transmission systems, only first-order statistics, such as generator limits or line ratings are sampled statistically. The task of constructing an optimal power flow case from the sample sets is left to an optimization problem built on top of the optimal power flow formulation. Secondly, attention is turned to some examples where synthetic models are used to inform analysis and modeling tasks. Co-simulation of transmission and multiple distribution systems is considered, where distribution feeders are allowed to couple transmission substations. Next, a distribution power flow method is parametrized to better account for losses. Numerical values for the parametrization can be statistically supported thanks to the ability to generate thousands of feeders on command.Dissertation/ThesisDoctoral Dissertation Electrical Engineering 201