Entrograms and coarse graining of dynamics on complex networks

Using an information theoretic point of view, we investigate how a dynamics acting on a network can be coarse grained through the use of graph partitions. Specifically, we are interested in how aggregating the state space of a Markov process according to a partition impacts on the thus obtained lower-dimensional dynamics. We highlight that for a dynamics on a particular graph there may be multiple coarse grained descriptions that capture different, incomparable features of the original process. For instance, a coarse graining induced by one partition may be commensurate with a time-scale separation in the dynamics, while another coarse graining may correspond to a different lower-dimensional dynamics that preserves the Markov property of the original process. Taking inspiration from the literature of Computational Mechanics, we find that a convenient tool to summarise and visualise such dynamical properties of a coarse grained model (partition) is the entrogram. The entrogram gathers certain information-theoretic measures, which quantify how information flows across time steps. These information theoretic quantities include the entropy rate, as well as a measure for the memory contained in the process, i.e., how well the dynamics can be approximated by a first order Markov process. We use the entrogram to investigate how specific macro-scale connection patterns in the state-space transition graph of the original dynamics result in desirable properties of coarse grained descriptions. We thereby provide a fresh perspective on the interplay between structure and dynamics in networks, and the process of partitioning from an information theoretic perspective. We focus on networks that may be approximated by both a core-periphery or a clustered organization, and highlight that each of these coarse grained descriptions can capture different aspects of a Markov process acting on the network.Comment: 17 pages, 6 figue

Hierarchical community structure in networks

Modular and hierarchical structures are pervasive in real-world complex systems. A great deal of effort has gone into trying to detect and study these structures. Important theoretical advances in the detection of modular, or "community", structures have included identifying fundamental limits of detectability by formally defining community structure using probabilistic generative models. Detecting hierarchical community structure introduces additional challenges alongside those inherited from community detection. Here we present a theoretical study on hierarchical community structure in networks, which has thus far not received the same rigorous attention. We address the following questions: 1)~How should we define a valid hierarchy of communities? 2)~How should we determine if a hierarchical structure exists in a network? and 3)~how can we detect hierarchical structure efficiently? We approach these questions by introducing a definition of hierarchy based on the concept of stochastic externally equitable partitions and their relation to probabilistic models, such as the popular stochastic block model. We enumerate the challenges involved in detecting hierarchies and, by studying the spectral properties of hierarchical structure, present an efficient and principled method for detecting them.Comment: 22 pages, 12 figure

Dynamics and Structure of Complex Networks

In this thesis the relationship between the structure of complex networks and the behavior of dynamical processes on these networks is studied by network evolution. Adopting ideas from biological evolution or Monte Carlo simulations the method of network evolution is developed as strategy to generate networks with a prescribed dynamical behavior without any prior knowledge about the structure-dynamics relation. Here, Laplacian dynamics are considered forming a basic - simple but highly relevant - class of dynamics. Networks are successfully evolved towards a power-law scaling in the spectrum of the graph Laplacian which defines the spectral dimension as important characteristic of diffusion behavior. The resulting evolved networks exhibit heterogeneous structures with densely connected cores and sparse peripheries. The influence of the degree distribution and degree correlations on the spectral behavior is investigated. To this end random networks with the degree distribution and degree correlations of the evolved networks are generated and the Laplacian spectra are compared. Finally, homogeneous networks with the prescribed power law in the Laplacian spectrum are generated by restricting the evolution to regular networks. The resulting evolved networks are found to be highly symmetric. The symmetry is exploited to construct quotient networks as systematic coarse-graining separating the Laplacian spectra into contributions from the repeating symmetric motifs on small scales and the underlying large-scale structures, which are particularly relevant in determining the spectral dimension

From Dynamics to Structure of Complex Networks: Exploiting Heterogeneity in the Sakaguchi-Kuramoto Model

[eng] Most of the real-world complex systems are best described as complex networks and can be mathematically described as oscillatory systems, coupled with the neighbours through the connections of the network. The flashing of fireflies, the neuronal brain signals or the energy flow through the power grid are some examples. Yoshiki Kuramoto came up with a tractable mathematical model that could capture the phenomenology of collective synchronization by suggesting that oscillators were coupled by a sinusoidal function of their phase differences. Later, Yoshiki Kuramoto together with Hidetsugu Sakaguchi presented a generalization of the previous limit-cycle set of oscillators Kuramoto’s model which incorporated a constant phase lag between oscillators. Subsequent studies of the model included the network structure within the model together with the global shift. For a wide range of the phase lag values, the system becomes synchronized to a resulting frequency, i.e., the dynamics reaches a stationary state. In the original work of Kuramoto and Sakaguchi and in most of the consequent later studies, a uniform distribution of phase lag parameters is customarily assumed. However, the intrinsic properties of nodes – that assuredly represent the constituents of real systems – do not need be identical but distributed non-homogeneously among the population. This thesis contributes to the understanding of the Kuramoto-Sakaguchi model with a generalization for nonhomogeneous phase lag parameter distribution. Considering different scenarios concerning the distribution of the frustration parameter among the oscillators represents a major step towards the extension of the original model and provides significant novel insights into the structure and function of the considered network. The first setting that the present thesis considers consists in perturbing the stationary state of the system by introducing a non-zero phase lag shift into the dynamics of a single node. The aim of this work is to sort the nodes by their potential effect on the whole network when a change on their individual dynamics spreads over the entire oscillatory system by disrupting the otherwise synchronized state. In particular, we define functionability, a novel centrality measure that addresses the question of which are the nodes that, when individually perturbed, are best able to move the system away from the fully synchronized state. This issue may be relevant for the identification of critical nodes that are either beneficial – by enabling access to a broader spectrum of states – or harmful – by destroying the overall synchronization. The second scenario that the present thesis addresses considers a more general configuration in which the phase lag parameter is an intrinsic property of each node, not necessarily zero, and hence exploring the potential heterogeneity of the frustration among oscillators. We obtain the analytical solution of frustration parameters so as to achieve any phase configuration, by linearizing the most general model. We also address the fact that the question ’among all the possible solutions, which is the one that makes the system achieve a particular phase configuration with the minimum required cost?’ is of particular relevance when we consider the plausible real nature of the system. Finally, the homogenous distribution of phase lag parameters is revisited in the last scenario. As studied in the literature, a certain degree of symmetry is an attribute of real-world networks. Nevertheless, beyond structural or topological symmetry, one should consider the fact that real- world networks are exposed to fluctuations or errors, as well as mistaken insertions or removals. In the present thesis, we provide an alternative notion to approximate symmetries, which we call ‘Quasi-Symmetries’ and are defined such that they remain free to impose any invariance of a particular network property and are obtained from the stationary state of the Kuramoto-Sakaguchi model with a homogeneous phase lag distribution. A first contribution is exploring the distributions of structural similarity among all pairs of nodes. Secondly, we define the ‘dual network’, a weighted network –and its corresponding binarized counterpart– that effectively encloses all the information of quasi-symmetries in the original one.[cat] La major part dels sistemes complexos presents en la natura i la societat es poden descriure com a xarxes complexes. Molts d’aquests sistemes es poden modelitzar matemàticament com un sistema oscil·latori, on les unitats queden acoblades amb els components veïns a través de les connexions de la xarxa. Yoshiki Kuramoto i Hidetsugu Sakaguchi van presentar la generalització del ben conegut model d’oscil·ladors de Kuramoto, on s’incorporava un terme de desfasament entre parelles d’oscil·ladors. Aquesta tesi contribueix en la comprensió d’aquest model, tot considerant una distribució no homogènia d’aquest paràmetre de desfasament o frustració. S’han considerat tres escenaris diferents, tots ells donant lloc a resultats que permeten una millor descripció de l’estructura i funció de la xarxa que s’està considerant. Una primera configuració consisteix en pertorbar l’estat estacionari tot introduint un desfasament en la dinàmica d’un node de manera aïllada. Seguidament, definim la funcionabilitat, una mesura de centralitat única que respon a la pregunta de, quins nodes, quan són pertorbats individualment, són més capaços d’allunyar el sistema de l’estat sincronitzat. Aquest fet podria suposar un comportament beneficiós o perjudicial per sistemes reals. El segon escenari considera la configuració més flexible, explorant la potencial heterogeneïtat dels paràmetres de frustració dels diferents nodes. Obtenim la solució analítica d’aquesta distribució per tal d’assolir qualsevol configuració de les fases dels oscil·ladors, a través de la linearització del model. També contestem a la pregunta: “de totes les possibles solucions, quina és la que implica un menor cost per tal d’assolir una configuració en particular?”. Finalment, en l’últim escenari, proporcionem una definició alternativa al concepte de simetria aproximada d’una xarxa, i que anomenem “Quasi simetries”. Aquestes són definides sense imposar invariàncies en les propietats del sistema, sinó que s’obtenen de l’estat estacionari del model de Kuramoto-Sakaguchi model, tot considerant una distribució homogènia dels paràmetres de frustració

Multiplex Networks Structure and Dynamics

Los estudios tradicionales en teoría de redes complejas, en general, representan la interacción entre dos elementos del sistema a través de un solo enlace. Esta representación resulta ser una simplificación excesiva en la mayoría de los casos de interés práctico y puede llevar a resultados y conclusiones engañosas. Esto se debe a que la mayoría de los sistemas reales poseen una estructura multicapa, ya que en una gran cantidad de casos de estudio reales existen muchos tipos distintos de interacción entre los constituyentes del sistema. Por ejemplo, un sistema de transporte está constituido por múltiples modos de viajes; un sistema biológico incluye múltiples canales de señalización que operan en paralelo; finalmente, una red social está constituida por múltiples tipos de relaciones distintas (de trabajo, de amistad, de parentesco, etc.) que operan vía distintos modos de comunicación en paralelo (en línea, o desconectados). Para representar de manera apropiada estos sistemas, años atrás se introdujo la noción de redes multiplex en campos tan distintos como la ingeniería y la sociología, al mismo tiempo que los instrumentos analíticos desarrollados para describirlas y analizarlas fueron muy escasos. Esta escasez se debía fundamentalmente a un aspecto: aunque muchas características y métricas de las redes tradicionales (de una sola capa) están bien definidas en la teoría tradicional de redes complejas, resulta muy desafiante generalizarlas al caso de redes multicapa, incluso para aquellas que son más simples. El interés por nuevos desarrollos teóricos para es estudio en profundidad de las redes multiplex, por lo tanto, ha ido creciendo sólo en los últimos años, gracias sobre todo a la gran cantidad de datos disponibles sobre sistemas reales que necesitan de una representación multicapa si se quieren describir y entender en profundidad. En esta Tesis desarrollamos un lenguaje matemático formal para representar la redes multiplex en términos de la teoría algébrica de grafos. En particular, introducimos la noción de matriz de supra-adyacencia como generalización de la matriz de adyacencia definida en el caso de una red de una sola capa. Así mismo definimos el supra-Laplaciano de una red multiplex como generalización del Laplaciano. También, se propone una representación agregada de una red multiplex a través de la noción de grafo cociente. Esto permite asociar a la red multiplex original, un grafo de una sola capa en el cual se agregan los distintos tipos de interacciones presentes. Por un lado, a través de este procedimiento se introduce una manera bien definida de agregar capas, y por otro, también permite definir otra red, formada por las capas, que contiene toda la información relativa a la interacción entre las mismas. La importancia de las nuevas definiciones radica en que, gracias a ellas, podemos utilizar algunos teoremas y resultados de teoría espectral de grafos y sus respectivos cocientes para estudiar propiedades espectrales de redes múltiplex y su representación agregada. Finalmente, también introducimos la noción de matriz de caminos asociados a una red multiplex. En una red de una sola capa un camino es una sucesión de nodos adyacentes. En una red multiplex pueden existir distintas nociones de caminos dependiendo de la manera en que se quieran tratar los enlaces entre capas. Dada una noción de camino, a esta resultará asociada una matriz de caminos. Una vez desarrollado el lenguaje formal apto a describir una red multicapa, afrontamos el problema de la generalización de algunas medidas estructurales. En particular tratamos el caso del coeficiente de agrupamiento (tanto local como global) y la centralidad de un subgrafo. Aunque ya existían en la literatura algunas propuestas de generalización del coeficiente de agrupamiento, la mayoría de estas resultaban ser definiciones ad hoc con respecto a casos de estudios particulares, o directamente mal definidas. Las distintas medidas que proponemos en estas tesis son muy generales, bien normalizadas y se reducen a la tradicional medida de coeficiente de agrupamiento para redes de una sola capa cuando el número de capas es uno. En cuanto a la centralidad de subgrafos, utilizamos este caso particular para demonstrar la utilidad de construir sobre nociones básicas (como es la de camino) a la hora de generalizar medidas estructurales.\\ Por otro lado, mucha información respecto a la organización estructural de una red (ya sea multicapa o de una sola capa) está codificada en el espectro de la matriz de adyacencia a ella asociada así como en el del Laplaciano. Por esta razón, estudiamos las propiedades espectrales tanto de la matriz de supra-adyacencia como del supra-Laplaciano. En particular, con respecto a la matriz de supra-adyacencia, estudiamos su autovalor máximo. Éste resulta de interés ya que está en la base de medidas topológicas como la entropía de ensemble de los caminos, así como del estudio de las propiedades críticas de algunos procesos dinámicos. Por ejemplo, el valor crítico del parámetro de difusión en un modelo de propagación epidemias depende del autovalor máximo de la matriz de adyacencia. Para el estudio de este autovalor utilizamos técnicas perturbativas. Podemos definir una capa que llamamos dominante, que será aquella que tenga el mayor autovalor máximo de la matriz de adyacencia asociada a la misma. El autovalor máximo de la matriz de supra-adyacencia resulta ser igual al autovalor máximo de la capa dominante al primer orden perturbativo. Además, la corrección de segundo orden es dependiente de las correlaciones entre nodos que representan el mismo objecto en distintas capas distintas. Adicionalmente, aprovechando los resultados conocidos que relacionan el espectro de un grafo cociente con aquel de su grafo padre, estudiamos el espectro de una red multicapa a partir de su representación agregada. En particular, demostramos que los autovalores del Laplaciano de la red de capas son un subconjunto de los autovalores del supra-Laplaciano de la red multicapa, cuando todos los nodos participan en todos las capas. Este resultado nos permite estudiar la conectividad algébrica de la red multicapa, o sea el primer autovalor no-nulo y obtener algunos resultados tanto exactos como perturbativos sobre este. En concreto, las transiciones estructurales en redes multicapa son de gran interés. En esta tesis presentamos una teoría de estas transiciones que se deriva por completo de la noción de grafo cociente. Finalmente, presentamos un modelo de contagio social y estudiamos la existencia de estados meta-estables macroscópicos en los cuales una fracción finita de nodos resultan contagiados. La existencia de una capa dominante hace que sea esta la que determine el valor crítico del contagio, definido como el valor de este parámetro a partir del cual existe un estado macroscopico de la infección (también para las capas no-dominantes). Este resultado se derivada utilizando el método perturbativo para calcular el autovalor máximo de la matriz de supra-adyacencia. Simulaciones numéricas del modelo confirman los resultados analíticos. Para terminar, en el presente trabajo exponemos nuestras conclusiones a manera de resumen por un lado, y por otra, discutiendo cuáles son los aspectos que a nuestro criterio, podrían ser de interés para futuras investigaciones en este tema

The cost of segregation in (social) networks

This paper investigates the welfare effect of income redistribution in the private provision of public goods on networks. We first show that the welfare effect of income redistribution is determined by Bonacich centrality. Then we develop an index based on the network structure of interactions, which, roughly speaking, measures the welfare effect of income redistribution confined to a component of contributors. The proposed index vanishes when applied to large components of contributors that display special segregated interactions, which suggests an “asymptotic neutrality” of redistributive policies. JEL classification C72; D31; H4

A bi-directional approach to comparing the modular structure of networks

Here we propose a new method to compare the modular structure of a pair of node-aligned networks. The majority of current methods, such as normalized mutual information, compare two node partitions derived from a community detection algorithm yet ignore the respective underlying network topologies. Addressing this gap, our method deploys a community detection quality function to assess the fit of each node partition with respect to the other network’s connectivity structure. Specifically, for two networks A and B, we project the node partition of B onto the connectivity structure of A. By evaluating the fit of B’s partition relative to A’s own partition on network A (using a standard quality function), we quantify how well network A describes the modular structure of B. Repeating this in the other direction, we obtain a two-dimensional distance measure, the bi-directional (BiDir) distance. The advantages of our methodology are three-fold. First, it is adaptable to a wide class of community detection algorithms that seek to optimize an objective function. Second, it takes into account the network structure, specifically the strength of the connections within and between communities, and can thus capture differences between networks with similar partitions but where one of them might have a more defined or robust community structure. Third, it can also identify cases in which dissimilar optimal partitions hide the fact that the underlying community structure of both networks is relatively similar. We illustrate our method for a variety of community detection algorithms, including multi-resolution approaches, and a range of both simulated and real world networks

Utilizing Skylab data in on-going resources management programs in the state of Ohio

The author has identified the following significant results. The use of Skylab imagery for total area woodland surveys was found to be more accurate and cheaper than conventional surveys using aerial photo-plot techniques. Machine-aided (primarily density slicing) analyses of Skylab 190A and 190B color and infrared color photography demonstrated the feasibility of using such data for differentiating major timber classes including pines, hardwoods, mixed, cut, and brushland providing such analyses are made at scales of 1:24,000 and larger. Manual and machine-assisted image analysis indicated that spectral and spatial capabilities of Skylab EREP photography are adequate to distinguish most parameters of current, coal surface mining concern associated with: (1) active mining, (2) orphan lands, (3) reclaimed lands, and (4) active reclamation. Excellent results were achieved when comparing Skylab and aerial photographic interpretations of detailed surface mining features. Skylab photographs when combined with other data bases (e.g., census, agricultural land productivity, and transportation networks), provide a comprehensive, meaningful, and integrated view of major elements involved in the urbanization/encroachment process