Stochastic Chemical Reaction Networks for Robustly Approximating Arbitrary Probability Distributions

We show that discrete distributions on the d-dimensional non-negative integer lattice can be approximated arbitrarily well via the marginals of stationary distributions for various classes of stochastic chemical reaction networks. We begin by providing a class of detailed balanced networks and prove that they can approximate any discrete distribution to any desired accuracy. However, these detailed balanced constructions rely on the ability to initialize a system precisely, and are therefore susceptible to perturbations in the initial conditions. We therefore provide another construction based on the ability to approximate point mass distributions and prove that this construction is capable of approximating arbitrary discrete distributions for any choice of initial condition. In particular, the developed models are ergodic, so their limit distributions are robust to a finite number of perturbations over time in the counts of molecules

Stochastic Chemical Reaction Networks for Robustly Approximating Arbitrary Probability Distributions

We show that discrete distributions on the d-dimensional non-negative integer lattice can be approximated arbitrarily well via the marginals of stationary distributions for various classes of stochastic chemical reaction networks. We begin by providing a class of detailed balanced networks and prove that they can approximate any discrete distribution to any desired accuracy. However, these detailed balanced constructions rely on the ability to initialize a system precisely, and are therefore susceptible to perturbations in the initial conditions. We therefore provide another construction based on the ability to approximate point mass distributions and prove that this construction is capable of approximating arbitrary discrete distributions for any choice of initial condition. In particular, the developed models are ergodic, so their limit distributions are robust to a finite number of perturbations over time in the counts of molecules

A scalable computational framework for establishing long-term behavior of stochastic reaction networks

Reaction networks are systems in which the populations of a finite number of species evolve through predefined interactions. Such networks are found as modeling tools in many biological disciplines such as biochemistry, ecology, epidemiology, immunology, systems biology and synthetic biology. It is now well-established that, for small population sizes, stochastic models for biochemical reaction networks are necessary to capture randomness in the interactions. The tools for analyzing such models, however, still lag far behind their deterministic counterparts. In this paper, we bridge this gap by developing a constructive framework for examining the long-term behavior and stability properties of the reaction dynamics in a stochastic setting. In particular, we address the problems of determining ergodicity of the reaction dynamics, which is analogous to having a globally attracting fixed point for deterministic dynamics. We also examine when the statistical moments of the underlying process remain bounded with time and when they converge to their steady state values. The framework we develop relies on a blend of ideas from probability theory, linear algebra and optimization theory. We demonstrate that the stability properties of a wide class of biological networks can be assessed from our sufficient theoretical conditions that can be recast as efficient and scalable linear programs, well-known for their tractability. It is notably shown that the computational complexity is often linear in the number of species. We illustrate the validity, the efficiency and the wide applicability of our results on several reaction networks arising in biochemistry, systems biology, epidemiology and ecology. The biological implications of the results as well as an example of a non-ergodic biological network are also discussed.Comment: 31 pages, 9 figure

Physical modeling of cellular processes: stochastic gene regulation in embryonic stem cells

Tese de mestrado em Física (Física Estatística e Não Linear), apresentada à Universidade de Lisboa, através da Faculdade de Ciências, 2011In the last few decades, with the advent of single-cell measurement techniques in experimental biology, a growing interest in the role of noise in cellular processes is apparent. In particular, cellular decision processes, based on (intrinsically noisy) regulated gene expression, are of paramount importance, as they can be found across all life, allowing cells to react to the internal and external media. The tools of statistical physics have proved ideal for the development of a theoretical understanding of the underlying mechanics in noisy cellular processes. In this thesis, we make use of these tools to build a bottom-up model for single-gene auto-regulation, and present an application of this model to a concrete biological system, namely the regulation of the expression of the Nanog protein in mouse embryonic stem (ES) cells. Nanog has been identified as one of the core factors associated with the pluripotent state of ES cells: the concentration of Nanog protein present in a cell is known to be related to differentiation decisions. The structured population distributions of Nanog protein observed in ES cell populations call for mathematical modeling as an important tool to unravel the mechanisms underlying Nanog heterogeneity. In Chapter 1, we begin with a brief overview of the main biological concepts involved in the following Chapters. After discussing the origin and role of stochasticity in cellular processes, we then present some of the basic modeling procedures and assumptions that have been adopted in the context of these processes. In Chapter 2, we consider (transcriptional) single-gene auto-regulation specifically. This is the simplest motif in transcriptional gene regulation, and is thus of paramount importance. We adopt a Master Equation approach to describe stochastic effects in an intrinsic, fully dynamic fashion. We discuss the general formulation of the model, and obtain analytical descriptions of protein and mRNA equilibrium distributions using approximations that hold in regimes of strong biological relevance. In Chapter 3, we discuss the application of our model for gene auto regulation to the particular case of Nanog in mouse ES cells. To this end, we analyze experimental measurements of Nanog mRNA and protein distributions in populations of ES cells cultured in two different media. We finish in Chapter 4 with some final remarks regarding the work laid out in this thesis.Nas últimas décadas, tem-se verificado um desenvolvimento crescente na Biologia, quer a nível experimental, quer a nível teórico. As técnicas de medição ao nível de células individuais são cada vez mais eficazes e comuns, o que tem levado a um interesse crescente no papel da estocasticidade, ou ruído, nos processos celulares. Em particular, os processos de decisão celular, que se baseiam em expressão genética regulada e intrinsecamente ruidosa, são de fundamental importância, visto que se estendem a todos os organismos vivos, permitindo às células responder ao meio interno e externo. A existência de uma grande quantidade e variedade de dados experimentes relativos a expressão genética tornam relevante a intervenção da Física na sua interpretação, contribuindo para uma componente formal da Biologia cada vez mais bem definida e desenvolvida. As técnicas da Física Estatística têm se provado ideais para o desenvolvimento de um entendimento teórico dos mecanismos subjacentes à expressão genética, devido ao carácter estocástico desta última. Nesta dissertação, fazemos uso destas técnicas para construir um modelo bottom-up para a auto-regulação de um só gene, e apresentamos uma aplicação deste modelo a um sistema biológico concreto, nomeadamente a regulação da expressão da proteína Nanog em células estaminais embrionárias (EE) de rato. O Nanog foi identificado como um dos elementos principais associados ao estado pluripotente de células EE: sabe-se que a concentração de proteína Nanog presente num célula está relacionada com decisões de diferenciação. Sabe-se também que as proteínas Oct4 e Sox2 são essenciais na manutenção deste estado pluripotente. As distribuições estruturadas de Nanog observadas em populações de células EE apontam para a modelação matemática como uma ferramenta importante para a identificação dos mecanismos subjacentes à heterogeneidade na expressão de Nanog. Nesta dissertação, utilizamos o modelo construído para explorar a hipótese de que o comportamento do Nanog pode ser explicado no contexto da auto-regulação, sem necessidade de intervenção dinâmica de outras proteínas como proposto na literatura. O trabalho apresentado nesta dissertação decorreu de uma estreita colaboração entre um grupo de Física e um grupo de Biologia, permitindo não só acesso a dados experimentais, como também a discussão do sistema em causa de dois pontos de vista complementares, levando à construção e exploração de um modelo baseado em princípios matemáticos sólidos e em hipóteses biológicas razoáveis e relevantes. No Capítulo 1, abrimos com uma breve apresentação dos principais conceitos biológicos envolvidos nos Capítulos seguintes. Em particular, fazemos uma breve descrição dos processos de produção de RNA a partir do DNA (transcrição), e de proteína a partir do RNA (tradução). Discutimos também a origem e o papel da estocacidade nos processos celulares: em primeiro lugar, visto que os mecanismos celulares assentam frequentemente em reacções químicas, e consequentemente em encontros aleatórios entre moléculas ou compostos moleculares, torna-se claro que a aleatoriedade tem um papel fundamental e inegável nestes processos; por outro lado, é também cada vez mais evidente que a estocacidade pode jogar um papel benéfico, por exemplo na medida em que promove a variabilidade e a capacidade de resposta a variações do meio. O carácter intrínseco e dinâmico do “ruído" aqui discutido aponta de imediato para a necessidade de formalismo adequado. Terminamos este Capítulo com uma apresentação de alguns procedimentos e hipóteses básicos que têm sido adoptados no contexto dos processos celulares, começando por formulações deterministas (utilizando rate equations) e terminando em formulações estocásticas (onde discutimos excursões estocásticas e apresentamos o formalismo da Master Equation para a evolução de uma distribuição de probabilidade). No Capítulo 2, consideramos especificamente a auto-regulação (transcricional) de um só gene. Este é o motivo mais simples que pode ser encontrado na regulação genética transcricional, e a sua compreensão detalhada é portanto de fundamental importância. Adoptamos um formalismo baseado em Master Equations para descrever os efeitos estocásticos de uma forma intrínseca e totalmente dinâmica. Em particular, o modelo descreve os processos que têm lugar ao nível do DNA, mRNA e proteína, e incorpora a produção de mRNA e proteína em bursts estocásticos (produzindo um número de moléculas segundo uma distribuição geométrica), para os quais existem diversas evidencias experimentais. Discutimos a formulação geral do modelo, considerando em detalhe o caso em que a regulação é mediada por dimerização da proteína seguida de ligação ao respectivo promotor, e obtemos descrições analíticas para as distribuições de equilíbrio de proteína e mRNA recorrendo a aproximações válidas em regimes de forte relevância biológica. A descrição destes fenómenos é feita ao nível da célula individual, mas as distribuições de equilíbrio de mRNA e proteína obtidas neste contexto são também válidas para as distribuições destas espécies em populações de células idênticas e sem interacção entre si, como é o caso para as culturas de células EE aqui referidas. No Capítulo 3, discutimos a aplicação do modelo desenvolvido ao caso particular do Nanog em células EE de rato. Para este fim, analisamos medições experimentais de distribuições de mRNA e proteína Nanog em populações de células EE em dois meios de cultura distintos. Nestes dois meios de cultura observam-se distribuições de mRNA e proteína Nanog distintas, permitindo testar em mais detalhe o modelo proposto. Com base nos detalhes das medições experimentais, e numa exploração do modelo recorrendo a métodos analíticos e numéricos, concluímos que estas não apontam para a intervenção de outras proteínas na regulação do Nanog, e discutimos a possibilidade de a regulação do Nanog ter por base um mecanismo ao nível da tradução e não ao nível da transcrição. Fazemos também uma breve análise deste mecanismo como uma extensão do modelo proposto. Terminamos no Capítulo 4 com alguns comentários finais relativos ao trabalho apresentado na dissertação. Em particular, referimos a necessidade da utilização de um formalismo adequado aos processos em questão, nomeadamente no que diz respeito ao seu carácter estocástico, visto que os aspectos fundamentais que podem ser observados nas medições experimentais apenas ganham sentido à luz deste tratamento. A análise dos dados experimentais no contexto de um modelo em que a estocacidade é formulada dinamicamente permitiu não só uma discussão crítica dos mecanismos propostos na literatura para o sistema em causa, como também a apresentação e discussão de hipóteses originais, num tema de grande actualidade e relevância científica

Combinatorics and Stochasticity for Chemical Reaction Networks

Stochastic chemical reaction networks (SCRNs) are a mathematical model which serves as a first approximation to ensembles of interacting molecules. SCRNs approximate such mixtures as always being well-mixed and consisting of a finite number of molecules, and describe their probabilistic evolution according to the law of mass-action. In this thesis, we attempt to develop a mathematical formalism based on formal power series for defining and analyzing SCRNs that was inspired by two different questions. The first question relates to the equilibrium states of systems of polymerization. Formal power series methods in this case allow us to tame the combinatorial complexity of polymer configurations as well as the infinite state space of possible mixture states. Chapter 1 presents an application of these methods to a model of polymerizing scaffolds. The second question relates to the expressive power of SCRNs as generators of stochasticity. In Chapter 2, we show that SCRNs are universal approximators of discrete distributions, even when only allowing for systems with detailed-balance. We further show that SCRNs can exactly simulate Boltzmann machines. In Chapter 3, we develop a formalism for defining the semantics of SCRNs in terms of formal power series which grew as a result of work included in the previous chapters. We use that formulation to derive expressions for the dynamics and stationary states of SCRNs. Finally, we focus on systems that satisfy complex balance and conservation of mass and derive a general expressions for their factorial moments using generating function methods

Cellular signaling networks function as generalized Wiener-Kolmogorov filters to suppress noise

Cellular signaling involves the transmission of environmental information through cascades of stochastic biochemical reactions, inevitably introducing noise that compromises signal fidelity. Each stage of the cascade often takes the form of a kinase-phosphatase push-pull network, a basic unit of signaling pathways whose malfunction is linked with a host of cancers. We show this ubiquitous enzymatic network motif effectively behaves as a Wiener-Kolmogorov (WK) optimal noise filter. Using concepts from umbral calculus, we generalize the linear WK theory, originally introduced in the context of communication and control engineering, to take nonlinear signal transduction and discrete molecule populations into account. This allows us to derive rigorous constraints for efficient noise reduction in this biochemical system. Our mathematical formalism yields bounds on filter performance in cases important to cellular function---like ultrasensitive response to stimuli. We highlight features of the system relevant for optimizing filter efficiency, encoded in a single, measurable, dimensionless parameter. Our theory, which describes noise control in a large class of signal transduction networks, is also useful both for the design of synthetic biochemical signaling pathways, and the manipulation of pathways through experimental probes like oscillatory input.Comment: 15 pages, 5 figures; to appear in Phys. Rev.

Non-equilibrium phase transitions in biomolecular signal transduction

We study a mechanism for reliable switching in biomolecular signal-transduction cascades. Steady bistable states are created by system-size cooperative effects in populations of proteins, in spite of the fact that the phosphorylation-state transitions of any molecule, by means of which the switch is implemented, are highly stochastic. The emergence of switching is a nonequilibrium phase transition in an energetically driven, dissipative system described by a master equation. We use operator and functional integral methods from reaction-diffusion theory to solve for the phase structure, noise spectrum, and escape trajectories and first-passage times of a class of minimal models of switches, showing how all critical properties for switch behavior can be computed within a unified framework