This article comments on an ongoing investigation,

the prediction of RNA secondary structure using stochastic

methods, in particular stochastic context-free grammars. While

the investigation in this field has already made a lot of progress

and is currently refining and improving its methods, this article

is meant to provide an introduction to this subject for researchers

in the digital signal processing area. After situating the problem

in its biological context, we explain the basics of transformational

grammars, which are used to model the RNA secondary

structure. Then we present the three basic problems for these

structures, and explain the three main algorithms to solve them,

relating these to the analogous algorithms for hidden Markov

models

Vaerenbergh, Steven van

Vielva Martínez, Luis Antonio

Spanish

This article comments on an ongoing investigation,
the prediction of RNA secondary structure using stochastic
methods, in particular stochastic context-free grammars. While
the investigation in this field has already made a lot of progress
and is currently refining and improving its methods, this article
is meant to provide an introduction to this subject for researchers
in the digital signal processing area. After situating the problem
in its biological context, we explain the basics of transformational
grammars, which are used to model the RNA secondary
structure. Then we present the three basic problems for these
structures, and explain the three main algorithms to solve them,
relating these to the analogous algorithms for hidden Markov
models

UCrea

UNA INTRODUCCIO´N A LA PREDICCIO´N DELA ESTRUCTURA SECUNDARIA DEL RNAMEDIANTE ME´TODOS ESTOCA´STICOSSteven Van VaerenberghDpt. of Electronics and Information SystemsGhent University, Belgiume-mail: steven.vanvaerenbergh@rug.ac.beLuis VielvaGrupo de Tratamiento Avanzado de Sen˜al, DICOMUniversidad de Cantabriae-mail: luis@gtas.dicom.unican.esAbstract—This article comments on an ongoing investigation,the prediction of RNA secondary structure using stochasticmethods, in particular stochastic context-free grammars. Whilethe investigation in this field has already made a lot of progressand is currently refining and improving its methods, this articleis meant to provide an introduction to this subject for researchersin the digital signal processing area. After situating the problemin its biological context, we explain the basics of transforma-tional grammars, which are used to model the RNA secondarystructure. Then we present the three basic problems for thesestructures, and explain the three main algorithms to solve them,relating these to the analogous algorithms for hidden Markovmodels.I. INTRODUCCIO´N: BIOLOGI´A MOLECULARLas ce´lulas son las unidades funcionales ba´sicas de todoser vivo. Todas las instrucciones necesarias para dirigir susactividades se encuentran codificadas dentro de su DNA (a´cidodesoxirribonuleico). El DNA de todos los organismos esta´formado por los mismos componentes y se organiza comouna macromole´cula con dos cadenas entrelazadas formandola famosa doble he´lice de la Figura 1. Cada una de lascadenas es una secuencia lineal de las cuatro unidades ba´sicas(nucleo´tidos) posibles; cada una de ellas caracterizada por unabase distinta: adenina (A), timina (T ), citosina (C) y guanina(G).Las cadenas se mantienen unidas mediante enlaces de´bilesentre las bases, de forma que la A en una cadena se enlazacon la T en la opuesta y la C con la G. Este emparejamientocomplementario hace que ambas cadenas contengan la mismainformacio´n, y explica el mecanismo ba´sico de la duplicacio´nde ce´lulas (ambas cadenas se separan y se crean dos re´plicasmediante atraccio´n de las bases complementarias) y de laexpresio´n de genes (una seccio´n —un gen— de una cadenaatrae a las bases complementarias y se crea una mole´culalineal de cadena sencilla que codifica la proteı´na a sinte-tizar). Esta mole´cula de cadena sencilla se denomina RNA(a´cido ribonucleico) y esta´ compuesta de las mismas cuatrobases que el RNA, salvo que el uracilo (U) sustituye a latimina. La mole´cula de RNA ası´ creada (denominada RNAmensajero) viaja hasta los ribosomas (estructuras formadasa partir de RNA estructural) que se encargan de la trans-Pares de basesDoble he´lice DNAFig. 1. La doble he´lice del DNA.cripccio´n mediante la ayuda del RNA de transferencia, queselecciona uno de los veinte aminoa´cidos distintos por cadatres bases (un codo´n), y los ensambla en mole´culas conocidascomo proteı´nas. Esta asociacio´n entre tripletas de bases yaminoa´cidos es universal para todos los organismos y recibeel nombre de co´digo gene´tico.Esta descripcio´n pone de manifiesto la importancia funda-mental del RNA en los procesos ba´sicos de la vida. Adema´s delos descritos, el RNA desempen˜a tambie´n un papel crı´tico en lainfeccio´n por retrovirus (como el virus de la inmunodeficienciahumana), y es capaz de catalizar y regular muchas funcionescelulares ba´sicas.Mientras que las cadenas de DNA se estructuran como unadoble he´lice, la mole´cula de RNA se pliega sobre sı´ mismacreando enlaces entre bases complementarias de la propiacadena, dando lugar a lo que se conoce como estructura se-cundaria del RNA, que desempen˜a un importante papel en losprocesos reguladores, catalı´ticos o estructurales de la ce´lula.Adema´s, las mole´culas de RNA que desempen˜an funcionessimilares en distintos organismos tienden ma´s a conservar suestructura secundaria que su composicio´n lineal especı´fica, queha podido ir cambiando a lo largo de la evolucio´n a trave´s dela´rbol filogene´tico. Por lo tanto, el ser capaces de predecir laestructura secundaria de una mole´cula de RNA a partir dela secuencia de bases que lo componen despierta un enormeintere´s en el campo de la bioinforma´tica [1]. En la Figura 2se muestra una representacio´n de dicha estructura secundariaA  AU    UA    GA·UG·CG·CU·AC·GG·UG·CC·GU·GA    GG    AG·CG·CC·GUCUA          UAU            UACC GAC      GA    G      A     A   A AUGC CUG      CUU  G UCA   AUUA··· ···      ··Fig. 2. Ejemplo de estructura secundaria del RNA: parte de la subunidadriboso´mica de la mole´cula de Tetrahymena Bergeri. Los puntos marcan basesenlazadas.para una subseccio´n de una mole´cula de RNA estructural.El ana´lisis de secuencias biolo´gicas, como el DNA, el RNAo las proteinas, puede realizarse mediante me´todos estoca´sticoscomo los modelos ocultos de Markov (HMM) [2], [3] o lasgrama´ticas estoca´sticas independientes del contexto (SCFG).II. GRAMA´TICAS TRANSFORMACIONALESExisten tres problemas ba´sicos en la utilizacio´n de losHMMs [3], existiendo para cada uno de ellos algoritmoseficientes: 1) Calcular la probabilidad de una secuencia deobservaciones (algoritmos forward y backward). 2) Encontrarla secuencia de estados ma´s probable (algoritmo de Viterbi).3) Entrenar el modelo a partir de las observaciones (algoritmode Baum-Welch, que es un caso especial del EM, expectation-maximization).Los HMM tienen mu´ltiples aplicaciones en bioinforma´tica[4], [5], tales como el aliniemiento de secuencias, la creacio´nde perfiles para familias de secuencias, o la identificacio´n degenes. Sin embargo, no son muy apropiados para el modeladode la estructura secundaria del RNA, ya que no son capaces demodelar la interaccio´n de largo alcance entre los nucleo´tidos,como los enlaces conservados entre posiciones no contı´guasdel RNA. Lo que se necesita es herramientas ma´s versatilesque los HMM, capaces de incorporar en su estructura internalas restricciones propias de la estructura secundaria del RNA.Dichas herramientas se encuentran dentro del a´mbito de lasgrama´ticas transformacionales, de las que los HMM formanparte.Alrededor de 1950, el linguista Noam Chomsky comenzoa formalizar los mecanismos generacio´n de los lenguajesnaturales [6], [7], [8]. Segu´n la definicio´n de Chomsky,una grama´tica transformacional consiste en un conjunto desı´mbolos y un conjunto de reglas de transformacio´n. Lossı´mbolos pueden ser tanto terminales (los que aparecenrealmente en los mensajes) como no terminales (los queu´nicamente se necesitan como pasos intermedios durante latransformacio´n de las cadenas). Las reglas de transformacio´ntienen el aspecto α → β, donde α y β son cadenas desı´mbolos.Consideremos a modo de ejemplo una grama´tica trans-formacional con los siguientes elementos: 1) Los terminalesG G  U·A  C·G  U·A    G(a) (b)G  UWWWWWS12233g g ggg a ac uuuFig. 3. (a) A´rbol de ana´lisis para ggucugguaga. (b) Estructura secundariadel RNA correspondiente, do´nde se observan los enlaces generados por lasreglas de transformacio´n para W2 y W3.{a, g, c, u}. 2) Los no terminales {S,W1,W2,W3}. 3) Lasde reglas de transformacio´n {S → W1,W1 → ggW2,W2 →uW3a,W3 → cW2g,W3 → ggu}. Observemos que existendos reglas de transformacio´n posibles para W3, de modoque podemos escoger cualquiera de ellas. La secuencia denucleo´tidos ggucugguaga podrı´a generarse mediante la apli-cacio´n de las siguientes reglas:S(comienzo, no terminal) → W1 (regla 1) → ggW2 (regla 2)→ gguW3a (regla 3) → ggucW2ga (regla 4)→ ggucuW3aga (regla 3) → ggucugguaga (regla 5).Dada una grama´tica podemos preguntarnos si una secuenciadada pudo generarse mediante sus reglas de transformacio´n.El ana´lisis gramatical de una secuencia consiste en encontraruna derivacio´n va´lida. El ana´lisis de una secuencia puedellevarse a cabo mediante un alineamiento de la secuencia conla grama´tica, y su resultado puede representarse mediante una´rbol de ana´lisis, en el que la raı´z es el no terminal S, losnodos internos son otros sı´mbolos no terminales y las hojasson los sı´mbolos terminales. En la Figura 3 se representa ela´rbol para la secuencia del ejemplo anterior.A. Jerarquı´a de Chomsky de grama´ticas transformacionalesChomsky [6] describio´ cuatro tipos de grama´ticas, en basea los tipos de restricciones sobre sus reglas de produccio´n.Desde la ma´s restrictiva a la ma´s gene´rica son:1) Grama´ticas regulares: so´lo permite reglas de la formaW1 → aW2 y W1 → a, donde W1 y W2 representancualquier no terminal, y a cualquier terminal.2) Grama´ticas independientes del contexto (CFG): se admiteW → α, donde α puede ser cualquier cadena, conte-niendo tanto terminales como no terminales.3) Grama´ticas sensibles al contexto: se admite α1Wα2 →α1βα2. La transformacio´n del no terminal W dependede su contexto, las subcadenas α1 y α2.4) Grama´ticas sin restricciones: admiten α1Wα2 → γ.Las grama´ticas regulares son ba´sicamente grama´ticas deizquierda a derecha. No son apropiadas para modelar in-teracciones de largo alcance entre elementos de la cadena.Las grama´ticas independientes del contexto, por el contrario,pueden incorporar reglas para generar secuencias con in-teracciones de largo alcance, como por ejemplo secuenciaspalindro´micas. La caracterı´stica interesante de este tipo degrama´ticas para el ana´lisis de la estructura secundaria delRNA es que las uniones entre bases complementarias obedecena una estructura pseudo palindro´mica (en la que la cadenainversa tiene las bases complementarias de la directa).Todas las grama´ticas de la jerarquı´a de Chomsky admitenuna versio´n estoca´stica que permite su utilizacio´n en el mode-lado probabilistı´co de secuencias. A cada regla de produccio´nse le asigna una probabilidad. Un hecho relevante es quelos HMM son completamente equivalentes a las grama´ticasregulares estoca´sticas. La versio´n estoca´stica de las CFG,denominada SCFG, es por tanto una generalizacio´n de losHMM.III. MODELADO DE SECUENCIAS MEDIANTE SCFGAl igual que con los HMM, existen tres problemas ba´sicosen las SCFG y tres algoritmos que los resuelven: 1) Calcularel alineamiento o´ptimo entre una secuencia y una SCFGparametrizada (algoritmo CYK) 2) Calcular la probabilidadde una secuencia dada una grama´tica (algoritmos inside youtside). 3) Estimar los para´metros o´ptimos de una SCFG apartir de un conjunto de secuencias (algoritmo inside-outside).Para analizar estos algoritmos, es u´til suponer que lasgrama´ticas esta´n expresadas en la forma normal de Chomsky,que requiere que todas las reglas de produccio´n sean de laforma Wv → WyWz o Wv → a, donde a es cualquierterminal. Siempre es posible expresar una SCFG mediante suforma normal [6], [9].A. El algoritmo insideSupongamos una SCFG en forma normal de Chomskycon M no terminales W1, . . . ,WM con la que pretendemosanalizar la secuencia x, que esta´ compuesta por L sı´mbolosterminales x1, . . . , xL.Definimos α(i, j, v) como la probabilidad de generar lasubsecuencia xi, . . . , xj mediante un a´rbol cuya raı´z es elno terminal Wv . Calcularemos dicha probabilidad para todoslos valores de i, j, v, mediante un algoritmo de programacio´ndina´mica que utiliza una matriz tridimensional L× L×M .El ca´lculo es recursivo, comenzando con secuencias delongitud 1 (i = j). En el paso de inicializacio´n, calculamostodas las probabilidades de que una secuencia de un terminalen la posicio´n i sea generada a partir de un no terminal Wvsegu´n la segunda regla de la forma normal de Chomsky. Laprobabilidad para la regla de produccio´nWv → a se denominaprobabilidad de emisio´n, ev(a) = P (Wv → a).En el paso recursivo, calculamos la probabilidad de generarla subsecuencia xi, . . . , xj a partir de Wv segu´n la primeraregla de la forma normal de Chomsky. Es decir, Wy y Wz(los dos “hijos” de Wv) generan a su vez respectivamente lassecuencias xi, . . . , xk y xk+1, . . . , xj , tal y como se muestraen la Figura 4. Durante este paso la longitud de la secuenciaj − i + 1 se incrementa en cada iteracio´n hasta alcanzar L.La probabilidad de la regla de produccio´n Wv → WyWz se1 Li jk k + 1vy zFig. 4. Un paso de la iteracio´n del ca´lculo inside de α(i, j, v). Los cı´rculosblancos no se consideran en este paso.Algoritmo 1: insidefor i = 1 to L, v = 1 to Mα(i, i, v) = ev(xi)for i = L− 1 downto 1, j = i + 1 to L, v = 1 to Mα(i, j, v) =M∑y=1M∑z=1j−1∑k=iα(i, k, y)α(k + 1, j, z)tv(y, z)P (x|Θ) = α(1, L, 1)denomina probabilidad de transicio´n, tv(y, z) = P (Wv →WyWz).En el u´ltimo paso se obtiene α(1, L, 1). E´sta es la probabi-lidad de que se haya generado la secuencia completa a partirdel primer no terminal.B. El algoritmo outsideSi el algoritmo inside calcula primero la probabilidad parası´mbolos sencillos y despue´s expande desde dentro para incluirsuba´rboles de ana´lisis, el algoritmo outside comienza desdefuera con la secuencia completa x y excluye suba´rboles deana´lisis, como se muestra la Figura 5.Definimos como β(i, j, v) la probabilidad del a´rbol com-pleto con raı´z en el no terminal inicial para la secuenciacompleta x, excluyendo todos los suba´rboles posibles para lassubsecuencias xi, . . . , xj con raı´z en el no terminal Wv .(a)(b) SS11LLiijjkkvvyyzzj + 1i− 1Fig. 5. Algoritmo outside: los puntos blancos representan la subsecuenciaexcluida. (a) En la primera parte de las contribuciones a β(i, j, v) so´lo seconsideran los puntos negros a la izquierda de la subsecuencia de puntosblancos xi, ..., xj . (b) Para la segunda parte de las contribuciones se utilizanlos sı´mbolos a la derecha de los puntos blancos.Algoritmo 2: outsideβ(1, L, 1) = 1for v = 2 to Mβ(1, L, v) = 0for s = L− 1 downto 1, j = L− s to Li = j − s + 1for v = 1 to Mβ(i, j, v) =M∑y=1M∑z=1i−1∑k=1α(k, i− 1, z)β(k, j, y)ty(z, v)+M∑y=1M∑z=1L∑k=j+1α(j + 1, k, z)β(i, k, y)ty(v, z)P (x|Θ) =∑Mv=1 β(i, i, v)ev(xi), ∀iC. Reestimacio´n de para´metrosCombinando las α y β pueden reestimarse los probabili-dades de una SCFG. Partimos de una eleccio´n inicial para lasmatrices estoca´sticas de emisio´n y transicio´n, que puede seraleatoria. Calculamos las α y β correspondientes y definimosla funcio´n c(v) como el valor esperado de veces que el noterminal Wv se utiliza en una produccio´n:c(v) =1P (x|Θ)L∑i=1L∑j=1α(i, j, v)β(i, j, v).El nu´mero esperado de veces que se usa la regla de produccio´nWv → WyWz esc(v → yz) = 1P (x|Θ)×L−1∑i=1L∑j=i+1j−1∑k=1β(i, j, v)α(i, k, y)α(k + 1, j, z)tv(y, z).La ecuacio´n EM de reestimacio´n de las reglas de produccio´nes por tantotˆv(y, z) =c(v → yz)c(v).Ana´logamente podemos hacer para las reglas de produccio´ndel segundo tipo, Wv → a,eˆv(a) =c(v → a)c(v)=∑i|xi=a β(i, i, v)ev(a)∑Li=1∑Lj=1 α(i, j, v)β(i, j, v).Una vez estimadas las probabilidades, se recalculan α y β yse repite el proceso hasta la convergencia.D. El algoritmo CYKEl problema del alineamiento para las SCFG se resuelve me-diante el algoritmo de Cocke-Younger-Kasami (CYK). Calculala matriz γ(i, j, v) que permite obtener logP (x, πˆ|Θ), dondeπˆ es el a´rbol ma´s probable. Para recorrer hacia atra´s la matrizde programacio´n dina´mica tridimensional y obtener el a´rbolma´s probable, se utiliza la variable τ(i, j, v).Algoritmo 3: CYKfor i = 1 to L, v = 1 to Mγ(i, i, v) = log(ev(xi))τ(i, i, v) = (0, 0, 0)for i = L− 1 downto 1, j = i + 1 to L, v = 1 to Mψ(i, j, k, v, y, z) = τ(i, k, y)+τ(k+1, j, z)+log(tv(y, z)γ(i, j, v) = max(y,z,k),k=i...j−1ψ(i, j, k, v, y, z)τ(i, j, v) = argmax(y,z,k),k=i...j−1ψ(i, j, k, v, y, z)log(P (x|Θ)) = γ(1, L, 1)En la iteracio´n, la maximizacio´n segu´n k puede interpretarsecomo la particio´n o´ptima (la ma´s probable) de la subsecuenciaen dos partes, ya que k determina que´ subsecuencias acabara´ngenerando los no terminales Wy y Wz , como se muestraen la Figura 4. La maximizacio´n segu´n y (z) devolvera´ elno terminal Wy (Wz) con la mayor probabilidad de generarla subsecuencia xi, . . . , xk (xk+1, . . . , xj). Por lo tanto, latripleta (y, z, k) contiene los ı´ndices o´ptimos para obtener lasubsecuencia xi, . . . , xj a partir del no terminal Wv .IV. CONCLUSIONESLas grama´ticas estoca´sticas independientes del contexto sonuna generalizacio´n de los modelos ocultos de Markov quepermiten incorporar las restricciones asociadas a la estructurasecundaria del RNA. Los algoritmos presentados no garantizansiempre la prediccio´n correcta de dicha estructura, pero for-man la base de algoritmos ma´s sofisticados, que incorporarcaracterı´sticas tales como leyes biofı´sicas que modulan elplegamiento del RNA. Se trata de un campo de investigacio´nen bioinforma´tica que se encuentra en sus comienzos, apare-ciendo constantemente mejoras sobre los me´todos existentes,por lo que esta comunicacio´n puede considerarse como unaintroduccio´n al tema para los investigadores en el campo delprocesado de sen˜al.REFERENCES[1] S. R. Eddy, R. Durbin RNA Sequence Analysis Using Covariance Models,Nucleic Acids Res., 22, 2079-2088 (1994).[2] R. Dugad, U. B. Desai, “A Tutorial on Hidden Markov Models”, SignalProcessing and Artificial Neural Networks Laboratory, Department ofElectrical Engineering, Indian Institute of Technology, Bombay, TechnicalReport No.: SPANN 96.1., May 1996.[3] L.R. Rabiner, B. H. Juang, “An Introduction to Hidden Markov Models”,IEEE ASP Mag., pp 4-16, June 1986.[4] R. Durbin, S. Eddy, A. Krogh, G. Mitchison, Biological SequenceAnalysis, Cambridge University Press (1998).[5] M.S. Waterman, Introduction to Computational Biology, CRC Press(1995).[6] N. Chomsky, “Three models for the description of language”, IRETransactions on Information Theory, 2, 113–124.[7] D. B. Searls, “The Linguistics of DNA”, American Scientist, 80:579-591(1992).[8] D. B. Searls, “The Language of Genes”, Nature, vol. 420, november 2002.[9] Y. Sakakibira, M. Brown, R. Underwood, I. S. Mian, and D. Haussler,Stochastic Context-Free Grammars for Modeling RNA, Nucleic AcidsRes., 22, 5112-5120 (1999).

Una introducción a la predicción de la estructura secundaria del RNA mediante métodos estocásticos

https://repositorio.unican.es/xmlui/bitstream/handle/10902/3478/Una%20introducci%c3%b3n%20a%20la%20predicci%c3%b3n.pdf?sequence=1&isAllowed=y

Una introducción a la predicción de la estructura secundaria del RNA mediante métodos estocásticos

Abstract

Similar works

Full text

Available Versions

UCrea