Design and Implementation of a Stand-Alone Tool for Metabolic Simulations

In this thesis, we present the design and implementation of a stand-alone tool for metabolic simulations. This system is able to integrate custom-built SBML models along with external user’s input information and produces the estimation of any reactants participating in the chain of the reactions in the provided model, e.g., ATP, Glucose, Insulin, for the given duration using numerical analysis and simulations. This tool offers the food intake arguments in the calculations to consider the personalized metabolic characteristics in the simulations. The tool has also been generalized to take into consideration of temporal genomic information and be flexible for simulation of any given biochemical model. After implementation, experimental results have demonstrated the numerical effectiveness of optimization for model selection and the feasibility of the proposed tool for the given metabolic simulation. The proof of concept analysis on the energy metabolism and insulin-glucose metabolism revealed this tool can be promising for a variety of healthcare applications

Σχεδίαση και FPGA υλοποίηση συστήματος σε ψηφίδα για στοχαστική προσομοίωση πολύπλοκων βιομοριακών δικτύων με χρήση του NRM-SSA

Η στοχαστική προσομοίωση μεγάλης κλίμακας δικτύων βιομοριακών αλληλεπιδράσεων, με χιλιάδες αντιδράσεις και μοριακά είδη, αποτελεί σημαντικό εργαλείο για τη Συστημική Βιολογία και τη Συστημική Ιατρική, που θα επιτρέψει τον πειραματισμό in-silico με βιομοριακά δίκτυα κλίμακας κυττάρου ή/και κυτταρικών πληθυσμών. Παρουσιάζουμε τη σχεδίαση και υλοποίηση διαμορφώσιμου παραμετρικού συστήματος σε ψηφίδα (System-on-Chip, SoC) υψηλής απόδοσης, για την επιτάχυνση του αλγορίθμου Next Reaction Method των Gibson και Bruck, σε υλικό επαναπρογραμματιζόμενης λογικής (FPGA). Το σύστημά μας χρησιμοποιεί επιθετική διοχέτευση (pipelining) στο επίπεδο του πυρήνα (core) και συνδυάζει πολλούς πυρήνες σε δίκτυο αστέρα, ικανούς να εκτελούν παράλληλα και αποδοτικά επαναλήψεις στοχαστικής προσομοίωσης βιομοντέλων με έως και 4Κ αντιδράσεις 3ης τάξης. Με τη σχεδίαση που επιλέξαμε, η απόδοση του πυρήνα NRM εξαρτάται μόνο από το μέσο όρο των επηρεαζόμενων αντιδράσεων και όχι από το πλήθος των αντιδράσεων του μοντέλου. Καθώς αυξάνεται το πλήθος των πυρήνων, η απόδοσή του SoC κλιμακώνεται γραμμικά και φτάνει σε επίπεδο GCycles/sec. Συνεπώς με ένα μεσαίου μεγέθους FPGA και συχνότητα λειτουργίας ~200 MHz το σύστημά μας αποφέρει πολύ υψηλές επιδόσεις σε σχέση με δημοφιλείς προσομοιωτές λογισμικού που τρέχουν σε ένα ισχυρό υπολογιστικό σύστημα. Αποτελεί δε το γρηγορότερο σύστημα στη διεθνή βιβλιογραφία για στοχαστικές προσομοιώσεις βιολογικών δικτύων με τον δημοφιλή NRM-SSA.Stochastic simulation of large-scale biochemical reaction networks, with thousands of reactions, is an important tool for systems biology and systems medicine, since it enables the in-silico experimentation with genome-scale reconstructed networks. FPGA-based accelerators can exploit parallelism, but have been limited on the size of biomodels they can handle effectively. In this graduate thesis, we present the design and implementation of a high performance scalable System-on-Chip architecture for implementing Gibson and Bruck's Next Reaction Method in reconfigurable hardware. Our MPSoC uses aggressive pipelining at the core level and combines many cores into a star configuration Network-on-Chip to execute in parallel stochastic repetitions of complex biomodels, each one with up to 4K reactions. The performance of our NRM core depends only on the average number of dependent reactions (outdegree of the biomodel's Dependencies Graph - DG) and not on the number of reactions (DG nodes). By adding cores to the NoC, the system's performance scales linearly and reaches GCycles/sec levels. We show that a medium size FPGA running at ~200 MHz delivers high speedup relative to popular and efficient software simulators running on a very powerful workstation. This is currently the fastest hardware accelerator available in the literature for the NRM-SSA

Advanced photonic and electronic systems - WILGA 2017

WILGA annual symposium on advanced photonic and electronic systems has been organized by young scientist for young scientists since two decades. It traditionally gathers more than 350 young researchers and their tutors. Ph.D students and graduates present their recent achievements during well attended oral sessions. Wilga is a very good digest of Ph.D. works carried out at technical universities in electronics and photonics, as well as information sciences throughout Poland and some neighboring countries. Publishing patronage over Wilga keep Elektronika technical journal by SEP, IJET by PAN and Proceedings of SPIE. The latter world editorial series publishes annually more than 200 papers from Wilga. Wilga 2017 was the XL edition of this meeting. The following topical tracks were distinguished: photonics, electronics, information technologies and system research. The article is a digest of some chosen works presented during Wilga 2017 symposium. WILGA 2017 works were published in Proc. SPIE vol.10445

A Practical Hardware Implementation of Systemic Computation

It is widely accepted that natural computation, such as brain computation, is far superior to typical computational approaches addressing tasks such as learning and parallel processing. As conventional silicon-based technologies are about to reach their physical limits, researchers have drawn inspiration from nature to found new computational paradigms. Such a newly-conceived paradigm is Systemic Computation (SC). SC is a bio-inspired model of computation. It incorporates natural characteristics and defines a massively parallel non-von Neumann computer architecture that can model natural systems efficiently. This thesis investigates the viability and utility of a Systemic Computation hardware implementation, since prior software-based approaches have proved inadequate in terms of performance and flexibility. This is achieved by addressing three main research challenges regarding the level of support for the natural properties of SC, the design of its implied architecture and methods to make the implementation practical and efficient. Various hardware-based approaches to Natural Computation are reviewed and their compatibility and suitability, with respect to the SC paradigm, is investigated. FPGAs are identified as the most appropriate implementation platform through critical evaluation and the first prototype Hardware Architecture of Systemic computation (HAoS) is presented. HAoS is a novel custom digital design, which takes advantage of the inbuilt parallelism of an FPGA and the highly efficient matching capability of a Ternary Content Addressable Memory. It provides basic processing capabilities in order to minimize time-demanding data transfers, while the optional use of a CPU provides high-level processing support. It is optimized and extended to a practical hardware platform accompanied by a software framework to provide an efficient SC programming solution. The suggested platform is evaluated using three bio-inspired models and analysis shows that it satisfies the research challenges and provides an effective solution in terms of efficiency versus flexibility trade-off

Σχεδίαση Αρχιτεκτονικής SoC για τον NRM-SSA

Στο Παραδοτέο 1.1 έχει περιγραφεί η σχεδίαση και υλοποίηση συστήματος στοχαστικής προσομοίωσης βασιζόμενο στον αλγόριθμο First Reaction Method (FRM) του Gillespie. Η παράλληλη και πολυπύρηνη αρχιτεκτονική που ενσωματώνει, η δυνατότητα παραμετροποίησης των πυρήνων, καθώς και η άκρως ικανοποιητική απόδοσή τους, ανέδειξαν τα πλεονεκτήματα και τη σπουδαιότητα της χρήσης υλικού ειδικού σκοπού για εφαρμογές στοχαστικής προσομοίωσης βιολογικών δικτύων με τη χρήση FPGAs. Το παρόν παραδοτέο επικεντρώνεται στην ανάπτυξη ενός ολοκληρωμένου υπολογιστικού συστήματος στοχαστικής προσομοίωσης βασιζόμενο στον αλγόριθμο Next Reaction Method (NRM) των Gibson και Bruck [17]. Σκοπός μας ήταν να επαναχρησιμοποιήσουμε μέρος του συστήματος που έχει ήδη σχεδιαστεί για τον FRM–SSA, ώστε να ελαχιστοποιηθεί ο χρόνος σχεδίασης, και να οδηγηθούμε σε μια αποδοτική λύση εφαρμόζοντας τεχνικές πλήρους σωλήνωσης (pipeline), παράλληλης επεξεργασίας (parallel processing) και απόκρυψης της καθυστέρησης (latency hiding) σε επίπεδο υλικού. Εν τέλει, μετά την ολοκλήρωση και την επικύρωση των δύο συστημάτων, σκοπεύουμε να συγκρίνουμε τις δύο αρχιτεκτονικές υλοποιήσεις τόσο ως προς την αποδοτικότητα, επιδόσεις και απαιτήσεις υλικού, όσο και ως προς τον βαθμό στατιστικής ομοιότητας που παρουσιάζουν τα αποτελέσματά τους εκτελώντας τα ίδια πειράματα κάτω από τις ίδιες συνθήκες (Παραδοτέο 1.3)

Υλοποίηση συστημάτων σε ψηφίδα(SoC) για τη στοαχαστική προσμοίωση μεγάλων δικτύων βιοχημικών αντιδράσεων

 Η παρούσα Διπλωματική Εργασία, αφορά την υλοποίηση ενός ψηφιακού συστήματος (SoC) ειδικού σκοπού με στόχο την στοχαστική προσομοίωση μεγάλων δικτύων βιοχημικών αντιδράσεων με FPGAs της Xilinx και της Altera. Προτείνονται σχεδιάσεις μικροϋπολογιστών συστημάτων για τη παράλληλη επεξεργασία των αλγορίθμων προσομοίωσης αλλά και την παράλληλη εκτέλεση ανεξάρτητων προσομοιώσεων στο ίδιο σύστημα. Για τον λόγο αυτό κατασκευάσαμε SoCs με μέχρι 8 παράλληλα επεξεργαστικά στοιχεία τα οποία έχουν τη δυνατότητα να εκτελούν παράλληλα δύο από τους πιο γνωστούς αλγορίθμους στοχαστικής προσομοίωσης, τον Gillespie SSA First Reaction Method και τον SSA Next Reaction Method. Τα SoCs που σχεδιάστηκαν μπορούν να προσομοιώσουν δίκτυα με μέχρι 16Κ χημικές αντιδράσεις που η κάθε μια μπορεί να είναι μέχρι και 3ης τάξης. Η συχνότητα λειτουργίας στα FPGA ανέρχεται στα 266-320 MHz με εσωτερικές τις καθυστερήσεις να κυμαίνονται από 55-85 κύκλους ανά χημική αντίδραση. Επιπροσθέτως έγινε μελέτη για την διεπαφή του ψηφιακού συστήματος με τον μικροεπεξεργαστή LEON και χρήση του προγράμματος SysPy για τη δημιουργία ενός εργαλείου επικοινωνίας με το χρήστη, με στόχο την αυτοματοποίηση των λειτουργιών της σύνθεσης του ψηφιακού συστήματος, αναλόγως των απαιτήσεων του βιοχημικού μοντέλου που προσομοιώνεται, αλλά και τη μεταφορά των αποτελεσμάτων της προσομοίωσης στον Η/Υ. This thesis presents the design of scalable reconfigurable parametric Systems on Chip (SoC) that implement Gillespie’s Stochastic Simulation Algorithms (SSA), namely the First Reaction Method and Gibson and Bruck’s Next Reaction Method. We have proved that our architectures of scalable SoCs can deliver performance (Mega reactions/sec) which is increasing linearly with the number of parallel processors, when simulating bimolecular networks with up to 16Κ reactions in a single FPGA. This is important because it contributes to systems biology by enabling realistic simulation of increasingly larger reaction networks (e.g. large metabolic networks or whole species reaction networks). In order to do so, we have designed and verified various scalable parametric FRM/NRM SoC architectures with N=1,2,4 Processing Elements (PEs) for Xilinx Virtex 5 and Virtex 7 FPGAs, reaching clock frequencies as high as 320 MHz and delivering throughput as high as 3.1 Mega Reaction cycles/sec. A new approach is also presented which can simulate biochemical reaction networks of different reaction orders with multiple products. Using it we are able to perform either one parallel simulation of a reaction network in parallel, or N different independent simulations of reaction networks within the same SoC with N PEs, for both SSA algorithms (FRM, NRM)

A Survey on Reservoir Computing and its Interdisciplinary Applications Beyond Traditional Machine Learning

Reservoir computing (RC), first applied to temporal signal processing, is a recurrent neural network in which neurons are randomly connected. Once initialized, the connection strengths remain unchanged. Such a simple structure turns RC into a non-linear dynamical system that maps low-dimensional inputs into a high-dimensional space. The model's rich dynamics, linear separability, and memory capacity then enable a simple linear readout to generate adequate responses for various applications. RC spans areas far beyond machine learning, since it has been shown that the complex dynamics can be realized in various physical hardware implementations and biological devices. This yields greater flexibility and shorter computation time. Moreover, the neuronal responses triggered by the model's dynamics shed light on understanding brain mechanisms that also exploit similar dynamical processes. While the literature on RC is vast and fragmented, here we conduct a unified review of RC's recent developments from machine learning to physics, biology, and neuroscience. We first review the early RC models, and then survey the state-of-the-art models and their applications. We further introduce studies on modeling the brain's mechanisms by RC. Finally, we offer new perspectives on RC development, including reservoir design, coding frameworks unification, physical RC implementations, and interaction between RC, cognitive neuroscience and evolution.Comment: 51 pages, 19 figures, IEEE Acces