Iterative Temporal Learning and Prediction with the Sparse Online Echo State Gaussian Process

Abstract—In this work, we contribute the online echo state gaussian process (OESGP), a novel Bayesian-based online method that is capable of iteratively learning complex temporal dy-namics and producing predictive distributions (instead of point predictions). Our method can be seen as a combination of the echo state network with a sparse approximation of Gaussian processes (GPs). Extensive experiments on the one-step prediction task on well-known benchmark problems show that OESGP produced statistically superior results to current online ESNs and state-of-the-art regression methods. In addition, we characterise the benefits (and drawbacks) associated with the considered online methods, specifically with regards to the trade-off between computational cost and accuracy. For a high-dimensional action recognition task, we demonstrate that OESGP produces high accuracies comparable to a recently published graphical model, while being fast enough for real-time interactive scenarios. I

Thermostatting by deterministic scattering

We present a mechanism for thermalizing a moving particle by microscopic deterministic scattering. As an example, we consider the periodic Lorentz gas. We modify the collision rules by including energy transfer between particle and scatterer such that the scatterer mimics a thermal reservoir with arbitrarily many degrees of freedom. The complete system is deterministic, time-reversible, and provides a microcanonical density in equilibrium. In the limit of the disk representing infinitely many degrees of freedom and by applying an electric field the system goes into a nonequilibrium steady state.Comment: 4 pages (revtex) with 4 figures (postscript

Thermostating by Deterministic Scattering: Heat and Shear Flow

We apply a recently proposed novel thermostating mechanism to an interacting many-particle system where the bulk particles are moving according to Hamiltonian dynamics. At the boundaries the system is thermalized by deterministic and time-reversible scattering. We show how this scattering mechanism can be related to stochastic boundary conditions. We subsequently simulate nonequilibrium steady states associated to thermal conduction and shear flow for a hard disk fluid. The bulk behavior of the model is studied by comparing the transport coefficients obtained from computer simulations to theoretical results. Furthermore, thermodynamic entropy production and exponential phase-space contraction rates in the stationary nonequilibrium states are calculated showing that in general these quantities do not agree.Comment: 16 pages (revtex) with 9 figures (postscript

Reservoir Computing: computation with dynamical systems

In het onderzoeksgebied Machine Learning worden systemen onderzocht die kunnen leren op basis van voorbeelden. Binnen dit onderzoeksgebied zijn de recurrente neurale netwerken een belangrijke deelgroep. Deze netwerken zijn abstracte modellen van de werking van delen van de hersenen. Zij zijn in staat om zeer complexe temporele problemen op te lossen maar zijn over het algemeen zeer moeilijk om te trainen. Recentelijk zijn een aantal gelijkaardige methodes voorgesteld die dit trainingsprobleem elimineren. Deze methodes worden aangeduid met de naam Reservoir Computing. Reservoir Computing combineert de indrukwekkende rekenkracht van recurrente neurale netwerken met een eenvoudige trainingsmethode. Bovendien blijkt dat deze trainingsmethoden niet beperkt zijn tot neurale netwerken, maar kunnen toegepast worden op generieke dynamische systemen. Waarom deze systemen goed werken en welke eigenschappen bepalend zijn voor de prestatie is evenwel nog niet duidelijk. Voor dit proefschrift is onderzoek gedaan naar de dynamische eigenschappen van generieke Reservoir Computing systemen. Zo is experimenteel aangetoond dat de idee van Reservoir Computing ook toepasbaar is op niet-neurale netwerken van dynamische knopen. Verder is een maat voorgesteld die gebruikt kan worden om het dynamisch regime van een reservoir te meten. Tenslotte is een adaptatieregel geïntroduceerd die voor een breed scala reservoirtypes de dynamica van het reservoir kan afregelen tot het gewenste dynamisch regime. De technieken beschreven in dit proefschrift zijn gedemonstreerd op verschillende academische en ingenieurstoepassingen