A marginalised particle filter with variational inference for non‐linear state‐space models with Gaussian mixture noise

This work proposes a marginalised particle filter with variational inference for non‐linear state‐space models (SSMs) with Gaussian mixture noise. A latent variable indicating the component of the Gaussian mixture considered at each time instant is introduced to specify the measurement mode of the SSM. The resulting joint posterior distribution of the state vector, the mode variable and the parameters of the Gaussian mixture noise is marginalised with respect to the noise variables. The marginalised posterior distribution of the state and mode is then approximated by using an appropriate marginalised particle filter. The noise parameters conditionally on each particle system of the state and mode variable are finally updated by using variational Bayesian inference. A simulation study is conducted to compare the proposed method with state‐of‐the‐art approaches in the context of positioning in urban canyons using global navigation satellite systems

Multiple motor memories are learned to control different points on a tool.

Skillful object manipulation requires learning the dynamics of objects, linking applied force to motion 1 ,2 . This involves the formation of a motor memory 3 ,4 , which has been assumed to be associated with the object, independent of the point on the object that one chooses to control. Importantly, in manipulation tasks, different control points on an object, such as the rim of a cup when drinking or its base when setting it down, can be associated with distinct dynamics. Here we show that opposing dynamic perturbations, which interfere when controlling a single location on an object, can be learned when each is associated with a separate control point. This demonstrates that motor memory formation is linked to control points on the object, rather than the object per se . We also show that the motor system only generates separate memories for different control points if they are linked to different dynamics, allowing efficient use of motor memory. To account for these results, we develop a normative switching state-space model of motor learning, in which the association between cues (control points) and contexts (dynamics) is learned rather than fixed. Our findings uncover an important mechanism through which the motor system generates flexible and dexterous behavior

Recursive Maximum Likelihood Identification of Jump Markov Nonlinear Systems

We present an online method for joint state and parameter estimation in jump Markov non-linear systems (JMNLS). State inference is enabled via the use of particle filters which makes the method applicable to a wide range of non-linear models. To exploit the inherent structure of JMNLS, we design a Rao-Blackwellized particle filter (RBPF) where the discrete mode is marginalized out analytically. This results in an efficient implementation of the algorithm and reduces the estimation error variance. The proposed RBPF is then used to compute, recursively in time, smoothed estimates of complete data sufficient statistics. Together with the online expectation maximization algorithm, this enables recursive identification of unknown model parameters including the transition probability matrix. The method is also applicable to online identification of jump Markov linear systems(JMLS). The performance of the method is illustrated in simulations and on a localization problem in wireless networks using real data

Estimation Algorithms for Non-Gaussian State-Space Models with Application to Positioning

State-space models (SSMs) are used to model systems with hidden time-varying state and observable measurement output. In statistical SSMs, the state dynamics is assumed known up to a random term referred to as the process noise, and the measurements contain random measurement noise. Kalman filter (KF) and Rauch– Tung–Striebel smoother (RTSS) are widely-applied closed-form algorithms that provide the parameters of the exact Bayesian filtering and smoothing distributions for discrete-time linear statistical SSMs where the process and measurement noises follow Gaussian distributions. However, when the SSM involves nonlinear functions and/or non-Gaussian noises, the Bayesian filtering and smoothing distributions cannot in general be solved using closed-form algorithms. This thesis addresses approximate Bayesian time-series inference for two positioning-related problems where the assumption of Gaussian noises cannot capture all useful knowledge of the considered system’s statistical properties: map-assisted indoor positioning and positioning using time-delay measurements.The motion constraints imposed by the indoor map are typically incorporated in the position estimate using the particle filter (PF) algorithm. The PF is a Monte Carlo algorithm especially suited for statistical SSMs where the Bayesian posterior distributions are too complicated to be adequately approximated using a well-known distribution family with a low-dimensional parameter space. In mapassisted indoor positioning, the trajectories that cross walls or floor levels get a low probability in the model. In this thesis, improvements to three different PF algorithms for map-assisted indoor positioning are proposed and compared. In the wall-collision PF, weighted random samples, also known as particles, are moved based on inertial sensor measurements, and the particles that collide with the walls are downweighted. When the inertial sensor measurements are very noisy, map information is used to guide the particles such that fewer particles collide with the walls, which implies that more particles contribute to the estimation. When no inertial sensor information is used, the particles are moved along the links of a graph that is dense enough to approximate the set of expected user paths.Time-delay based ranging measurements of e.g. ultra-wideband (UWB) and Global Navigation Satellite Systems (GNSSs) contain occasional positive measurement errors that are large relative to the majority of the errors due to multipath effects and denied line of sight. In this thesis, computationally efficient approximate Bayesian filters and smoothers are proposed for statistical SSMs where the measurement noise follows a skew t -distribution, and the algorithms are applied to positioning using time-delay based ranging measurements. The skew t -distribution is an extension of the Gaussian distribution, which has two additional parameters that affect the heavytailedness and skewness of the distribution. When the measurement noise model is heavy-tailed, the optimal Bayesian algorithm is robust to occasional large measurement errors, and when the model is positively (or negatively) skewed, the algorithms account for the fact that most large errors are known to be positive (or negative). Therefore, the skew t -distribution is more flexible than the Gaussian distribution and captures more statistical features of the error distributions of UWB and GNSS measurements. Furthermore, the skew t -distribution admits a conditionally Gaussian hierarchical form that enables approximating the filtering and smoothing posteriors with Gaussian distributions using variational Bayes (VB) algorithms. The proposed algorithms can thus be computationally efficient compared to Monte Carlo algorithms especially when the state is high-dimensional. It is shown in this thesis that the skew-t filter improves the accuracy of UWB based indoor positioning and GNSS based outdoor positioning in urban areas compared to the extended KF. The skew-t filter’s computational burden is higher than that of the extended KF but of the same magnitude.Tila-avaruusmalleilla mallinnetaan järjestelmiä, joilla on tuntema-ton ajassa muuttuva tila sekä mitatattava ulostulo. Tilastollisissa tila-avaruusmalleissa järjestelmän tilan muutos tunnetaan lukuunotta-matta prosessikohinaksi kutsuttua satunnaista termiä, ja mittauk-set sisältävät satunnaista mittauskohinaa. Kalmanin suodatin sekäRauchin Tungin ja Striebelin siloitin ovat yleisesti käytettyjä sulje-tun muodon estimointialgoritmeja, jotka tuottavat tarkat bayesiläi-set suodatus- ja siloitusjakaumat diskreettiaikaisille lineaarisille ti-lastollisille tila-avaruusmalleille, joissa prosessi- ja mittauskohinatnoudattavat gaussisia jakaumia. Jos käsiteltyyn tila-avaruusmalliinkuitenkin liittyy epälineaarisia funktioita tai epägaussisia kohinoita,bayesiläisiä suodatus- ja siloitusjakaumia ei yleensä voida ratkais-ta suljetun muodon algoritmeilla. Tässä väitöskirjassa tutkitaan ap-proksimatiivista bayesiläistä aikasarjapäättelyä ja sen soveltamistakahteen paikannusongelmaan, joissa gaussinen jakauma ei mallinnariittävän hyvin kaikkea hyödyllistä tietoa tutkitun järjestelmän tilas-tollisista ominaisuuksista: kartta-avusteinen sisätilapaikannus sekäsignaalin kulkuaikamittauksiin perustuva paikannus.Sisätilakartan tuottamat liikerajoitteet voidaan liittää paikkaestimaat-tiin käyttäen partikkelisuodattimeksi kutsuttua algoritmia. Partik-kelisuodatin on Monte Carlo -algoritmi, joka soveltuu erityisesti ti-lastollisille tila-avaruusmalleille, joissa bayesiläisen posteriorijakau-man tiheysfunktio on niin monimutkainen, että sen approksimointitunnetuilla matalan parametridimension jakaumilla ei ole mielekäs-tä. Kartta-avusteisessa sisätilapaikannuksessa reitit, jotka leikkaavatseiniä tai kerrostasoja, saavat muita pienemmät todennäköisyydet.Tässä väitöskirjassa esitetään parannuksia kolmeen eri partikkelisuo-datusalgoritmiin, joita sovelletaan kartta-avusteiseen sisätilapaikan-vnukseen. Seinätörmayssuodattimessa painolliset satunnaisnäytteeteli partikkelit liikkuvat inertiasensorimittausten mukaisesti, ja sei-nään törmäävät partikkelit saavat pienet painot. Kun inertiasensori-mittauksissa on paljon kohinaa, partikkeleita voidaan ohjata siten,että seinätörmäysten määrä vähenee, jolloin suurempi osa partikke-leista vaikuttaa estimaattiin. Kun inertiasensorimittauksia ei käytetälainkaan, sisätilakartta voidaan esittää graafina, jonka kaarilla partik-kelit liikkuvat ja joka on riittävän tiheä approksimoimaan odotetta-vissa olevien reittien joukkoa.Esimerkiksi laajan taajuuskaistan radioista (UWB, ultra-wideband)tai paikannussatelliiteista saatavat radiosignaalin kulkuaikaan pe-rustuvat etäisyysmittaukset taas voivat sisältää monipolkuheijastus-ten ja suoran reitin estymisen aiheuttamia positiivismerkkisiä vir-heitä, jotka ovat huomattavan suuria useimpiin mittausvirheisiinverrattuna. Tässä väitöskirjassa esitetään laskennallisesti tehokkaitabayesiläisen suodattimen ja siloittimen approksimaatioita tilastol-lisille tila-avaruusmalleille, joissa mittauskohina noudattaa vinoat -jakaumaa. Vino t -jakauma on gaussisen jakauman laajennos, jasillä on kaksi lisäparametria, jotka vaikuttavat jakauman paksuhän-täisyyteen ja vinouteen. Kun mittauskohinaa mallintava jakaumaoletetaan paksuhäntäiseksi, optimaalinen bayesiläinen algoritmi eiole herkkä yksittäisille suurille mittausvirheille, ja kun jakauma olete-taan positiivisesti (tai negatiivisesti) vinoksi, algoritmit hyödyntävättietoa, että suurin osa suurista virheistä on positiivisia (tai negatiivi-sia). Vino t -jakauma on siis gaussista jakaumaa joustavampi, ja sillävoidaan mallintaa kulkuaikaan perustuvien mittausten virhejakau-maa tarkemmin kuin gaussisella jakaumalla. Vinolla t -jakaumalla onmyös ehdollisesti gaussinen esitys, joka soveltuu suodatus- ja siloi-tusposteriorien approksimointiin variaatio-Bayes-algoritmilla. Näinollen esitetyt algoritmit voivat olla laskennallisesti tehokkaampiakuin Monte Carlo -algoritmit erityisesti tilan ollessa korkeaulotteinen.Tässä väitöskirjassa näytetään, että vino-t -virhejakauman käyttö pa-rantaa UWB-radioon perustuvan sisätilapaikannuksen tarkkuuttasekä satelliittipohjaisen ulkopaikannuksen tarkkuutta kaupunkiym-päristössä verrattuna laajennettuun Kalmanin suodattimeen. Vino-t -suodatuksen laskennallinen vaativuus on suurempi mutta samaakertaluokkaa kuin laajennetun Kalmanin suodattimen