On computational tools for Bayesian data analysis

While Robert and Rousseau (2010) addressed the foundational aspects of Bayesian analysis, the current chapter details its practical aspects through a review of the computational methods available for approximating Bayesian procedures. Recent innovations like Monte Carlo Markov chain, sequential Monte Carlo methods and more recently Approximate Bayesian Computation techniques have considerably increased the potential for Bayesian applications and they have also opened new avenues for Bayesian inference, first and foremost Bayesian model choice.Comment: This is a chapter for the book "Bayesian Methods and Expert Elicitation" edited by Klaus Bocker, 23 pages, 9 figure

Maximum Entropy and Bayesian Data Analysis: Entropic Priors

The problem of assigning probability distributions which objectively reflect the prior information available about experiments is one of the major stumbling blocks in the use of Bayesian methods of data analysis. In this paper the method of Maximum (relative) Entropy (ME) is used to translate the information contained in the known form of the likelihood into a prior distribution for Bayesian inference. The argument is inspired and guided by intuition gained from the successful use of ME methods in statistical mechanics. For experiments that cannot be repeated the resulting "entropic prior" is formally identical with the Einstein fluctuation formula. For repeatable experiments, however, the expected value of the entropy of the likelihood turns out to be relevant information that must be included in the analysis. The important case of a Gaussian likelihood is treated in detail.Comment: 23 pages, 2 figure

Accelerator Mass Spectrometry and Bayesian Data Analysis

Accelerator mass spectrometry (AMS) is an ultrasensitive technique for measuring the concentration of a single isotope. The electric and magnetic fields of an electrostatic accelerator system are used to filter out other isotopes from the ion beam. The high velocity means that molecules can be destroyed and removed from the measurement background. As a result, concentrations down to one atom in 10^16 atoms are measurable. This thesis describes the construction of the new AMS system in the Accelerator Laboratory of the University of Helsinki. The system is described in detail along with the relevant ion optics. System performance and some of the 14C measurements done with the system are described. In a second part of the thesis, a novel statistical model for the analysis of AMS data is presented. Bayesian methods are used in order to make the best use of the available information. In the new model, instrumental drift is modelled with a continuous first-order autoregressive process. This enables rigorous normalization to standards measured at different times. The Poisson statistical nature of a 14C measurement is also taken into account properly, so that uncertainty estimates are much more stable. It is shown that, overall, the new model improves both the accuracy and the precision of AMS measurements. In particular, the results can be improved for samples with very low 14C concentrations or measured only a few times.Luonnossa useat prosessit muuttavat alkuaineen isotooppien runsaussuhteita. Näin ollen isotooppien määrän mittaaminen auttaa osaltaan ymmärtämään luonnon prosesseja ja tutkittavan kohteen historiaa. Yksi isotooppien runsaussuhteita muuttava prosessi on radioaktiivisuus. Esimerkiksi radioaktiivisen hiili-14 isotoopin määrä kertoo kuinka kauan eloperäinen näyte on ollut kuolleena tai eristettynä hiilen normaalista kiertokulusta. Luukappaleen, vuosikertaviinin tai vaikkapa ilmakehän aerosolien alkuperää voidaan siis ymmärtää paremmin mittaamalla kohteen hiili-14 pitoisuus. Koska saman alkuaineen eri isotoopit käyttäytyvät kemiallisesti samalla tavoin, harvinaisia isotooppeja voidaan myös käyttää leima-aineina tutkittaville prosesseille kuten lääkeaineiden kulkeutumiselle kehossa. Kiihdytinpohjaisessa massaspektrometriassa hiukkaskiihdytintä käytetään harvinaisten alkuaine-isotooppien runsaussuhteiden mittaamiseen. Kiihdyttimellä saavutettava hiukkasten suuri nopeus mahdollistaa häiritsevien molekyylien poistamisen hiukkassuihkusta törmäyksien avulla. Ei-halutut ionit erotetaan hiukkassuihkusta magneetti- ja sähkökentillä. Tavalliseen massaspektrometriin verrattuna kiihdytinmassaspektrometrillä voidaan mitata yli viisi kertaluokkaa pienempiä pitoisuuksia. Esimerkiksi hiili-14-isotoopin ilmaisukynnys on alle 1:10^15, joka vastaa yhtä milligrammaa hiili-14-isotooppia miljoonassa tonnissa tavallista hiiltä. Tässä väitöskirjatyössä esitellään Helsingin yliopiston fysikaalisten tieteiden laitoksen kiihdytinmassaspektrometri, joka on ensimmäinen laite Suomessa. Nykyinen laitteisto, ionioptiset laskut, kiihdyttimen vaatimat merkittävät muutostyöt sekä mittausten läpivienti kuvataan pääpiirteissään. Lisäksi käydään läpi laitteiston olennaiset ominaisuudet, suorituskyky sekä näiden toteamiseksi suoritetut mittaukset. Laitteen nykyinen tarkkuus on alle prosentin, ja pienin laitteella mitattu hiili-14 runsaussuhde on 4×10^-17, joka vastaa kansainvälisesti parasta tausta-arvoa. Kiihdytinmassaspektrometrian sovellusalueilla luotettavat tulokset ja mittausepävarmuudet ovat ensiarvoisen tärkeitä. Tässä työssä kehitetty bayeslainen tulostenkäsittelymenetelmä parantaa kiihdytinmassaspektrometrian tuloksia merkittävästi keskiarvoistukseen perustuviin menetelmiin verrattuna. Uudessa menetelmässä laitteesta itsestään johtuvaa virhettä kuvataan mukautuvalla autoregressiivisellä prosessilla. Mukautuva prosessi etsii parhaan tavan, jolla mittaustulokset normitetaan standardinäytteiden tuloksiin. Yksittäisten mittaustulosten tiedetään noudattavan Poisson-jakaumaa, joka myös huomioidaan uudessa menetelmässä. Siinä missä otos-pohjaisten menetelmien mittausepävarmuudet heittelevät aiheuttaen virherajojen moninkertaisia ylityksiä, uudessa menetelmässä esitieto virhelähteistä vakauttaa mittausepävarmuudet. Näin tulosten luotettavuus paranee merkittävästi. Myös varsinaisen tuloksen tarkkuus paranee hieman aikaisempiin menetelmiin verrattuna. Lisäksi menetelmä antaa erityisen tarkkoja ja luotettavia tuloksia 1) pienille konsentraatioille, 2) mittauksille joiden välillä on korrelaatioita sekä 3) tapauksille, joissa yhdestä näytteestä voidaan ottaa vain muutamia mittauksia

Bayesian data analysis for Gaussian process tomography

Bayesian inference is used in many scientific areas as a conceptually well-founded data analysis framework. In this paper, we give a brief introduction to Bayesian probability theory and its application to the tomography problem in fusion research by means of a Gaussian process prior. This Gaussian process tomography (GPT) method is used for reconstruction of the local soft X-ray (SXR) emissivity in WEST and EAST based on line-integrated data. By modeling the SXR emissivity field in a poloidal cross-section as a Gaussian process, Bayesian SXR tomography can be carried out in a robust and extremely fast way. Owing to the short execution time of the algorithm, GPT is an important candidate for providing real-time feedback information on impurity transport and for fast MHD control. In addition, the Bayesian formulism allows for uncertainty analysis of the inferred emissivity