Convolutional neural networks in space weather predictions

Abstract

Abstract. Our modern life on Earth is vulnerable to the effects of space weather, as it can for example disturb our satellites. Thus being able to predict the electric currents flowing in the near-Earth space is of importance. However, while the large scale features of these currents are known, their small scale behaviour can be harder to predict. In this thesis two different convolutional neural network architectures are implemented to predict ionospheric currents from time-series input. Convolutional neural networks are a special case of artificial neural networks, a machine learning approach capable of learning complicated features from the input data. In this thesis a brief introduction to the current systems in the near-Earth space and the fundamental forces behind them is given. In addition to this the theory of artificial neural networks is introduced, with a special interest in convolutional neural networks. The first one of the two implemented neural networks is ResNet, utilising so called residual learning and ending in a linear layer. The other network is U-Net, a fully-convolutional encoder-decoder architecture investigating the input at multiple resolutions. Both architectures are capable of predicting the behaviour of the ionospheric currents, but tend to underestimate the strength of the largest currents. It also appears that U-Net creates too strong spatial dependency between the components of the input resulting in overly smooth predictions. This indicates the importance of the final fully-connected layer.Konvoluutioneuroverkkojen käyttö avaruussään ennustamisessa . Tiivistelmä. Nykyaikainen elämämme maapallolla on haavoittuvainen avaruussään vaikutuksille. Myrskyinen avaruussää voi muun muuassa aiheuttaa häiriötä satelliittiliikenteeseemme, ja siksi Maan lähiavaruuden sähkövirtojen ennustaminen on tärkeää. Vaikka virtojen yleiset piirteet ovat tiedossa, niiden pienemmän skaalan käyttäytymisen ennustaminen voi olla hankalaa. Tässä pro gradu -tutkielmassa toteutetaan kaksi erilaista konvoluutioneuroverkkoa ennustamaan ionosfäärin sähkövirtojen käyttäytymistä aikasarjan pohjalta. Konvoluutioneuroverkot ovat erikoistapaus keinotekoisista neuroverkoista, koneoppimismenetelmistä, jotka kykenevät oppimaan hyvinkin monimutkaisia piirteitä saamastaan syötteestä. Tässä tutkielmassa tutustutaan lyhyesti Maan lähiavaruuden sähkövirtoihin ja niiden takana vaikuttaviin perusvoimiin. Tämän lisäksi käydään läpineuroverkkojen teoriaa ja keskitytään erityisesti konvoluutioneuroverkkoihin. Ennustamiseen käytetyistä arkkitehtuureista ensimmäinen on ResNet, joka hyödyntää niin kutsuttua residuaalista oppimista ja päättyy täysin kytkettyyn kerrokseen. Toinen arkkitehtuuri on U-Net, niin sanottu enkoodaus- dekoodaus arkkitehtuuri, joka käsittelee saamaansa syötettä usealla resoluutiolla ja päättyy konvoluutiokerrokseen. Molemmat arkkitehtuurit osoittautuvat kykeniviksi ennustamaan ionosfäärivirtojen käyttätymistä, joskin ennusteissa esiintyy virtojen voimakkuuden aliarviointia. Lisäksi vaikuttaa siltä, että U-Net muodostaa liian vahvan avaruudellisen riippuvuuden syötteen yksittäisten elementtien välille, mikä näkyy ResNetin ennusteita sileämpinä tulosteina ja viittaisi viimeisen täysin kytketyn kerroksen tärkeyteen

    Similar works