Searches for continuous gravitational waves : sensitivity estimation and deep learning as a novel search method

The first direct detections of gravitational waves from merging black holes and neutron stars started the era of gravitational-wave astronomy. Since then, observing merging compact objects has become routine. Other exciting sources still remain undetected. Rapidly-rotating neutron stars are predicted to emit weak, long-lasting quasi-monochromatic waves called continuous gravitational waves (CWs). In the current detector generation, advanced LIGO and Virgo, various noise sources create far more signal output than a potential CW signal. CW data analysis tries to overcome the weakness of the signals by integrating over long stretches of data. Analyzing large amounts of data usually corresponds to large computing cost. For that reason, CW searches for signals from unknown neutron stars are limited in their sensitivity by computational cost. This thesis is concerned with estimating and improving the sensitivity of continuous gravita- tional wave searches. The first main research work presented in this thesis is a new sensitivity estimator that can swiftly and accurately predict the sensitivity of a CW search before it is started. This makes optimizing the search algorithms and therefore improving the sensitivity easier. The accuracy of the estimator is studied by applying it to many different CW searches. The work is expanded with an extensive sensitivity review of past CW searches by calculating their sensitivity depth. The second main part of this thesis is the development of a new CW search method based on deep neural networks (DNNs). DNNs are extremely fast once trained and therefore might present an interesting possibility of circumventing the computational limitations and creating a more sensitive CW search. In this thesis such a DNN CW search is developed first as a single-detector search for signals from all over the sky and then expanded to a multi-detector all-sky search and to directed multi-detector searches for signals from a single position in the sky. The DNNs’ performance is compared to coherent matched-filtering searches in terms of detection probability at fixed false-alarm level first on idealized Gaussian noise and then on realistic LIGO detector noise. This thesis finds that the DNNs show a lot of potential: For short timespans of about one day the networks only lose a few percent in sensitivity depth compared to coherent matched- filtering. For longer timespans the networks’ performance gradually deteriorates making further research necessary. As an outlook to future research, this thesis proposes the combination of short-timespan network outputs, similar to semi-coherent matched-filtering, as a DNN search method over longer timespans.Die ersten direkten Detektionen von Gravitationswellen von verschmelzenden Schwarzen Löchern und Neutronensternen haben die Ära der Gravitationswellenastronomie eingeläutet. Seitdem ist die Beobachtung von verschmelzenden kompakten Objekten zur Routine geworden. Andere interessante Quellen von Gravitationswellen sind jedoch noch unentdeckt. Schnell rotierende Neutronensterne können schwache, langanhaltende quasi-monochromatische Wellen aussenden, genannt Kontinuierliche Gravitationswellen (engl.: continuous waves CWs). In der aktuellen Detektorgeneration, advanced LIGO und Virgo, wird mehr Detektoroutput durch diverse Rauschquellen erzeugt als durch potenzielle CW Signale. Die Datenanalyse für CWs versucht die Schwäche der Signale zu überwinden, indem die Daten über lange Zeitspan- nen integriert werden. Große Mengen von Daten zu analysieren ist jedoch für gewöhnlich mit großen Ansprüchen an die Rechenleistung verbunden. Deshalb sind Suchen nach CWs von un- bekannten Neutronensternen in ihrer Empfindlichkeit limitiert durch die begrenzt vorhandene Rechenleistung. Diese Doktorarbeit beschäftigt sich mit dem Abschätzen und Verbessern der Empfindlichkeit von Suchen nach Kontinuierlichen Gravitationswellen. Das erste Hauptforschungsergebnis dieser Arbeit ist ein neuartiger Abschätzer, der die Empfindlichkeit einer CW-Suche schnell und genau vorhersagen kann bevor die Suche gestartet wird. Dies vereinfacht die Verbesserung der Suchal- gorithmen und kann deshalb zu empfindlicheren Suchen führen. Die Genauigkeit des Abschätzers wird anhand von vielen verschiedenen CW-Suchen untersucht. Die Untersuchung wird ergänzt durch eine ausführliche Studie der Empfindlichkeit von vergangenen CW-Suchen. Dazu wird deren Empfindlichkeit in die gemeinsame Größe der Empfindlichkeitstiefe (engl.: sensitivity depth) umgerechnet. Das zweite Hauptforschungsergebnis dieser Dissertation ist eine neuartige CW-Suchmethode mit Hilfe von tiefen neuronalen Netzwerken (engl.: deep neural networks, DNNs). Fertig trainierte DNNs können extrem schnell angewendet werden und stellen deshalb eine interes- sante Art und Weise dar, wie möglicherweise mit der Limitierung durch fehlende Rechenleistung umgegangen und eine empfindlichere Suche konstruiert werden kann. In dieser Arbeit wird eine solche DNN nutzende CW-Suchmethode präsentiert: zuerst als Suche mit Daten von einem einzigen Detektor nach Signalen vom gesamten Himmel und dann erweitert zu Suchen mit Daten von mehreren Detektoren nach Signalen vom gesamten Himmel oder nach Signalen von einer speziellen Himmelsposition. Die Leistungsfähigkeit der DNNs wird dabei verglichen mit kohärenten Optimalfiltermethoden im Hinblick auf ihre Detektionswahrscheinlichkeit bei festem Fehlalarmniveau. Diese Arbeit zeigt das diesbezüglich große Potential von DNNs: Bei der Analyse von kurzen Zeitspannen von etwa einem Tag verliert das Netwerk nur wenige Prozent in Empfindlichkeitstiefe gegenüber kohärenten Optimalfiltermethoden. Für längere Zeitspannen nimmt die Leistungsfähigkeit der Netzwerke im Vergleich jedoch nach und nach ab. An dieser Stelle wird deshalb weitere Forschungsarbeit benötigt um die Leistungsfähigkeit der DNNs zu verbessern. Ein Ansatz, der in dieser Arbeit für zukünftige Forschung vorgeschlagen wird, ist die Kombination von Ergebnissen, die Netzwerke auf kurzen Zeitspannen erreicht haben, als Ergebnis für längere Zeitspannen zu nutzen. Dieser Ansatz ist ähnlich zum semi-kohärenten Optimalfilter, der in klassischen CW-Suchen benutzt wird

DNN-Based Source Enhancement to Increase Objective Sound Quality Assessment Score

We propose a training method for deep neural network (DNN)-based source enhancement to increase objective sound quality assessment (OSQA) scores such as the perceptual evaluation of speech quality (PESQ). In many conventional studies, DNNs have been used as a mapping function to estimate time-frequency masks and trained to minimize an analytically tractable objective function such as the mean squared error (MSE). Since OSQA scores have been used widely for soundquality evaluation, constructing DNNs to increase OSQA scores would be better than using the minimum-MSE to create highquality output signals. However, since most OSQA scores are not analytically tractable, i.e., they are black boxes, the gradient of the objective function cannot be calculated by simply applying back-propagation. To calculate the gradient of the OSQA-based objective function, we formulated a DNN optimization scheme on the basis of black-box optimization, which is used for training a computer that plays a game. For a black-box-optimization scheme, we adopt the policy gradient method for calculating the gradient on the basis of a sampling algorithm. To simulate output signals using the sampling algorithm, DNNs are used to estimate the probability-density function of the output signals that maximize OSQA scores. The OSQA scores are calculated from the simulated output signals, and the DNNs are trained to increase the probability of generating the simulated output signals that achieve high OSQA scores. Through several experiments, we found that OSQA scores significantly increased by applying the proposed method, even though the MSE was not minimized