Machine Learning-Based Anomaly Detection in Cloud Virtual Machine Resource Usage

Anomaly detection is an important activity in cloud computing systems because it aids in the identification of odd behaviours or actions that may result in software glitch, security breaches, and performance difficulties. Detecting aberrant resource utilization trends in virtual machines is a typical application of anomaly detection in cloud computing (VMs). Currently, the most serious cyber threat is distributed denial-of-service attacks. The afflicted server\u27s resources and internet traffic resources, such as bandwidth and buffer size, are slowed down by restricting the server\u27s capacity to give resources to legitimate customers. To recognize attacks and common occurrences, machine learning techniques such as Quadratic Support Vector Machines (QSVM), Random Forest, and neural network models such as MLP and Autoencoders are employed. Various machine learning algorithms are used on the optimised NSL-KDD dataset to provide an efficient and accurate predictor of network intrusions. In this research, we propose a neural network based model and experiment on various central and spiral rearrangements of the features for distinguishing between different types of attacks and support our approach of better preservation of feature structure with image representations. The results are analysed and compared to existing models and prior research. The outcomes of this study have practical implications for improving the security and performance of cloud computing systems, specifically in the area of identifying and mitigating network intrusions

An optimized quantum minimum searching algorithm with sure-success probability and its experiment simulation with Cirq

Finding a minimum is an essential part of mathematical models, and it plays an important role in some optimization problems. Durr and Hoyer proposed a quantum searching algorithm (DHA), with a certain probability of success, to achieve quadratic speed than classical ones. In this paper, we propose an optimized quantum minimum searching algorithm with sure-success probability, which utilizes Grover-Long searching to implement the optimal exact searching, and the dynamic strategy to reduce the iterations of our algorithm. Besides, we optimize the oracle circuit to reduce the number of gates by the simplified rules. The performance evaluation including the theoretical success rate and computational complexity shows that our algorithm has higher accuracy and efficiency than DHA algorithm. Finally, a simulation experiment based on Cirq is performed to verify its feasibility.Comment: 15 pages, 8 figures. arXiv admin note: text overlap with arXiv:1908.07943 by other author

Investigation of hidden multipolar spin order in frustrated magnets using interpretable machine learning techniques

Frustration gives rise to a plethora of intricate phenomena, the most salient of which are spin liquids, both classical ones—such as the spin-ice phase which has been realized experimentally in rare-earth oxide pyrochlore materials—and their more elusive quantum counterparts. At low temperatures, classical frustrated spin systems may still order, despite their extensive ground-state degeneracy, due to the order-by-disorder phenomenon. The resulting orders are often of a multipolar type which defies conventional probes. Identifying and characterizing such “hidden” orders is thus a challenging endeavor. This thesis introduces a machine-learning framework for studying the phase diagram of classical frustrated spin models in an unbiased and automated way. The interpretability of the resulting classification was of paramount importance in the design of the method. It allows for the inference of both the order parameter tensors of the phases with broken symmetries as well as the constraints which are characteristic of classical spin liquids and signal their emergent gauge structure. On top of that, it establishes a hierarchical relationship among the various phases according to their degree of disorder. The framework is applied to three different models and spin configurations are harvested from classical Monte Carlo simulations of those. A gauge model is used to mimic the interactions between the mesogens of generalized nematics. These may possess arbitrary point group symmetry, resulting in benchmark models with a low-temperature phase that breaks the O(3) spin symmetry accordingly. In addition, two frustrated spin models are considered. The historically important case of the Heisenberg model on the kagome lattice gives rise to hidden triatic order which requires a description in terms of two tensors of different ranks; the machine is capable of finding both. Meanwhile, for the XXZ model on the pyrochlore lattice, the machine reconstructs the complex phase diagram which was only recently obtained and correctly identifies the spin nematic phase as well as three distinct types of classical spin liquids, including their crossovers. The method has the potential to accelerate the characterization of model Hamiltonians of frustrated magnets. It can scrutinize the whole parameter space at once and may thus help to identify interesting regimes, paving the way for the search of new orders and spin liquids.Frustration führt zu einer Fülle komplexer Phänomene, von denen die herausragendsten Spinflüssigkeiten sind, sowohl klassische – wie beispielsweise die Spin-Eis-Phase, die experimentell in den Oxiden seltener Erden auf dem Pyrochlor-Gitter realisiert wurde – und ihre schwerer fassbaren quantenmechanischen Gegenstücke. Bei niedrigen Temperaturen können klassische frustrierte Spinsysteme obgleich der extensiven Entartung des Grundzustandes aufgrund des Phänomens der „Ordnung durch Unordnung“ dennoch Ordnungen ausbilden. Diese sind oft multipolarer Natur und entziehen sich herkömmlichen Messgrößen. Die Identifikation und Charakterisierung solcher „verborgener“ Ordnungen ist daher eine herausfordernde Aufgabe. In dieser Arbeit wird ein Verfahren für das unvoreingenommene und automatisierte maschinelle Lernen der Phasendiagramme klassischer frustrierter Spinmodelle eingeführt. Die Interpretierbarkeit der resultierenden Klassifikatoren war für das Design der Methode ausschlaggebend. Sie erlaubt den Rückschluss sowohl auf die Ordnungsparametertensoren der symmetriebrechenden Phasen als auch auf die Nebenbedingungen, die für klassische Spinflüssigkeiten charakteristisch sind und auf deren emergente Eichstruktur hindeuten. Darüber hinaus wird eine hierarchische Beziehung zwischen den verschiedenen Phasen gemäß dem Grade ihrer jeweiligen Unordnung hergestellt. Das Verfahren wird auf drei verschiedene Modelle angewendet und Spin-Konfigurationen werden jeweils aus klassischen Monte-Carlo-Simulationen dieser gewonnen. Ein Eichmodell dient dazu, die Wechselwirkungen zwischen den Mesogenen verallgemeinerter nematischer Flüssigkristalle nachzuahmen. Diese können beliebige Punktgruppensymmetrien besitzen, was zu Benchmark-Modellen mit einer Niedertemperaturphase führt, die die O(3)-Spinsymmetrie entsprechend herunterbricht. Darüber hinaus werden zwei frustrierte Spinmodelle betrachtet. Der historisch wichtige Fall des Heisenberg-Modells auf dem Kagome-Gitter führt zu einer verborgenen trigonalen Ordnung, die eine Beschreibung in Form von zwei Tensoren unterschiedlichen Ranges erforderlich macht; die Maschine ist in der Lage, beide zu finden. Währenddessen rekonstruiert die Maschine für das XXZ-Modell auf dem Pyrochlor-Gitter das komplexe Phasendiagramm, das erst vor Kurzem ausgearbeitet wurde, und identifiziert die spin-nematische Phase sowie drei verschiedene Arten klassischer Spinflüssigkeiten, einschließlich ihrer Übergänge, korrekt. Die Methode hat das Potenzial, die Charakterisierung von Spinmodellen frustrierter Magnete zu beschleunigen. Sie kann den gesamten Parameterraum auf einmal untersuchen und somit dazu beitragen, interessante Bereiche zu identifizieren. Dies bereitet den Weg für die Suche nach neuen Ordnungen und Spinflüssigkeiten

Investigation of hidden multipolar spin order in frustrated magnets using interpretable machine learning techniques

Frustration gives rise to a plethora of intricate phenomena, the most salient of which are spin liquids, both classical ones—such as the spin-ice phase which has been realized experimentally in rare-earth oxide pyrochlore materials—and their more elusive quantum counterparts. At low temperatures, classical frustrated spin systems may still order, despite their extensive ground-state degeneracy, due to the order-by-disorder phenomenon. The resulting orders are often of a multipolar type which defies conventional probes. Identifying and characterizing such “hidden” orders is thus a challenging endeavor. This thesis introduces a machine-learning framework for studying the phase diagram of classical frustrated spin models in an unbiased and automated way. The interpretability of the resulting classification was of paramount importance in the design of the method. It allows for the inference of both the order parameter tensors of the phases with broken symmetries as well as the constraints which are characteristic of classical spin liquids and signal their emergent gauge structure. On top of that, it establishes a hierarchical relationship among the various phases according to their degree of disorder. The framework is applied to three different models and spin configurations are harvested from classical Monte Carlo simulations of those. A gauge model is used to mimic the interactions between the mesogens of generalized nematics. These may possess arbitrary point group symmetry, resulting in benchmark models with a low-temperature phase that breaks the O(3) spin symmetry accordingly. In addition, two frustrated spin models are considered. The historically important case of the Heisenberg model on the kagome lattice gives rise to hidden triatic order which requires a description in terms of two tensors of different ranks; the machine is capable of finding both. Meanwhile, for the XXZ model on the pyrochlore lattice, the machine reconstructs the complex phase diagram which was only recently obtained and correctly identifies the spin nematic phase as well as three distinct types of classical spin liquids, including their crossovers. The method has the potential to accelerate the characterization of model Hamiltonians of frustrated magnets. It can scrutinize the whole parameter space at once and may thus help to identify interesting regimes, paving the way for the search of new orders and spin liquids.Frustration führt zu einer Fülle komplexer Phänomene, von denen die herausragendsten Spinflüssigkeiten sind, sowohl klassische – wie beispielsweise die Spin-Eis-Phase, die experimentell in den Oxiden seltener Erden auf dem Pyrochlor-Gitter realisiert wurde – und ihre schwerer fassbaren quantenmechanischen Gegenstücke. Bei niedrigen Temperaturen können klassische frustrierte Spinsysteme obgleich der extensiven Entartung des Grundzustandes aufgrund des Phänomens der „Ordnung durch Unordnung“ dennoch Ordnungen ausbilden. Diese sind oft multipolarer Natur und entziehen sich herkömmlichen Messgrößen. Die Identifikation und Charakterisierung solcher „verborgener“ Ordnungen ist daher eine herausfordernde Aufgabe. In dieser Arbeit wird ein Verfahren für das unvoreingenommene und automatisierte maschinelle Lernen der Phasendiagramme klassischer frustrierter Spinmodelle eingeführt. Die Interpretierbarkeit der resultierenden Klassifikatoren war für das Design der Methode ausschlaggebend. Sie erlaubt den Rückschluss sowohl auf die Ordnungsparametertensoren der symmetriebrechenden Phasen als auch auf die Nebenbedingungen, die für klassische Spinflüssigkeiten charakteristisch sind und auf deren emergente Eichstruktur hindeuten. Darüber hinaus wird eine hierarchische Beziehung zwischen den verschiedenen Phasen gemäß dem Grade ihrer jeweiligen Unordnung hergestellt. Das Verfahren wird auf drei verschiedene Modelle angewendet und Spin-Konfigurationen werden jeweils aus klassischen Monte-Carlo-Simulationen dieser gewonnen. Ein Eichmodell dient dazu, die Wechselwirkungen zwischen den Mesogenen verallgemeinerter nematischer Flüssigkristalle nachzuahmen. Diese können beliebige Punktgruppensymmetrien besitzen, was zu Benchmark-Modellen mit einer Niedertemperaturphase führt, die die O(3)-Spinsymmetrie entsprechend herunterbricht. Darüber hinaus werden zwei frustrierte Spinmodelle betrachtet. Der historisch wichtige Fall des Heisenberg-Modells auf dem Kagome-Gitter führt zu einer verborgenen trigonalen Ordnung, die eine Beschreibung in Form von zwei Tensoren unterschiedlichen Ranges erforderlich macht; die Maschine ist in der Lage, beide zu finden. Währenddessen rekonstruiert die Maschine für das XXZ-Modell auf dem Pyrochlor-Gitter das komplexe Phasendiagramm, das erst vor Kurzem ausgearbeitet wurde, und identifiziert die spin-nematische Phase sowie drei verschiedene Arten klassischer Spinflüssigkeiten, einschließlich ihrer Übergänge, korrekt. Die Methode hat das Potenzial, die Charakterisierung von Spinmodellen frustrierter Magnete zu beschleunigen. Sie kann den gesamten Parameterraum auf einmal untersuchen und somit dazu beitragen, interessante Bereiche zu identifizieren. Dies bereitet den Weg für die Suche nach neuen Ordnungen und Spinflüssigkeiten

Efficient Learning Machines

Computer scienc

Machine-Learning and Data Science Techniques in String and Gauge Theories

Techniques from supervised and unsupervised machine learning, along with those from data and network science, are applied to generated datasets of mathematical objects relevant to string and gauge theories. Investigations show success in identifying and learning new structure associated to these objects. Datasets considered in the research work completed for this thesis include: dessins d’enfants, quivers, Hilbert series, amoebae, polytopes, Calabi-Yau manifolds, brane webs, and cluster algebras

A Quantitative Study of Gully Erosion Based on Object-Oriented Analysis Techniques: A Case Study in Beiyanzikou Catchment of Qixia, Shandong, China

This paper took a subregion in a small watershed gully system at Beiyanzikou catchment of Qixia, China, as a study and, using object-orientated image analysis (OBIA), extracted shoulder line of gullies from high spatial resolution digital orthophoto map (DOM) aerial photographs. Next, it proposed an accuracy assessment method based on the adjacent distance between the boundary classified by remote sensing and points measured by RTK-GPS along the shoulder line of gullies. Finally, the original surface was fitted using linear regression in accordance with the elevation of two extracted edges of experimental gullies, named Gully 1 and Gully 2, and the erosion volume was calculated. The results indicate that OBIA can effectively extract information of gullies; average range difference between points field measured along the edge of gullies and classified boundary is 0.3166 m, with variance of 0.2116 m. The erosion area and volume of two gullies are 2141.6250 m2, 5074.1790 m3 and 1316.1250 m2, 1591.5784 m3, respectively. The results of the study provide a new method for the quantitative study of small gully erosion

Investigating generalized Kitaev magnets using machine learning

Frustration in Kitaev-Materialien führt zu einem sehr reichhaltigen und komplexen Phasendiagramm, einschließlich der klassischen Spinflüssigkeitsphase. Die Suche nach und das Verständnis von Spinflüssigkeiten und weiteren neuartigen komplexen Phasen der Materie stehen im Mittelpunkt der heutigen Forschung zu kondensierter Materie. Mittels analytischer Methoden Ordnungsparameter zur Charakterisierung dieser Phasen zu finden, ist nahezu unmöglich. Bei niedrigen Temperaturen ordnen sich die meisten klassischen Spinsysteme in komplizierte Strukturen, die große magnetische Elementarzellen belegen, was die Komplexität des Problems noch weiter erhöht und außerhalb des Anwendungsbereichs der meisten herkömmlichen Methoden liegt. In dieser Arbeit untersuchen wir die Hamilton-Operatoren realitätsnaher Kitaev-Materialien mithilfe maschinellen Lernens. Hauptmerkmale des zugrundeliegenden Algorithmus sind unbeaufsichtigtes Lernen, welches ermöglicht die Topologie eines Phasendiagramms ohne jegliche Vorkenntnisse erforschen, und Interpretierbarkeit, welche zur Analyse der Struktur der klassischen Grundzustände notwendig ist. In den ersten drei Kapiteln werden wir den Algorithmus des maschinellen Lernens auf verschiedene Hamilton-Operatoren anwenden, die zur Modellierung von Kitaev-Materialien eingesetzt werden, um zu untersuchen inwieweit die Quantenmodelle und die experimentellen Beobachtungen allein durch deren klassischen Grenzfall erklärt werden können. Darüber hinaus erforschen wir weitere Features dieses Algorithmus, die es uns ermöglichen, verborgene Symmetrien, lokale Einschränkungen der klassischen Spinflüssigkeiten, sowie bisher unbekannte Phasen im hochdimensionalen Phasenraum aufzudecken. In den letzten beiden Kapiteln werden wir uns mit dem Verständnis der Struktur der klassischen Grundzustände befassen, welche durch die Verflechtung mehrerer Helices charakterisiert sind. Wir werden auch versuchen, die Signatur dieser Phasen in Experimenten zu verstehen, indem wir die Dynamik und den Transport durch Kitaev-Magnete untersuchen. Diese Arbeit beweist die Tauglichkeit von maschinellem Lernen, hochkomplexe Phasendiagramme mit wenig bis gar keinem Vorwissen aufzudecken und hochfrustrierten Magnetismus zu erforschen. Die Kombination aus maschinellem und menschlichem Einsatz ebnet den Weg zu neuen und spannenden physikalischen Erkenntnissen.Bond frustration in Kitaev materials leads to a very rich phase diagram with highly intricate phases including the classical spin liquid phase. The search and understanding of spin liquids and novel complex phases of matter is at the heart pf present day condensed matter research. To search and design order parameters to characterize these phases using analytical approaches is a nearly impossible task. At low temperatures, most of the classical spins order into complicated spin structures occupying large magnetic unit cells which further adds to the complication and is out of the realm of most traditional methods. In this thesis we investigate realistic Kitaev material Hamiltonians using a machine learning framework whose key features, of unsupervised learning which helps us study the topology of the phase diagram without prior knowledge and interpretability which helps us analyse the structure of the classical ground states, are exploited. In the first three chapters, we shall use this framework on different Hamiltonians used to model Kitaev materials and understand to what extent the quantum limit and experimental results could be explained just by the classical limit of these models. We in addition explore other features of this framework which lets us uncover hidden symmetries as well as local constraints for the classical spin liquids and hitherto unreported new phases in the high dimensional phase space. In the last two chapters we shall dwell on the understanding the structure of the classical ground states which is quite complicated as it hosts a tangle of multiple helices. We shall also try and understand the signature of these phases on experiments by studying the dynamics and transport through Kitaev magnets thus bridging the gap between experiment and theory. This thesis proves instances of using machine learning to uncover highly complex phase diagrams with little to no previous knowledge and serve as a paradigm to explore highly frustrated magnetism. Through a combination of machine and human effort we are on the way to uncover new and exciting physics

Combined optimization algorithms applied to pattern classification

Accurate classification by minimizing the error on test samples is the main goal in pattern classification. Combinatorial optimization is a well-known method for solving minimization problems, however, only a few examples of classifiers axe described in the literature where combinatorial optimization is used in pattern classification. Recently, there has been a growing interest in combining classifiers and improving the consensus of results for a greater accuracy. In the light of the "No Ree Lunch Theorems", we analyse the combination of simulated annealing, a powerful combinatorial optimization method that produces high quality results, with the classical perceptron algorithm. This combination is called LSA machine. Our analysis aims at finding paradigms for problem-dependent parameter settings that ensure high classifica, tion results. Our computational experiments on a large number of benchmark problems lead to results that either outperform or axe at least competitive to results published in the literature. Apart from paxameter settings, our analysis focuses on a difficult problem in computation theory, namely the network complexity problem. The depth vs size problem of neural networks is one of the hardest problems in theoretical computing, with very little progress over the past decades. In order to investigate this problem, we introduce a new recursive learning method for training hidden layers in constant depth circuits. Our findings make contributions to a) the field of Machine Learning, as the proposed method is applicable in training feedforward neural networks, and to b) the field of circuit complexity by proposing an upper bound for the number of hidden units sufficient to achieve a high classification rate. One of the major findings of our research is that the size of the network can be bounded by the input size of the problem and an approximate upper bound of 8 + √2n/n threshold gates as being sufficient for a small error rate, where n := log/SL and SL is the training set