Application of Neural Networks in Adaptive Flight Control Systems

Die vorliegende Arbeit stellt einen Beitrag zur Einbindung künstlicher neuronaler Netzwerke in adaptive Regelungssysteme dar. Neben den Grundlagen zur Abbildung dynamischer Prozesse mit neuronalen Netzen wird eine strukturierte Methodik des Netzwerkentwurfes dargestellt, die eine statistische Bewertung des Lernerfolges ermöglicht. Darüber hinaus wird eine Klasse regelungstechnisch motivierter Lernverfahren vorgestellt, welche neuronale Netze als dynamische Systeme aufgefasst, womit das Lernen innerhalb eines Netzwerkes als geregelter Prozess betrachtet werden kann. Dies erlaubt die Anwendung der Gleitzustandsregelung auf neuronale Lernverfahren, welche so um eine intrinsische Stabilitätsbedingung erweitert werden können. Durch die dynamische Bestimmung der Lernraten vermag dieser Lernansatz die Zustände eines neuronalen Netzes in den global asymptotisch stabilen Gleitzustand zu überführen. Die praktische Bedeutung dieses Lernverfahrens wird am Beispiel zweier Regelungsstrategien dargestellt: Der modellfreien neuronalen Regelung und der neuronal gestützten dynamischen Inversion. Die Ergebnisse beider Regelungsverfahren unterstreichen die robusten Eigenschaften neuronaler Netze zur Abbildung komplexer dynamischer Prozesse. Es zeigen sich besondere Vorteile bei der Kombination von dynamischer Inversion und neuronalen Netzwerken, die mit dem Gleitzustandslernverfahren trainiert werden. Dies liegt darin begründet, dass die Überführung der Zustandsgrößen des Netzes in den Gleitzustand eine stabilisierende Wirkung auf die Fehlerdynamik des Regelkreises besitzt. Am Beispiel eines beschädigten unbemannten Flugzeuges zeigt sich, dass dieses Verfahren wegen seiner dynamischen Bestimmung der Lernrate eine höhere Konvergenzgeschwindigkeit als vergleichbare etablierte Ansätze aufweist. Die Ergebnisse unterstreichen die Vorzüge der Kombination von klassischer Regelungstechnik und Maschinenlernverfahren bei der Auslegung komplexer Regelungssysteme.The present work makes a contribution to the integration of artificial neural networks into adaptive control systems. Besides the basic principles of mapping dynamic processes using neural networks, a structured methodology for the network design is illustrated, which allows a statistical evaluation of the learning success. In addition, to allow for an improved transparency of neural networks used in control systems a paradigm change regarding their learning methods is undertaken. This means that a neural network is treated as a dynamic system whereby the learning within such a network becomes a controlled process. Therefore, the application of sliding mode control to learning techniques of neural networks is possible, which thereby can be augmented with an intrinsic stability condition. Through the dynamic calculation of the learning rate this approach is able to constrain the network’s states into the globally asymptotically stable sliding mode. The practical relevance of this learning method is illustrated utilising two control strategies: the indirect adaptive neuro-control and the nonlinear dynamic inversion. The results of both control methods underline the robust capabilities of neural networks to map complex dynamic processes. Furthermore, particular advantages arise from the combination of dynamic inversion and neural networks trained with the sliding mode learning method. This is the case because constraining the network’s states to the sliding mode offers an enhanced stabilising effect upon the error dynamics of the closed-loop control system. Using the example of a damaged unmanned aircraft under perturbation it is shown, that the sliding mode learning technique due to the dynamic calculation of the learning rate offers a higher speed of convergence than comparable established methods. The results emphasise the advantages of the combination of control theory and machine learning techniques for the design of complex control systems

Zur Theorie künstlicher neuronaler Netze

Zur Theorie künstlicher neuronaler Netze wird aus vier Gebieten beigetragen: der Informatik mit einem neuen Lernverfahren (stabile Parameteradaption), der Mathematik mit der Analyse der Struktur des Gewichtungsraums, der Statistik mit einem neuen Schätzer für die Güte von Netzen (Clustered bootstrap) und der Physik mit effizienten Lern- und Schliesalgorithmen für dezimierbare Boltzmann-Maschinen. Es werden Abbildungsnetze definiert, deren Kettenregel abgeleitet und in mehrere berechtigte algorithmische Varianten gefast, Backpropagation-Netze definiert, der Backpropagation-Algorithmus in einer möglichst allgemeinen Fassung dargestellt und demonstriert, wie dieser Rahmen auch auf rekurrente Netze angewendet werden kann. Die Grenzen der Methode des Gradientenabstiegs werden aufgezeigt und bekannte alternative Verfahren kritisch dargestellt. Ausgehend davon wird unter den Gesichts- punkten Effizienz und Stabilität eine Klasse neuer miteinander verwandter Optimierungsalgorithmen entwickelt, deren theoretische Leistungsfähigkeit von einem Beweis der Konvergenz erster Ordnung abgesichert wird. Es ist möglich, Zweite-Ordnung-Information in das neue Verfahren einfliesen zu lassen. Empirische Vergleiche unter- mauern dessen Effizienz. Die Grenzen von Optimierungsverfahren werden diskutiert. Danach wird Lernen in neuronalen Netzen als statistisches Schätzproblem aufgefast. Die Güte der Schätzung kann mit bekannten statistischen Verfahren berechnet wer- den. Es wird nachgewiesen, das durch Unzulänglichkeiten neuronalen Lernens die Angaben zur Güte nicht robust oder zu ungenau sind. Das Bestreben, diese Unzulänglichkeiten herauszufiltern, führt auf eine neue theoretische Sichtweise des Gewichtungsraums. Er mus in natürlicher Weise als Mannigfaltigkeit verstanden werden. Es zeigt sich, das die Berechnung der kanonischen Metrik im Gewichtungsraum NP-hart ist. Zugleich wird nachgewiesen, das eine effiziente Approximation der Metrik möglich ist. Damit ist es möglich, Lernergebnisse im Gewichtungsraum zu clustern und zu visualisieren. Als eine weitere Anwendung dieser Theorie wird ein robustes Verfahren der Modellauswahl vorgestellt und an einem Beispiel vorgeführt. Schlieslich kann auch das im vorigen Absatz gestellte Problem durch ein neues Verfahren gelöst werden. Die physikalisch motivierte Boltzmann-Maschine wird dargestellt, und es wird argumentiert, warum hier das Schliesen NP-hart ist. Dies motiviert eine Beschr¨ankung auf die genügend interessante Klasse der dezimierbaren Boltzmann-Maschinen. Eine neue Dezimierungsregel wird eingef¨uhrt und gezeigt, das es keine weiteren gibt. Dezimierbare Boltzmann-Maschinen werden mit Mitteln der Wahrscheinlichkeitstheorie studiert und effiziente Lernalgorithmen vorgeschlagen. Die Gewichtungsraumstruktur kann auch hier erfolgreich ausgenutzt werden, was eine Anwendung demonstriert

Entwicklung einer Klassifikationsmethode zur akustischen Analyse fortlaufender Sprache unterschiedlicher Stimmgüte mittels Neuronaler Netze und deren Anwendung

Die akustische Analyse fortlaufender Sprache stellt bei der Beschreibung von Stimmstörungen eine wesentliche Erweiterung zur Analyse gehaltener Phonation dar. Zur Selektion stimmhafter Phoneme aus fortlaufender Sprache ist eine Klassifikationsmethode (vup) entwickelt worden, die eine Segmentierung des Sprachsignals in zusammenhängende Bereiche stimmhafter und stimmloser Phonation sowie Pause mittels Neuronaler Netze (Multi-Layer Perceptron) ermöglicht. Auf Basis dieser Klassifikation ist das Göttinger Heiserkeits-Diagramm für fortlaufende Sprache (GHDT) in Anlehnung an das Göttinger Heiserkeits-Diagramm für gehaltene Phonation (GHD) entwickelt worden

Nonlinear Adaptive Control with Neural Networks in Unmanned Flight Experiments

Die vorliegende Arbeit stellt einen Beitrag zur praktischen Anwendung adaptiver nichtlinearer Regler in unbemannten Flugzeugen dar. Dabei wird die erstmalige Flugerprobung eines nichtlinearen adaptiven Reglers in Form der dynamischen Inversion mit Sliding-Mode-Control trainierten neuronalen Netzen auf einem sequentiellen Smartphone-Prozessor betrachtet. Neben dem nichtlinearen Regler kommt ein Kalman Filter und ein Bahnregler zum Einsatz, um ein automatisches Abfliegen einer Flugbahn zu ermöglichen. Das wiederholte Abfliegen der Flugbahn ermöglicht den Vergleich zwischen einer konservativen, nichtlinearen und nichtlinearen adaptiven Regelungstechnik. Um einen Vergleich zwischen dem nichtlinearen Regler mit und ohne adaptive Elemente zu ermöglichen, wird zudem mit dem Reference-Control-Hedging eine Variation des bekannten Pseudo-Control-Hedging vorgestellt. Diese, auf einem Echtzeitbetriebssystem laufenden und mit Autocode-Verfahren programmierten Algorithmen, werden neben deren Verhalten im Flugversuch auch im Hinblick auf Ressourcenverbrauch und Verzögerungen untersucht. Die Verwendung von Autocode-Verfahren erlaubt eine schnelle Implementierung der Algorithmen direkt aus einem digitalen, auf Piktogrammen basierten Schaltplan. Die Vermutung, dass diese Implementierungstechnik die Entwicklungsgeschwindigkeiten im Rahmen von Regler- und Navigations-Prototypenversuchen beschleunigen können, wird durch die Betrachtung der Geschichte der Implementierung bekräftigt. Die Untersuchungen erlauben eine Abschätzung des Potenzials adaptiver Regler- Navigations-Strukturen und der nötigen bzw. verfügbaren Ressourcen moderner Smartphone-Prozessoren. Die Ergebnisse der Flugversuche bestätigen die in der Simulation vorhergesagten Fähigkeiten der adaptiven Strukturen. Gleichzeitig wird mit der Vielzahl an verfügbaren Algorithmen und deren Rekombinationsmöglichkeiten und der direkten Implementierbarkeit aus einem digitalen Schaltplan deutlich: Die Vereinheitlichung der Flugexperimente und der Paradigmenwechsel des Regelungstechnikers vom Programmierer hin zum Designer, kann die Vergleichbarkeit verbessern und bietet die Möglichkeit, das Potenzial der Rekombinationsmöglichkeiten auf einer neuen Implementierungsebene auszuschöpfen.The present work is a contribution to the practical application of an adaptive nonlinear controller in unmanned aircraft. In this case the first time flight testing of a nonlinear adaptive controller is considered in the form of dynamic inversion with Sliding-Mode-Control trained neural networks on a sequential smartphone processor. In addition to the nonlinear controller, a Kalman filter and a path controller is used to enable an automatic trajectory following. The repeated flying of the flight path allows the comparison between a conservative, a nonlinear and a nonlinear adaptive control technique. In order to allow a comparison between the nonlinear controller with and without adaptive elements, Reference-Control-Hedging as a variation of the well known Pseudo-Control-Hedging is presented. These algorithms, running on a real-time operating system and programmed with autocode, are studied alongside their behavior in flight tests, in terms of resource consumption and delays. The used autocode-method allows a fast implementation of the algorithms directly from a digital schematic diagram, which is based on pictograms. The assumption, that this implementation technique can accelerate the speed of development in the context of controller and navigation prototype testing, is strengthen by looking at the history of implementation. The studies allow an estimate of the potential of adaptive controller-navigation structures and the necessary and available resources of modern smartphone processors. The results of the flight tests confirm the capabilities of adaptive structures, which have been predicted in simulations. The number of available algorithms and their recombination possibilities and the possibility of direct implementability from a digital schematic diagram shows: The standardization of flight experiments can improve the comparability of the results. Combined with the paradigm shift of the control engineer, from a programmer to a designer, this new implementation level can make the recombination possibilities explorable

Konvolutionäre neuronale Netze in der industriellen Bildverarbeitung und Robotik

In the first part of this dissertation, a framework for the design of a CNN for FPGAs is presented, consisting of a preprocessing algorithm, an augmentation technique, a custom quantization scheme and a pruning step of the CNN. The combination of conventional image processing with neural networks is shown in the second part by an example from robotics, where an image-based visual servoing process is successfully conducted for a gripping process of a robot

Chemometrie in der NMR-Spektroskopie - Signalanalyse mittels neuronaler Netze

Das nichtlineare Übertragungsfunktional eines NMR-Spinsystems wird durch ein neuronales Netz approximiert (NN-NMR). Neue Netzwerktopologien und Trainingsalgorithmen werden auf ihre Tauglichkeit für die NN-NMR überprüft. Die Integration von bekannten 1D-Resonanzfrequenzen ins Netztraining erlaubt eine direkte Analyse von Spinkonnektivitäten in Form von Tabellenwerten. Mit Hilfe der NN-NMR können bereits während des Messprozesses Strukturisomere für eine gegebene Bruttoformel ausgeschlossen werden.The nonlinear transfer functional of a NMR spin system is approximated by a neural network (NN-NMR). New network topologies and training algorithms have been tested for their suitability in NN-NMR. The integration of known 1D resonance-frequencies in the network training allows direct analysis of spin connectivities in tabular form. With the help of NN-NMR it is possible to exclude structure isomers for a given chemical formula during the measuring process

Sliding-Mode-Lernverfahren für neuronale Netzwerke in adaptiven Regelungssystemen

Die vorliegende Arbeit stellt einen Beitrag zur Nutzung von Online-trainierten neuronalen Netzwerken in sicherheitskritischen Regelungssystemen dar. Indem der Trainingsfehler und dessen Ableitung durch die vorgestellten Verfahren in eine stabile Ruhelage gezwungen werden, ist es möglich das Konvergenzverhalten des Netzwerks gezielt zu beeinflussen. Als Resultat dessen, kann das oftmals als Black-Box empfundene Netzwerktraining gegenüber klassischen Methoden transparenter gestaltet werden. Grundlage der vorgestellten Lernverfahren ist die Übertragung ausgewählter Sliding- Mode-Control-Konzepte erster und zweiter Ordnung auf das Training neuronaler Netzwerke. Durch die Verwendung der diesen Ansätzen zu Grunde liegenden Stabilitätsbedingungen, kann für die dargestellten Trainingsverfahren eine dynamische Berechnung der Lernrate umgesetzt werden. Die auf dieseWeise realisierbare Überführung der Netzwerkzustände in den asymptotisch stabilen Gleitzustand wird anhand ausgewählter Trainingsbeispiele demonstriert und hinsichtlich des Konvergenzverhaltens in Abhängigkeit eingeführter Stabilitätsparameter untersucht. Anwendung im Kontext der adaptiven Regelung sicherheitskritischer Systeme finden die dargestellten Trainingsverfahren als Teil einer nichtlinearen dynamischen Inversionsregelung. Zur Darstellung der generischen Natur der entwickelten Verfahren werden dabei sowohl ein Flug- als auch ein Fahrzeugregler mit Erweiterung um neuronale Netzwerke umgesetzt und in nichtlinearen Simulationen untersucht. Dabei unterstreichen die Ergebnisse sowohl die im Vergleich zu etablierten Ansätzen erhöhte Konvergenzgeschwindigkeit, als auch die gestiegene Robustheit gegenüber Parameterunsicherheiten und Systemschäden. In besondereWeise kann die vereinfachte Anwendbarkeit von neuronalen Netzwerken mit Verwendung der entwickelten Lernverfahren, durch die direkte Übertragbarkeit der Trainingsparameter zwischen den beiden vorgestellten Regelungsanwendungen, gezeigt werden. Darüber hinaus demonstrieren praktische Fahrversuche die Relevanz von adaptiven Regelungssystemen für den Ausgleich auftretender Systemfehler. Dabei wird durch die Untersuchung des Sliding-Mode-Lernverfahrens sowie dem Vergleich des Inversionsreglers mit einem nicht lernfähigen Regelungskonzept der Vorteil von schnellen und robust trainierten neuronalen Netzwerken unterstrichen.The present thesis makes a contribution to the use of online-trained neural networks in safety critical control systems. By forcing the training error and its derivation into the stable point of origin, it is possible to directley influence the convergence behavior of the network. As a result, the network training often perceived as black box can be made more transparent compared to classical methods. The basis of the presented learning methods is the transfer of selected first and second order sliding mode control concepts to the training of neural networks. Through the use of the intrinsic stability conditions, a dynamic calculation of the learning rate can be implemented for the presented training methods. The transition of the network states into the asymptotically stable sliding mode is demonstrated by means of selected training examples and examined with respect to the convergence behavior as a function of the introduced stability parameters. Applied in the context of the adaptive control of safety-critical systems, the presented training methods become part of a non-linear dynamic inversion controller. To illustrate the generic nature of the developed methods, both a flight controller and a vehicle controller with extension of neural networks are implemented and tested in non-linear simulations. The results underline the increased speed of convergence as compared to established approaches as well as the increased robustness against parameter uncertainties and system failures. In particular, the simplified applicability of neural networks using the developed learning methods can be demonstrated. Due to the direct transferability of the training parameters between the two control applications presented, a time-consuming empirical determination of the learning rate can be avoided. In addition, practical driving tests demonstrate the relevance of adaptive control systems for the compensation of system errors. The advantage of fast and robustly trained neural networks is underlined by the study of the sliding mode learning method and the comparison of the inversion controller with a non-adaptive control concept

Zur Abschätzung elastisch-plastischer Beanspruchungszustände mit analytischen Modellen und Methoden des Maschinellen Lernens

Festigkeitsnachweise für schwingend beanspruchte Bauteile erfordern neben der Kenntnis der Festigkeitskenngrößen vor allem auch die Kenntnis der aufgebrachten Beanspruchung. Das sogenannte Örtliche Konzept verwendet zur Lebensdauerabschätzung von Bauteilen den Verlauf des örtlichen elastisch-plastischen Beanspruchungszustandes in Form von Dehnungen und der dazu zugehörigen Spannungen. Wesentliche Herausforderung hierbei ist, dass der Verlauf des örtlichen Beanspruchungszustands aufgrund der Plastizität nichtlinear von dem Verlauf der aufgebrachten Lasten abhängt. Im Fall von einachsigen und mehrachsig proportionalen Beanspruchungen kann der lokale elastisch-plastische Beanspruchungszustand aus einem elastizitätstheoretischen Beanspruchungszustand geschätzt werden. Diese Abschätzung kann prinzipiell durch die Verwendung von analytischen Näherungsgleichungen, auch Kerbnäherungen genannt, oder durch die Verwendung von elastisch-plastischer Finite-Elemente-Berechnungen (FE) erfolgen. Die FE-Rechnung ist prinzipiell die treffsichere Variante. Allerdings sind so umfangreiche Rechenressourcen erforderlich, dass dieser Weg in der Anwendung, insbesondere wenn es um die vergleichende Betrachtung mehrerer Konstruktionsvarianten geht, vermieden wird. In dieser Arbeit werden daher die gängigen analytischen Kerbnäherungsansätze untersucht. Hierbei werden die wesentlichen Schwächen in Bezug auf die Treffsicherheit der einfachen Ansätze und in Bezug des Aufwands der erweiterten Ansätze herausgestellt. Als Lösungsmöglichkeit die bestehende Lücke aus den einfachen weniger treffsicheren Ansätzen und den rechnerisch sehr aufwendigen treffsicheren Ansätzen zu schließen, werden in dieser Arbeit die Methoden des Maschinellen Lernens und im Speziellen die Künstlich Neuronalen Netze (KNN) vorgestellt. Die KNN werden auf Trainingsdaten aus FE-Rechnungen mit elastischen und elastischplastischen Materialverhalten an einfachen Kerbgeometrien trainiert. Ergänzt wird der Trainingsdatensatz um über Abschätzformeln erzeugte őktive Beispiele. Um eine sichere Anwendung auch außerhalb des über Trainingsdaten abgedeckten Parameterraums zu ermöglichen, werden außerdem werkstoffmechanische Grenzfälle analysiert, die die Abschätzung des KNN ggf. korrigieren. Der Erfolg des Trainings wird an komplexen Geometrien, die sich deutlich von denen aus der Trainingsdatenbasis unterscheiden, überprüft. Wesentliche Erkenntnis ist, dass die KNN über einen weiten Bereich die Treffsicherheit der einfachen Kerbnäherungen übertreffen. Außerdem ist in den meisten Fällen die Treffsicherheit vergleichbar mit den erweiterten Ansätzen. Die KNN bieten daher einen guten Kompromiss aus Treffsicherheit und zeitlicher Effizienz. Zur praktischen Anwendung liegt das im Rahmen dieser Arbeit trainierte KNN mit allen erforderlichen Parametern vor, sodass eine Integration in Rechnerprogramme mit wenig Aufwand erfolgen kann.Strength verifications for components subjected to fatigue loading primarily require knowledge of the applied stress in addition to knowledge of the strength parameters. The local strain approach uses the path of the local elastic-plastic stress state represented by strains and the associated stresses to estimate the service life of components. The major challenge involved in this process is that the local stress state depends non-linearly on the applied loads due to the plasticity of the material. In the case of uniaxial and multi-axial proportional loads, the local elastic-plastic stress state can be estimated from an elasticity-theoretical stress state. In principle, this estimation can be done by using analytical approximate equations, also called notch root approximations, or by using elastic-plastic finite element (FE) calculations. The FE calculation is in principle the more accurate variant. However required computational resources are so extensive that this approach is avoided in practice, especially when it comes to the comparative consideration of several design variants. In this work, therefore, the common analytical notch root approximation approaches are analysed. The main shortcomings with regard to the accuracy of the simple approaches and with regard to the overhead of the extended approaches are highlighted. To close this gap between the simple, less accurate approaches and the computationally very demanding accurate approaches, the methods of machine learning and, in particular, artificial neural networks (ANNs) are presented in this thesis. The ANNs are trained on training data from FE calculations with elastic and elastic-plastic material behaviour on simple notch geometries. The training data set is supplemented by fictitious examples generated via estimation formulas. In order to enable a safe application outside the parameter space covered by the training data, material-mechanical boundary cases are also evaluated, which if necessary correct the estimation of the ANN. The success of the training is tested on complex geometries that differ significantly from those contained in the training database. The main finding is that the ANN outperforms the accuracy of the simple notch approximations over a wide range. Furthermore, in most cases the accuracy is comparable to the extended approaches. Therefore, the ANNs offer an excellent balance between accuracy and computational efficiency. For practical application, the ANN trained within the scope of this work is available with all the necessary parameters, so that implementation in software can be carried out with little effort

Konvolutionäre neuronale Netze in der industriellen Bildverarbeitung und Robotik

In the first part of this dissertation, a framework for the design of a CNN for FPGAs is presented, consisting of a preprocessing algorithm, an augmentation technique, a custom quantization scheme and a pruning step of the CNN. The combination of conventional image processing with neural networks is shown in the second part by an example from robotics, where an image-based visual servoing process is successfully conducted for a gripping process of a robot