Neuroevolution Principles and Applications

Práce se na teoretické úrovni zabývá evolučními algoritmy (EA), neuronovými sítěmi (NN) a jejich syntézou v podobě neuroevoluce. Z praktického hlediska je cílem práce ukázat uplatnění neuroevoluce na dvou odlišných úlohách. První úloha spočívá v evolučním návrhu architektury konvoluční neuronové sítě (CNN), která by dokázala klasifikovat s vysokou přesností ručně psané číslice (z datasetu MNIST). Druhá úloha spočívá v evoluční optimalizaci vah neurokontroléru, který řídí přistání 1. stupně rakety Falcon 9 ve 2D simulaci. Obě úlohy jsou výpočetně velmi náročné a proto byly řešeny na superpočítači. V rámci první úlohy se podařilo navrhnout takové architektury, které při správném natrénování dosahují přesnosti klasifikace 99,49%. Ukázalo se tak, že je možné návrh kvalitních architektur zautomatizovat s využitím neuroevoluce. V rámci druhé úlohy se podařilo optimalizovat váhy neurokontroléru tak, že pro definované počáteční podmínky dovede neurokontrolér model rakety k úspěšnému přistání. V obou úlohách tedy neuroevoluce uspěla.The theoretical part of this work deals with evolutionary algorithms (EA), neural networks (NN) and their synthesis in the form of neuroevolution. From a practical point of view, the aim of the work is to show the application of neuroevolution on two different tasks. The first task is the evolutionary design of the convolutional neural network (CNN) architecture that would be able to classify handwritten digits (from the MNIST dataset) with a high accurancy. The second task is the evolutionary optimization of neurocontroller for a simulated Falcon 9 rocket landing. Both tasks are computationally demanding and therefore have been solved on a supercomputer. As a part of the first task, it was possible to design such architectures which, when properly trained, achieve an accuracy of 99.49%. It turned out that it is possible to automate the design of high-quality architectures with the use of neuroevolution. Within the second task, the neuro-controller weights have been optimized so that, for defined initial conditions, the model of the Falcon booster can successfully land. Neuroevolution succeeded in both tasks.