Імітаційне моделювання безплатформної інерціальної навігаційної системи безпілотних літальних апаратів на основі нейромережевих алгоритмів

The object of research is the process of controlling the trajectory of unmanned aerial vehicles (UAVs) in autonomous flight mode based on neural network algorithms. The study is based on the application of numerical-analytical approach to the selection of modern technical solutions for the construction of standard models of platformless inertial navigation systems (BINS) for micro and small UAVs, followed by support for assumptions. The results of simulation in the Matlab environment allowed to simulate the operation of the UAV control system based on MEMS technology (using microelectromechanical systems) and Arduino microcomputers. It was also possible to experimentally determine the nature of the influence of the structure of the selected neural network on the process of formation of navigation data during the disappearance of the GPS signal. Thus, to evaluate the effectiveness of the proposed solutions for the construction of BINS, a comparative analysis of the application of two algorithms ELM (Extreme Learning Machine)-Kalman and WANN (Wavelet Artificial Neural Network)-RNN (Recurrent Neural Network)-Madgwick in the form of two experiments. The purpose of the experiments was to determine: the study of the influence of the number of neurons of the latent level of the neural network on the accuracy of approximation of navigation data; determining the speed of the process of adaptive learning of neural network algorithms BINS UAV. The results of the experiments showed that the application of the algorithm based on ELM-Kalman provides better accuracy of learning the BINS neural network compared to the WANN-RNN-Madgwick algorithm. However, it should be noted that the accuracy of learning improved with the number of neurons in the structure of the latent level <500, which iincreases computational complexity and increases the learning process time. This can complicate the practical implementation using micro- and small UAV equipment. In addition, thanks to the simulation, the result of the study of the application of the proposed neural network algorithms to replace the input data instead of GPS signals to the input BINS, allowed to estimate the positioning error during the disappearance of GPS signals. Also, the application of the WANN-RNN-Madgwick algorithm allows to approximate and extrapolate the input signals of navigation parameters in a dynamic environment, while the process of adaptive learning in real time.Объектом исследования является процесс управления траекторией беспилотных летательных аппаратов (БПЛА) в автономном режиме полета на основе нейросетевых алгоритмов. Проведенное исследование базируется на применении численно-аналитического подхода выбора современных технических решений построения типовых моделей бесплатформенных инерциальных навигационных систем (БИНС) для микро- и малых БПЛА с последующим подкреплением предположений. Результаты имитационного моделирования в среде Matlab позволило сымитировать процесс работы системы управления БПЛА на базе МЭМС-технологии (использование микроэлектромеханических систем) и микрокомпьютеров Arduino. Также удалось экспериментально определить характер влияния структуры выбранной нейронной сети на процесс формирования навигационных данных во время исчезновения GPS сигнала. Таким образом, для оценки эффективности предложенных решений по построению БИНС был проведен сравнительный анализ применения двух алгоритмов ELM (Extreme Learning Machine) – Kalman и WANN (Wavelet Artificial Neural Network) – RNN (Recurrent Neural Network) – Madgwick в виде двух экспериментов. Целью экспериментов было определено: исследование влияния количества нейронов скрытого уровня нейронной сети на точность аппроксимации навигационных данных; определение скорости процесса адаптивного обучения нейросетевых алгоритмов БИНС БПЛА. Результат экспериментов показал, что применение алгоритма на основе ELM – Kalman обеспечивает лучшую точность обучения нейросети БИНС по сравнению с алгоритмом WANN – RNN – Madgwick. Однако необходимо отметить, что точность обучения улучшалась с ростом количества нейронов в структуре скрытого уровня <500, что повышает вычислительную сложность и увеличивает время процесса обучения. Это может усложнить практическую реализацию с использованием оборудования микро- и малых БПЛА. Кроме того, благодаря проведенному имитационному моделированию, результат исследования применения предложенных нейросетевых алгоритмов для замены входных данных вместо сигналов GPS на вход БИНС, позволил оценить погрешность позиционирования при исчезновении сигналов GPS. Также применение алгоритма WANN – RNN – Madgwick позволяет аппроксимировать и экстраполировать входные сигналы навигационных параметров в динамичной среде, при этом происходит процесс адаптивного обучения в реальном времени.Об’єктом дослідження є процес керування траєкторією безпілотних літальних апаратів (БПЛА) в автономному режимі польоту на основі нейромережевих алгоритмів. Проведене дослідження базується на застосуванні чисельно-аналітичного підходу вибору сучасних технічних рішень побудови типових моделей безплатформних інерціальних навігаційних систем (БІНС) для мікро- та малих БПЛА з подальшим підкріпленням припущень. Результати імітаційного моделювання в середовищі Matlab дозволило зімітувати процес роботи системи управління БПЛА на базі МЕМС-технології (використання мікроелектромеханічних систем) та мікрокомп’ютерів Arduino. Також вдалось експериментально визначити характер впливу структури вибраної нейронної мережі на процес формування навігаційних даних під час зникнення GPS сигналу. Таким чином, для оцінки ефективності запропонованих рішень із побудови БІНС було проведено порівняльний аналіз застосування двох алгоритмів ELM (Extreme Learning Machine) – Kalman та WANN (Wavelet Artificial Neural Network) – RNN (Recurrent Neural Network) – Madgwick у вигляді двох експериментів. Метою експериментів було визначено: дослідження впливу кількості нейронів прихованого рівня нейронної мережі на точність апроксимації навігаційних даних; визначення швидкості процесу адаптивного навчання нейромережевих алгоритмів БІНС БПЛА. Результат експериментів показав, що застосування алгоритму на основі ELM – Kalman забезпечує кращу точність навчання нейромережі БІНС в порівнянні з алгоритмом WANN – RNN – Madgwick. Однак необхідно зазначити, що точність навчання покращувалась із зростанням кількості нейронів в структурі прихованого рівня <500, що підвищує обчислювальну складність та збільшує час процесу навчання. Це може ускладнити практичну реалізацію із використанням обладнання мікро- та малих БПЛА. Крім того, завдяки проведеному імітаційному моделюванню, результат дослідження застосування запропонованих нейромережевих алгоритмів для заміни вхідних даних замість сигналів GPS на вхід БІНС, дозволив оцінити похибку позиціювання під час зникнення сигналів GPS. Також застосування алгоритму WANN – RNN – Madgwick дозволяє апроксимувати та екстраполювати вхідні сигнали навігаційних параметрів в динамічному середовищі, при цьому відбувається процес адаптивного навчання в реальному часі

Імітаційне моделювання безплатформної інерціальної навігаційної системи безпілотних літальних апаратів на основі нейромережевих алгоритмів

The object of research is the process of controlling the trajectory of unmanned aerial vehicles (UAVs) in autonomous flight mode based on neural network algorithms. The study is based on the application of numerical-analytical approach to the selection of modern technical solutions for the construction of standard models of platformless inertial navigation systems (BINS) for micro and small UAVs, followed by support for assumptions. The results of simulation in the Matlab environment allowed to simulate the operation of the UAV control system based on MEMS technology (using microelectromechanical systems) and Arduino microcomputers. It was also possible to experimentally determine the nature of the influence of the structure of the selected neural network on the process of formation of navigation data during the disappearance of the GPS signal. Thus, to evaluate the effectiveness of the proposed solutions for the construction of BINS, a comparative analysis of the application of two algorithms ELM (Extreme Learning Machine)-Kalman and WANN (Wavelet Artificial Neural Network)-RNN (Recurrent Neural Network)-Madgwick in the form of two experiments. The purpose of the experiments was to determine: the study of the influence of the number of neurons of the latent level of the neural network on the accuracy of approximation of navigation data; determining the speed of the process of adaptive learning of neural network algorithms BINS UAV. The results of the experiments showed that the application of the algorithm based on ELM-Kalman provides better accuracy of learning the BINS neural network compared to the WANN-RNN-Madgwick algorithm. However, it should be noted that the accuracy of learning improved with the number of neurons in the structure of the latent level <500, which iincreases computational complexity and increases the learning process time. This can complicate the practical implementation using micro- and small UAV equipment. In addition, thanks to the simulation, the result of the study of the application of the proposed neural network algorithms to replace the input data instead of GPS signals to the input BINS, allowed to estimate the positioning error during the disappearance of GPS signals. Also, the application of the WANN-RNN-Madgwick algorithm allows to approximate and extrapolate the input signals of navigation parameters in a dynamic environment, while the process of adaptive learning in real time.Объектом исследования является процесс управления траекторией беспилотных летательных аппаратов (БПЛА) в автономном режиме полета на основе нейросетевых алгоритмов. Проведенное исследование базируется на применении численно-аналитического подхода выбора современных технических решений построения типовых моделей бесплатформенных инерциальных навигационных систем (БИНС) для микро- и малых БПЛА с последующим подкреплением предположений. Результаты имитационного моделирования в среде Matlab позволило сымитировать процесс работы системы управления БПЛА на базе МЭМС-технологии (использование микроэлектромеханических систем) и микрокомпьютеров Arduino. Также удалось экспериментально определить характер влияния структуры выбранной нейронной сети на процесс формирования навигационных данных во время исчезновения GPS сигнала. Таким образом, для оценки эффективности предложенных решений по построению БИНС был проведен сравнительный анализ применения двух алгоритмов ELM (Extreme Learning Machine) – Kalman и WANN (Wavelet Artificial Neural Network) – RNN (Recurrent Neural Network) – Madgwick в виде двух экспериментов. Целью экспериментов было определено: исследование влияния количества нейронов скрытого уровня нейронной сети на точность аппроксимации навигационных данных; определение скорости процесса адаптивного обучения нейросетевых алгоритмов БИНС БПЛА. Результат экспериментов показал, что применение алгоритма на основе ELM – Kalman обеспечивает лучшую точность обучения нейросети БИНС по сравнению с алгоритмом WANN – RNN – Madgwick. Однако необходимо отметить, что точность обучения улучшалась с ростом количества нейронов в структуре скрытого уровня <500, что повышает вычислительную сложность и увеличивает время процесса обучения. Это может усложнить практическую реализацию с использованием оборудования микро- и малых БПЛА. Кроме того, благодаря проведенному имитационному моделированию, результат исследования применения предложенных нейросетевых алгоритмов для замены входных данных вместо сигналов GPS на вход БИНС, позволил оценить погрешность позиционирования при исчезновении сигналов GPS. Также применение алгоритма WANN – RNN – Madgwick позволяет аппроксимировать и экстраполировать входные сигналы навигационных параметров в динамичной среде, при этом происходит процесс адаптивного обучения в реальном времени.Об’єктом дослідження є процес керування траєкторією безпілотних літальних апаратів (БПЛА) в автономному режимі польоту на основі нейромережевих алгоритмів. Проведене дослідження базується на застосуванні чисельно-аналітичного підходу вибору сучасних технічних рішень побудови типових моделей безплатформних інерціальних навігаційних систем (БІНС) для мікро- та малих БПЛА з подальшим підкріпленням припущень. Результати імітаційного моделювання в середовищі Matlab дозволило зімітувати процес роботи системи управління БПЛА на базі МЕМС-технології (використання мікроелектромеханічних систем) та мікрокомп’ютерів Arduino. Також вдалось експериментально визначити характер впливу структури вибраної нейронної мережі на процес формування навігаційних даних під час зникнення GPS сигналу. Таким чином, для оцінки ефективності запропонованих рішень із побудови БІНС було проведено порівняльний аналіз застосування двох алгоритмів ELM (Extreme Learning Machine) – Kalman та WANN (Wavelet Artificial Neural Network) – RNN (Recurrent Neural Network) – Madgwick у вигляді двох експериментів. Метою експериментів було визначено: дослідження впливу кількості нейронів прихованого рівня нейронної мережі на точність апроксимації навігаційних даних; визначення швидкості процесу адаптивного навчання нейромережевих алгоритмів БІНС БПЛА. Результат експериментів показав, що застосування алгоритму на основі ELM – Kalman забезпечує кращу точність навчання нейромережі БІНС в порівнянні з алгоритмом WANN – RNN – Madgwick. Однак необхідно зазначити, що точність навчання покращувалась із зростанням кількості нейронів в структурі прихованого рівня <500, що підвищує обчислювальну складність та збільшує час процесу навчання. Це може ускладнити практичну реалізацію із використанням обладнання мікро- та малих БПЛА. Крім того, завдяки проведеному імітаційному моделюванню, результат дослідження застосування запропонованих нейромережевих алгоритмів для заміни вхідних даних замість сигналів GPS на вхід БІНС, дозволив оцінити похибку позиціювання під час зникнення сигналів GPS. Також застосування алгоритму WANN – RNN – Madgwick дозволяє апроксимувати та екстраполювати вхідні сигнали навігаційних параметрів в динамічному середовищі, при цьому відбувається процес адаптивного навчання в реальному часі

A MEMS IMU De-Noising Method Using Long Short Term Memory Recurrent Neural Networks (LSTM-RNN)

Microelectromechanical Systems (MEMS) Inertial Measurement Unit (IMU) containing a three-orthogonal gyroscope and three-orthogonal accelerometer has been widely utilized in position and navigation, due to gradually improved accuracy and its small size and low cost. However, the errors of a MEMS IMU based standalone Inertial Navigation System (INS) will diverge over time dramatically, since there are various and nonlinear errors contained in the MEMS IMU measurements. Therefore, MEMS INS is usually integrated with a Global Positioning System (GPS) for providing reliable navigation solutions. The GPS receiver is able to generate stable and precise position and time information in open sky environment. However, under signal challenging conditions, for instance dense forests, city canyons, or mountain valleys, if the GPS signal is weak and even is blocked, the GPS receiver will fail to output reliable positioning information, and the integration system will fade to an INS standalone system. A number of effects have been devoted to improving the accuracy of INS, and de-nosing or modelling the random errors contained in the MEMS IMU have been demonstrated to be an effective way of improving MEMS INS performance. In this paper, an Artificial Intelligence (AI) method was proposed to de-noise the MEMS IMU output signals, specifically, a popular variant of Recurrent Neural Network (RNN) Long Short Term Memory (LSTM) RNN was employed to filter the MEMS gyroscope outputs, in which the signals were treated as time series. A MEMS IMU (MSI3200, manufactured by MT Microsystems Company, Shijiazhuang, China) was employed to test the proposed method, a 2 min raw gyroscope data with 400 Hz sampling rate was collected and employed in this testing. The results show that the standard deviation (STD) of the gyroscope data decreased by 60.3%, 37%, and 44.6% respectively compared with raw signals, and on the other way, the three-axis attitude errors decreased by 15.8%, 18.3% and 51.3% individually. Further, compared with an Auto Regressive and Moving Average (ARMA) model with fixed parameters, the STD of the three-axis gyroscope outputs decreased by 42.4%, 21.4% and 21.4%, and the attitude errors decreased by 47.6%, 42.3% and 52.0%. The results indicated that the de-noising scheme was effective for improving MEMS INS accuracy, and the proposed LSTM-RNN method was more preferable in this application