АDDITIONAL TRAINING OF NEURO-FUZZY DIAGNOSTIC MODELS

Context. The task of automation of diagnostic models synthesys in diagnostics and pattern recognition problems is solved. Theobject of the research are the methods of the neuro-fuzzy diagnostic models synthesys. The subject of the research are the methods ofadditional training of neuro-fuzzy networks.Objective. The research objective is to create a method for additional training of neuro-fuzzy diagnostic models.Method. The method of additional training of diagnostic neuro-fuzzy models is proposed. It allows to adapt existing models tothe change in the functioning environment by modifying them taking into account the information obtained as a result of new observations.This method assumes the stages of extraction and grouping the correcting instances, diagnosing them with the help of theexisting model leads to incorrect results, as well as the construction of a correcting block that summarizes the data of the correctinginstances and its implementation into an already existing model. Using the proposed method of learning the diagnostic neural-fuzzymodels allows not to perform the resource-intensive process of re-constructing the diagnostic model on the basis of a complete set ofdata, to use the already existing model as the computing unit of the new model. Models synthesized using the proposed method arehighly interpretive, since each block generalizes information about its data set and uses neuro-fuzzy models as a basis.Results. The software which implements the proposed method of additional training of neuro-fuzzy networks and allows to reconfigurethe existing diagnostic models based on new information about the researched objects or processes based on the new datahas been developed.Conclusions. The conducted experiments have confirmed operability of the proposed method of additional training of neurofuzzynetworks and allow to recommend it for processing of data sets for diagnosis and pattern recognition in practice. The prospectsfor further researches may include the development of the new methods for the additional training of deep learning neural networksfor the big data processing

МОДИФІКАЦІЯ ТА ПАРАЛЕЛІЗАЦІЯ ГЕНЕТИЧНОГО АЛГОРИТМУ ДЛЯ СИНТЕЗУ ШТУЧНИХ НЕЙРОННИХ МЕРЕЖ

Context. The problem of automation synthesis of artificial neural networks for further use in diagnosing, forecasting and patternrecognition is solved. The object of the study was the process of synthesis of ANN using a modified genetic algorithm.Objective. The goals of the work are the reducing the synthesis time and improve the accuracy of the resulting neural network.Method. The method of synthesis of artificial neural networks on the basis of the modified genetic algorithm which can be implementingsequentially and parallel using MIMD – and SIMD-systems is proposed. The use of a high probability of mutation canincrease diversity within the population and prevent premature convergence of the method. The choice of a new best specimen, asopposed to a complete restart of the algorithm, significantly saves system resources and ensures the exit from the area of local extrema.The use of new criteria for adaptive selection of mutations, firstly, does not limit the number of hidden neurons, and, secondly,prevents the immeasurable increase in the network. The use of uniform crossover significantly increases the efficiency, as well asallows emulating other crossover operators without problems. Moreover, the use of uniform crossover increases the flexibility of thegenetic algorithm. The parallel approach significantly reduces the number of iterations and significantly speedup the synthesis ofartificial neural networks.Results. The software which implements the proposed method of synthesis of artificial neural networks and allows to performthe synthesis of networks in sequentially and in parallel on the cores of the CPU or GPU.Conclusions. The experiments have confirmed the efficiency of the proposed method of synthesis of artificial neural networksand allow us to recommend it for use in practice in the processing of data sets for further diagnosis, prediction or pattern recognition.Prospects for further research may consist in the introduction of the possibility of using genetic information of several parents to form a new individual and modification of synthesis methods for recurrent network architectures for big data processing.Актуальность. Решена задача автоматизации синтеза искусственных нейронных сетей для дальнейшего использованияпри диагностировании, прогнозировании и распознавании образов. Объект исследования – процесс синтеза искусственныхнейронных сетей с помощью генетического алгоритма. Предмет исследования – последовый и параллельный методы синте-за искусственных нейронных сетей. Цель работы – уменьшить время синтеза и повысить точность полученной нейроннойсети.Метод. Предложен метод синтеза искусственных нейронных сетей на основе модифицированного генетического алго-ритма, который может быть реализован последовательно и параллельно используя MIMD- и SIMD-системы. Введениебольшой вероятности мутации позволяет увеличить разнообразие внутри популяции и предупредить преждевременнуюсходимость метода. Выбор новой лучшей особи, в отличие от полного перезапуска алгоритма, значительно экономит ресур-сы системы и гарантирует выход из области локальных экстремумов. Использование новых критериев для адаптивного вы-бора мутации, во-первых, не ограничивает количество скрытых нейронов, а, во-вторых, препятствует безмерном увеличе-нию сети. Использование равномерного скрещивания существенно повышает эффективность, а также без проблем позволя-ет эмулировать другие операторы скрещивания. Более того, именно использование равномерного скрещивания повышаетгибкость генетического алгоритма. Параллельный подход значительно сокращает количество итераций и существенно ус-коряет синтез искусственных нейронных сетей.Результаты. Разработано программное обеспечение, реализующее предложенный метод синтеза искусственных ней-ронных сетей и позволяет выполнять синтез сетей последовательно и параллельно на ядрах центрального процессора илиграфического процессора.Выводы. Проведенные эксперименты подтвердили работоспособность предложенного метода синтеза искусственныхнейронных сетей и позволяют рекомендовать его для использования на практике при обработке массивов данных для даль-нейшего диагностирования, прогнозирования или распознавания образов. Перспективы дальнейших исследований могутсостоять в введении возможности использования генетической информации нескольких родителей для формирования новойособи и модификации методов синтеза для рекуррентных архитектур сетей для обработки больших данных.Актуальність. Вирішено задачу автоматизації синтезу штучних нейронних мереж для подальшого використання придіагностуванні, прогнозуванні та розпізнаванні образів. Об’єкт дослідження – процес синтезу штучних нейронних мереж задопомогою генетичного алгоритму. Предмет дослідження – послідовий та паралельний методи синтезу штучних нейроннихмереж. Мета роботи – зменшити час синтезу та підвищити точність отриманої нейронної мережі.Метод. Запропоновано метод синтезу штучних нейронних мереж на основі модифікованого генетичного алгоритму,який може бути реалізовано послідовно та паралельно використвуючі MIMD- та SIMD-системи. Введення великої ймовір-ності мутації дозволяє збільшити різноманітність всередині популяції та перешкодити завчасній збіжності методу. Вибірнової кращої особини, на відміну від повного перезапуску методу, значно економить ресурси системи та гарантує вихід ізобласті локальних екстремумів. Використання нових критеріїв для адаптивного вибору мутації, по-перше, не обмежує кіль-кість прихованих нейронів, а, по-друге, перешкоджає безмірному збільшенню мережі. Використання рівномірного схрещу-вання істотно підвищує ефективність, а також без проблем дозволяє емулювати інші оператори схрещування. Більш того,саме використання рівномірного схрещування підвищує гнучкість генетичного алгоритму. Паралельний підхід значно ско-рочує кількість ітерацій та істотно прискорює виконання синтезу штучних нейронних мереж.Результати. Розроблено програмне забезпечення, яке реалізує запропонований метод синтезу штучних нейронних ме-реж і дозволяє виконувати синтез мереж послідовно та паралельно на ядрах центрального процесору або графічного проце-сору.Висновки. Проведені експерименти підтвердили працездатність запропонованого методу синтезу штучних нейроннихмереж і дозволяють рекомендувати його для використання на практиці при обробці масивів даних для подальшого діагнос-тування, прогнозування або розпізнавання образів. Перспективи подальших досліджень можуть полягати у введені можли-вості використання генетичної інформації декількох батьків для формування нової особини та модифікуванні методів син-тезу для мереж рекурентних архітектур для обробки великих даних