Підвищення ефективності навчання бортової системи детектування об’єктів для малогабаритного безпілотного апарату

The model of object detector and the criterion of leaning effectiveness of the model were proposed. The model contains 7 first modules of the convolutional Squeezenet network, two convolutional multiscale layers and the information­extreme classifier. The multiplicative convolution of the particular criteria that takes into account the effectiveness of detection of objects in the image and accuracy of the classification analysis was considered as the criterion of learning effectiveness of the model. In this case, additional use of the orthogonal matching pursuit algorithm in calculating high­level features makes it possible to increase the accuracy of the model by 4 %. The training algorithm of object detector under conditions of a small size of labeled training datasets and limited computing resources available on board of a compact unmanned aerial vehicle was developed. The essence of the algorithm is to adapt the high­level layers of the model to the domain application area, based on the algorithms of growing sparse coding neural gas and simulated annealing. Unsupervised learning of high­level layers makes it possible to use effectively the unlabeled datasets from the domain area and determine the required number of neurons. It is shown that in the absence of fine tuning of convolutional layers, 69 % detection of objects in the images of the test dataset Inria Aerial Image was ensured. In this case, after fine tuning based on the simulated annealing algorithm, 95 % detection of the objects in test images is ensured. It was shown that the use of unsupervised pretraining makes it possible to increase the generalizing ability of decision rules and to accelerate the iteration process of finding the global maximum during supervised learning on the dataset of limited size. In this case, the overfitting effect is eliminated by optimal selection of the value of hyperparameter, characterizing the measure of coverage of the input data of by network neurons.Предложена модель детектора объектов и критерий эффективности обучения модели. Модель содержит 7 первых модулей свёрточной сети Squeezenet, два свёрточных разномасштабных слоя, и информационно-экстремальный классификатор. В качестве критерия эффективности обучения модели детектора рассматривается мультипликативная свертка частных критериев, учитывающая эффективность обнаружения объектов на изображении и точность классификационного анализа. При этом дополнительное использование алгоритма ортогонального согласованного кодирования при вычислении высокоуровневых признаков позволяет увеличить точность модели на 4 процента.Разработан алгоритм обучения детектора объектов в условиях малого объема размеченных обучающих образцов и ограниченных вычислительных ресурсов, доступных на борту малогабаритного беспилотного аппарата. Суть алгоритма заключается в адаптации верхних слоев модели к доменной области использования на основе алгоритмов растущего разреженно кодирующего нейронного газа и симуляции отжига. Обучение верхних слоев без учителя позволяет эффективно использовать неразмеченные данные с доменной области и определить необходимое количество нейронов. Показано, что при отсутствии тонкой настройки свёрточных слоев обеспечивается 69 процентов выявленных объектов на изображениях тестовой выборки Inria Aerial Image.При этом после тонкой настройки на основе алгоритма симуляции отжига обеспечивается 95 процентов выявленных объектов на тестовых изображениях.Показано, что использование предварительного обучения без учителя позволяет повысить обобщающую способность решающих правил и ускорить итерационный процесс нахождения глобального максимума при обучении с учителем на выборке ограниченного объема. При этом устранение эффекта переобучения осуществляется путем оптимального выбора значения гиперпараметра, характеризующего степень покрытия входных данных нейронами сетиЗапропоновано модель детектора об’єктів і критерій ефективності навчання моделі. Модель містить 7 перших модулів згорткової мережі Squeezenet, два згорткові різномасштабні шари, та інформаційно-екстремальний класифікатор. Як критерій ефективності навчання моделі детектора розглядається мультиплікативна згортка частинних критеріїв, що враховує ефективність виявлення об’єктів на зображенні та точність класифікаційного аналізу. При цьому додаткове використання алгоритму ортогонального узгодженого кодування при обчисленні високорівневих ознак дозволяє збільшити точність моделі на 4 %.Розроблено алгоритм навчання детектора об’єктів за умов малого обсягу розмічених навчальних зразків та обмежених обчислювальних ресурсів, доступних на борту малогабаритного безпілотного апарату. Суть алгоритму полягає в адаптації верхніх шарів моделі до доменної області використання на основі алгоритмів зростаючого розріджено кодуючого нейронного газу та симуляції відпалу. Навчання верхніх шарів без вчителя дозволяє ефективно використати нерозмічені дані з доменної області та визначити необхідну кількість нейронів. Показано, що за відсутності тонкої настройки згорткових шарів забезпечується 69 % виявлених об’єктів на зображеннях тестової вибірки Inria Aerial Image. При цьому після тонкої настройки на основі алгоритму симуляції відпалу забезпечується 95 відсотків виявлених об'єктів на тестових зображеннях.Показано, що використання попереднього навчання без вчителя дозволяє підвищити узагальнюючу здатність вирішальних правил та прискорити ітераційний процес знаходження глобального максимуму при навчанні з учителем на вибірці обмеженого обсягу. При цьому усунення ефекту перенавчання здійснюється шляхом оптимального вибору значення гіперпараметру, що характеризує ступінь покриття вхідних даних нейронами мереж

Інтелектуальна платформа віртуальної консолідації пристроїв для розподіленого масштабованого виробництва

Застосування адитивних технологій набуло значного поширення в галузях виробництва, таких як: виготовлення моделей і форм для ливарного виробництва, протезування, прототипування і т.д. Головна проблема розповсюдження таких технологій серед споживачів виникає у результаті необізнаності про їх можливості, високу ціну та складність в експлуатації пристроїв, а також недостатня розвиненість структури технічної підтримки і можливостей навчання обслуговуючого персоналу

Інтелектуальний протез кінцівки, що самонавчається

Створення інтелектуальних протезів руки дозволяє суттєво розширити їх функціональні можливості. Тому тема науково-дослідної роботи (НДР) є актуальною, оскільки присвячена підвищенню функціональної ефективності системи керування протезом кінцівки руки. Найбільш досконалими є інтелектуальні протези кінцівок з інвазивною системою зчитування біосигналів. Але їх основним недоліком є дуже висока вартість на світовому ринку. Крім того, застосування інвазивних систем зчитування біосигналів вимагає попереднього хірургічного втручання, яке дозволяє підвищити відношення “біосигнал/завада”. Суттєво дешевшими і зручнішими у використанні є протези з неінвазивною системою зчитування біосигналів. Але їх основним недоліком є відносно висока зашумленість біосигналу, що суттєво впливає на точність виконання біокоманд. Зміст роботи полягає у розробленні інтелектуальної інформаційної технології керування протезом кінцівки руки на основі пасивних міографічних датчиків

Виготовлення дослідного зразка безпілотного апарату та впровадження результатів дослідження

Мета роботи – підвищення функціональної ефективності бортової системи безпілотного літального апарату, що здійснює у автономному режимі локальну навігацію та класифікаційний аналіз спостережень за умов ресурсних та інформаційних обмежень. Методи дослідження – аналіз літературних джерел, методи розрідженого кодування, методи нейромережевого та інформаційно-екстремального моделювання

Інтелектуальна автономна бортова система безпілотного літального апарату для ідентифікації об'єктів на місцевості

Виконано аналітичний огляд сучасного стану розроблення бортових систем безпілотних літальних апаратів і сформовано технічне завдання на дослідний зразок інтелектуальної бортової системи для ідентифікації об’єктів на місцевості. Було розроблено структурні та функціональні схеми апаратно-програмного та алгоритмічного забезпечення безпілотного літального апарату. Вперше запропоновано алгоритм самонавчання екстрактора ієрархічного ознакового опису спостережень на основі принципів розрідженого кодування та самоорганізації неструктурованих сіток. Запропоновано критерій оцінки ефективності вирішальних правил автономної бортової системи для ідентифікації об’єктів на місцевості. Запропоновано структурну та компоновочну схеми БЛА для проведення досліджень. Розроблено структурні та функціональні схеми програмного та інформаційного забезпечення БЛА, що передбачає інтеграцію різнорідної сенсорної інформації для екстракції комплексних ознак, які використовуються алгоритмами навігації, детектування перешкод та об’єктів інтересу, що дозволяє підвищити надійність системи за рахунок взаємної компенсації недоліків окремих сенсорних систем

Розробка інформаційного та програмного забезпечення бортової системи безпілотного апарату, що функціонує в режимі навчання вирішувальних правил та класифікаційного аналізу спостережень

Мета роботи – підвищення функціональної ефективності бортової системи безпілотного літального апарату, що здійснює у автономному режимі локальну навігацію та класифікаційний аналіз спостережень за умов ресурсних та інформаційних обмежень. Методи дослідження – аналіз літературних джерел, методи розрідженого кодування, методи нейромережевого та інформаційноекстремального моделювання

Інтелектуальна автономна бортова система безпілотного літального апарату для ідентифікації об'єктів на місцевості

Виконано аналітичний огляд сучасного стану розроблення бортових систем безпілотних літальних апаратів і сформовано технічне завдання на дослідний зразок інтелектуальної бортової системи для ідентифікації об’єктів на місцевості. Було розроблено структурні та функціональні схеми апаратно-програмного та алгоритмічного забезпечення безпілотного літального апарату. Вперше запропоновано алгоритм самонавчання екстрактора ієрархічного ознакового опису спостережень на основі принципів розрідженого кодування та самоорганізації неструктурованих сіток. Запропоновано критерій оцінки ефективності вирішальних правил автономної бортової системи для ідентифікації об’єктів на місцевості. Запропоновано структурну та компоновочну схеми БЛА для проведення досліджень. Розроблено структурні та функціональні схеми програмного та інформаційного забезпечення БЛА, що передбачає інтеграцію різнорідної сенсорної інформації для екстракції комплексних ознак, які використовуються алгоритмами навігації, детектування перешкод та об’єктів інтересу, що дозволяє підвищити надійність системи за рахунок взаємної компенсації недоліків окремих сенсорних систем

Розробка інформаційного та програмного забезпечення бортової системи безпілотного апарату, що функціонує в режимі самонавчання екстрактора ознакового опису середовища для навігації та класифікаційного аналізу спостережень

Мета роботи – підвищення функціональної ефективності бортової системи безпілотного літального апарату, що здійснює у автономному режимі локальну навігацію та класифікаційний аналіз спостережень за даними різнотипних сенсорів за умов ресурсних та інформаційних обмежень, і неповної визначеності, обумовленої довільними умовами спостереження та нестаціонарністю середовища

Методи та математичні моделі сучасних інформаційно-комунікаційних технологій

Мета роботи – розроблення методів, моделей та інформаційних технологій підвищення функціональної ефективності систем підтримки прийняття рішень в освіті та промисловості. Предмет дослідження – методи, моделі та інформаційні технології прийняття рішень в освіті та промисловості, оцінка функціональної ефективності інтелектуальних систем аналізу даних, методи захисту інформації в інфокомунікаційних системах, інформаційно-аналітичні системи в освіті

Розробка методу навчання ознак та вирішальних правил для прогнозування порушення умов обслуговування в хмарному середовищі

We developed the algorithm of learning of the multilayer feature extractor based on ideas and methods of neural gas and sparse encoding, for the problem of prediction of violation of agreement conditions on the service level in a cloud-based environment. Effectiveness of the proposed extractor and autoencoder was compared by the results of physical simulation. It is shown that the proposed extractor requires approximately 1.6 times as few learning samples as the autoencoder for construction of error-free decision rules for learning and test samples. This allows us previously put into effect prediction mechanisms of controlling appropriate cloud-based services.To build up decision rules, it is proposed to use transformation of the space of primary features using computationally efficient operations of comparison and "excluding OR" for construction in the radial basis of the binary space of secondary features of separate class containers. In this case, for binary feature encoding, it is proposed to use modification of the population algorithm of search for maximum value of the Kullback’s information criterion. Modification implies consideration of compactness of images in the space of secondary features, which allows increasing the gap between distributions of classes and decreasing the negative effect of overfitting.The authors explored dependence of decision accuracy for training and test samples of the system of prediction of violation of SLA conditions on parameters of the feature extractor and those of the classifier. The extractor configuration, acceptable in terms of accuracy and complexity, was selected. In this case, two time windows, which intersect in time by 50 % and read through 50 features, were used at the entrance of the extractor. The first layer of extractor coding contains 30 basis vectors, and the second layer – 20. Thus, the intralayer pooling and non-linearity were formed by concatenation of sparse codes of each window and by continuation of the resulting code twice as much in order to separate positive and negative code components and to transform the resulting code into the vector of sign-positive features.Разработан алгоритм обучения многослойного экстрактора признаков, использующий принципы нейронного газа и разреженного кодирования. Предложен информационно-экстремальный метод двоичного кодирования признакового представление для построения решающих правил. Это позволяет уменьшить требования к объемам обучающих данных и вычислительных ресурсов и обеспечить высокую достоверность прогнозирования нарушения условий договора об уровне обслуживания в облачной средеРозроблено алгоритм навчання багатошарового екстрактора ознак, що використовує принципи нейронного газу та розрідженого кодування. Запропоновано інформаційно-екстремальний метод двійкового кодування ознакового подання для побудови вирішальних правил. Це дозволяє зменшити вимоги до обсягів навчальних даних і обчислювальних ресурсів та забезпечити високу достовірність прогнозування порушення умов договору про рівень обслуговування в хмарному середовищ