Распараллеливание алгоритмов функционирования классификатора со случайными подпространствами

Нейронные сети являются достаточно популярным средством решения многих задач искуственного интеллекта. В то же время, любые аппаратные реализации нейросетевых архитектур очень быстро устаревают благодаря стремительному развитию вычислительной техники. Таким образом, большинство исследователей стремятся использовать в первую очередь программные реализации алгоритмов, что делает актуальным распараллеливание функционирования нейросетевых систем. В работе рассматривается нейросетевой классификатор со случайными подпространствами и предлагаются алгоритмы распараллеливания его основных операций.Neural networks are quite popular for solving many tasks of artificial intelligence. At the same time, any hardware implementation of some neural architecture becomes obsolete really fast due to rapid development of semiconductor industry. Thus, most researchers first of all tend to use software algorithm implementations, which makes parallelization of neural network algorithms quite attractive. This article analyses neural random subspace classifier and suggests algorithms for parallelization off it’s basic operations

An Exploration of Monophonic Instrument Classification Using Multi-Threaded Artificial Neural Networks

The use of computers for automated music analysis could benefit several aspects of academia and industry, from psychological and music research, to intelligent music selection and music copyright investigation. In the following thesis, one of the first steps of automated musical analysis, i.e., monophonic instrument recognition, was explored. A multi-threaded artificial neural network was implemented and used as the classifier in order to utilize multi-core technology and allow for faster training. The parallelized batch-mode backpropagation algorithm used provided linear speedup, an improvement to the current literature. For the classification experiments, eleven different sets of instruments were used, starting with perceptively dissimilar instruments (i.e., bass vs. trumpet), moving towards more similar sounding instruments (i.e., violin vs. viola; oboe vs. bassoon; xylophone vs. vibraphone, etc.,). From the 70 original musical features extracted from each audio sample, a sequential forward selection algorithm was employed to select only the most salient features that best differentiate the instruments in question. Using twenty runs for each set of instruments (i.e., 10 sets of a 50/50 cross-validation training paradigm), the test results were promising, with classification rates ranging from a mean of 76% to 96%, with many individual runs reaching a perfect 100% score. The conclusion of this thesis confirms the use of multi-threaded artificial neural networks as a viable classifier in single instrument recognition of perceptively similar sounding instruments

ДОСЛІДЖЕННЯ КЛАСИФІКАТОРА З ВИПАДКОВИМИ ПІДПРОСТОРАМИ ТА ЙОГО ЗАСТОСУВАННЯ ДЛЯ ПРОГНОЗУВАННЯ ДИНАМІКИ ФОНДОВОГО РИНКА

Дисертація присвячена математичному дослідженню характеристик функ-ціонування класифікатора з випадковими підпросторами. Запропоновані методи його удосконалення, проведено порівняння з іншими класифікаційними алгорит-мами. Продемонстрована ефективність застосування цієї моделі нейронної мережі для технічного прогнозування фондового ринка.\ud Класифікатор з випадковими підпросторами є високопродуктивним нейро-мережевим класифікатором. Концептуально архітектура даної нейронної мережі представляється двома компонентами. Перша здійснює нелінійне перетворення дійсного вхідного вектора в бінарний образ великої розмірності. В отриманому просторі ознак лінійна розділимість представників різних класів стає більш віро-гідною. Друга частина класифікатора є одношаровим персептроном, для якого використовується ітеративний алгоритм навчання з фіксованим інкрементом.\ud Запропоновані наступні методи удосконалення розглянутої нейронної мере-жі: оптимізація конфігураційних параметрів структури класифікатора для макси-мізації відстані Хеммінга між бінарними образами двох довільних вхідних векто-рів; адаптація розподілу порогових значень у відповідності з ймовірнісним роз-поділом вхідних даних; локальне усереднення коефіцієнтів синаптичної матриці, що є ефективним для задач з великою байєсовською похибкою. Функціонування даної мережі проаналізовано на відомій класифікаційній базі даних. Доведено,\ud що класифікатор з випадковими підпросторами є універсальним. Як і більшість інших нейромережевих парадигм, даний класифікатор дозволяє застосування ге-нетичного алгоритму формування структури мережі, а також алгоритму навчання зі збереженням найкращої синаптичної матриці.\ud Використовувалися наступні вхідні дані для задачі прогнозування фінансо-вих часових рядів: нормалізовані дані цін та об’єму торгів, різні технічні індика-тори, патерни японських свічок, індикатори відхилення від ковзних середніх і т.ін. Запропоновано метод оцінки ефективності прогнозування з точки зору теорії інформації. Розроблено алгоритм функціонування програмного агента для торгів-лі цінними паперами. Архітектура класифікатора з випадковими підпросторами дозволяє ефективне розпаралелювання відповідних базових алгоритмів для засто-сування на багатоядерних чи багатопроцесорних комп’ютерних системах.\u