Novosad, A. O.

Yakobchuk, P. Y.

Новосад, А. О.

Якобчук, П. Ю.

Ukrainian

Electronic archive of Ternopil National Ivan Puluj Technical University

71  УДК004.89 А.О. Новосад, П.Ю. Якобчук Тернопільський національний економічний університет, Україна   ОРГАНІЗАЦІЯ НАВЧАННЯ НЕЙРОННОЇ МЕРЕЖІ ДЛЯ РОЗПІЗНАВАННЯ АКСЕСУАРІВ ОДЯГУ НА ОСНОВІ KERAS  А.О. Novosad, P.Y. Yakobchuk ORGANIZATION OF NEURAL NETWORK TRAINING FOR KERAS ACCESSORIES ACKNOWLEDGMENT   Світ моди і стилю диктує свої умови, і з кожним роком вони все більше розширюються. Стилі і напрями перетинаються і перемішуються і стає все складніше визначитись із вибором. Модні аксесуари як елементи і атрибути одягу мають ще більш розпливчасту класифікацію через те, що по своїй суті - це доповнення до основного стилю і вони можуть бути як частиною комплекту, так і самостійним  елементом. Розпізнавання і класифікація модних аксесуарів по своїй суті відноситься до задач розпізнавання образів. Обробка та розпізнавання зображень важкий і кропіткий процес, адже відповідні інструменти містять реалізації складних алгоритмів, що проводятьпопіксельнуобробкузображень і виведення результатів. Основою систем розпізнавання зображень є нейронна мережа, яка для свого ефективного функціонування повинна пройти процес навчання, це досить трудомісткий і складний процес. Але на допомогу розробникам створені бібліотеки, що значно спрощують створення мережі. Однією із них є Keras[1] - це бібліотека для Python з відкритим вихідним кодом, яка дозволяє легко створювати нейронні мережі. Бібліотека сумісна з TensorFlow, Microsoft CognitiveToolkit, Theano і MXNet. Tensorflow і Theano є найбільш часто використовуваними чисельними платформами на Python для розробки алгоритмів глибокого навчання, але вони досить складні у використанні. Перед тим, як починати навчання нейронної мережі, необхідно визначитись із класами, які будуть використовуватися під час класифікації об’єктів. Для цього необхідно створити структуру класівдля класифікації атрибутів. Дане завдання потребує класифікації великої кількості різних об’єктів на одному зображенні, це викликає необхідність створити декілька нейронних мереж, які, окрім останнього шару, матимуть однакову архітектуру, тобто лише ваги, що використовуються класифікатором, будуть перенавчатись на нових класах, які необхідно навчитись ідентифікувати нейронній мережі. Атрибути одягу відносяться до сфери моди, та містять великий та складний обсяг інформації. На рисунку 1 зображено ієрархічну модель класів, які необхідно визначити на етапі класифікації нейронній мережі.  В наборі даних, на якому буде проводитись навчання, виділяються характеристики, що дозволяють точно класифікувати зображення та уникнути подальшої нормалізації. При цьому забезпечується ситуація, коли значення атрибутів кожного конкретного класу є взаємовиключними, та атрибути різних класів можуть незалежно один від одногоспівіснувати в зображенні. Структура даних і анотацій множини для навчання існують за наступною структурою: зображення, анотації, README.md. Папка «Зображення» містить зображення у форматі JPEG, в папці «Анотації» містяться характеристики міток атрибутів у форматі CSV. Файл README.md містить опис зазначених даних. 72   Рисунок 1. Ієрархія класів атрибутів одягу  Структура анотацій містить параметри:ImageName: ім'я зображення, тобто назва файлу у папці «Зображення»; AttrKey: ключ атрибута; AttrValues: значення, що відповідають значеннюатрибута в AttrKey імістять позначення у вигляді букв, де «y» - означає, що атрибут має бути обов’язково, «m» - може бути, і«n» - «ні», відсутній. В кожногозначення атрибута є лише одна «y», інші можуть бути «m» або «n». Встановлення гіперпараметрівзгорткової нейронної мережі є основною задачею при створення навчальної моделі, в основному необхідно зосередити увагу на двох основних: кількості шарів та темпу навчання. Підготовка повинна починатися з відносно великої швидкості навчання, адже випадкові ваги, що встановлюються спочатку далеко не оптимальні, а згодом темп може зменшуватися, щоб дати більш точне оновлення ваг. В результаті дослідженьвстановлено, що неможливо підвищити точність класифікації об’єктів при звичайному збільшенні кількості шарів . Впровадження залишкового навчання забезпечує збільшення кількості шарів нейронної мережі без додавання нових шарів згорток. Це зумовлено використанням вхідних значень попередніх шарів, що мають вже визначену карту ознак. На практиці згорткову нейронну мережу рідко навчають з нуля, тому що складно знайти набір даних достатнього розміру. Натомість практикується попередній запуск мережі на дуже великому наборі даних (наприклад, ImageNet), а потім натренована мережа використовується для потрібної задачі. Вибір типу передачі навчання - це рішення, яке залежить від декількох факторів, але два найбільш важливих - розмір нового набору даних (малий або великий) та ступінь його подібності до початкового набору даних, при цьому враховується, що функції мережі більш загальні у початкових шарах і специфічні у подальших. Оскільки в даній роботі виконується задача класифікації атрибутів одягу, а дані для мереж будуть дуже схожими використовується випадок, коли необхідно видалити останній шар з вагами класифікатора і тренувати лише його.З результатів навчання нейронної мережі видно, що точність класифікації аксесуарів, які представлені малими за розмірами наборами даних – нижча, адже для таких атрибутів важче вилучити ознаки необхідні для класифікації. Література 1. WhyuseKeras? [Online]. Available: https://keras.io/. 2. DeepFashion: PoweringRobustClothesRecognitionandRetrievalwithRichAnnotations. ZiweiLiu,PingLuo, ShiQiu,XiaogangWang, XiaoouTang. IEEE ConferenceonComputerVisionandPatternRecognition (CVPR) 2016[Online]. Available: https://liuziwei7.github.io/projects/DeepFashion.html. 

Organization of neural network training for Keras accessories acknowledgment

http://elartu.tntu.edu.ua/bitstream/lib/31198/2/MNTK_2019v2_Novosad_A_O-Organization_of_neural_71-72.pdf

Organization of neural network training for Keras accessories acknowledgment

Abstract

Similar works

Full text

Available Versions

Electronic archive of Ternopil National Ivan Puluj Technical University