Ensemble machine learning approach for electronic nose signal processing

Electronic nose (e-nose) systems have been reported to be used in many areas as rapid, low- cost, and non-invasive instruments. Especially in meat production and processing, e-nose system is a powerful tool to process volatile compounds as a unique ‘fingerprint’. The ability of the pattern recognition algorithm to analyze e-nose signals is the key to the success of the e-nose system in many applications. On the other hand, ensemble methods have been reported for favorable performances in various data sets. This research proposes an ensemble learning approach for e-nose signal processing, especially in beef quality assessment. Ensemble methods are not only used for learning algorithms but also sensor array optimization. For sensor array optimization, three filter-based feature selection algorithms (FSAs) are used to build ensemble FSA such as reliefF, chi-square, and gini index. Ensemble FSA is developed to deal with different or unstable outputs of a single FSA on homogeneous e-nose data sets in beef quality monitoring. Moreover, ensemble learning algorithms are employed to deal with multi-class classification and regression tasks. Random forest and Adaboost are used that represent bagging and boosting algorithms, respectively. The results are also compared with support vector machine and decision tree as single learners. According to the experimental results, our ensemble approach has good performance and generalization in e-nose signal processing. Optimized sensor combination based on filter-based FSA shows stable results both in classification and regression tasks. Furthermore, Adaboost as a boosting algorithm produces the best prediction even though using a smaller number of sensor

Elektronik burun verilerinin yapay zeka tabanlı algoritmalarla sınıflandırılması

06.03.2018 tarihli ve 30352 sayılı Resmi Gazetede yayımlanan “Yükseköğretim Kanunu İle Bazı Kanun Ve Kanun Hükmünde Kararnamelerde Değişiklik Yapılması Hakkında Kanun” ile 18.06.2018 tarihli “Lisansüstü Tezlerin Elektronik Ortamda Toplanması, Düzenlenmesi ve Erişime Açılmasına İlişkin Yönerge” gereğince tam metin erişime açılmıştır.Günümüzde elektronik burun teknolojisi, yiyecek kalitesinin belirlenmesi, sağlık, savunma sanayi ve çevre gibi birçok farklı alanda başarıyla kullanılmaktadır. Adı geçen bu alanlarda genellikle koku verisinin sınıflandırıldığı görülmektedir. Gaz Sensörleri yardımıyla elde edilen koku verisinin sınıflandırılmasında birçok yöntem kullanılmakla birlikte literatürde özellikle yapay sinir ağlarına (YSA) sıklıkla rastlanmaktadır. YSA'da geleneksel olarak kullanılan geri yayılım algoritmasının (YSA-BP) bilindiği üzere, lokal minimuma takılma ve eğitim verisini ezberleme gibi zayıf yönleri bulunmaktadır. Bu tez kapsamında bu zayıf yönleri aşmak için, gaz sensörlerinden elde edilen koku verisinin sınıflandırılmasında YSA'nın eğitim kısmı yapay arı koloni (YSA-ABC) ve genetik algoritma (YSA-GA) ile optimize edilmiştir. Geliştirilen yazılım sayesinde, veri seti okutulup, YSA tasarlanıp ve eğitim modeli seçilerek algoritma çalıştırılabilmektedir. YSA'nin eğitilmesindeki geleneksel yöntemde (BP) karesel ortalama hata (MSE) baz alınırken, geliştirilen yazılım sayesinde, YSA-ABC ve YSA-GA eğitiminde, istenirse MSE, ortalama mutlak hata (MAE) veya R2 kullanılabilir. YSA-ABC'nin eğitilmesinde MAE'nin kullanılması MSE'ye göre daha başarılı sonuçlar verdiği görülmüştür. Bu yöntemler kullanılarak 4 farklı çalışma yapılmıştır. Bu 4 çalışmada eğitim hata değerleri olarak YSA-BP E-06, YSA-GA E-03 ile E-18 ve YSA-ABC ise E-16 düzeylerinde başarım göstermişlerdir. Test verisindeki başarımları ise YSA-BP E-06, YSA-GA E-03 ile E-09 ve YSA-ABC E-08 ile E-16 düzeylerinde başarım göstermişlerdir. Bu sonuçlar YSA-ABC'nin 4 çalışmanın 3'ünde diğer iki eğitim modeline göre daha başarılı eğitim ve test sonucu ürettiğini YSA-GA'nın ise sadece 1 çalışmada başarılı olduğunu göstermiştir. Eğitim süreleri karşılaştırıldığında, bütün çalışmalarda en hızlı eğitim modelinin saniyeler içerisinde tamamlanan YSA-BP olduğu daha sonra dakikalar düzeyinde süren YSA-ABC geldiği ve en yavaş modelin ise saatler süren YSA-GA olduğu görülmüştür. Eğitim modellerinin, eğitim süresi ve test verilerinde gösterdikleri başarı bir arada düşünüldüğünde, YSA-ABC'nin koku verisinin sınıflandırılmasında kullanımının daha uygun olacağı sonucuna varılmıştır.Today, electronic nose technology is successfully used in a wide range of areas such as food quality, health system, defense industry, and in environment. Usually, it is required to classify odour data during the use of e-nose technology in these fields. There are many methods used in classification of gas sensor data. Artificial neural networks (ANN) are especially come across in numerous studies as a classification method. Back propagation algorithm (ANN-BP) which is traditionally used in ANN, is known to get stuck in local minima and overfit the training data. In this thesis, during the classification of gas sensor data, artificial bee colony (ANN-ABC) and genetic algorithm (ANN-GA) are used to optimize ANN training in order to overcome these weaknesses of ANN-BP. A software is developed to run the algorithm after dataset is given to the network, ANN is designed and training method is determined. Mean squared error (MSE) is traditionally used as the only performance measure in ANN training (with BP). However, in the software developed here, mean absolute error (MAE) and R2 are also measured during ANN-ABC and ANN-GA training. It is observed that using MAE in ANN-ABC training as a performance measure gives more successful results compared to MSE use. Four different studies are conducted using this method. In these studies, ANN-BP had training error values in the level of E-06, while ANN-GA had E-03 and E-18, and ANN-ABC achieved E-16 level. The success levels of the networks in the test data were E-06 for ANN-BP, E-03 and E-09 for ANN-GA, and E-08 and E-16 for ANN-ABC. These results showed that, ANN-ABC produced more satisfactory training and test results in three of the four studies, compared to other two training methods. ANN-GA is found to be the most successful in only one of the studies. In terms of training time, ANN-BP is seen to be the fastest in all of the studies with a completion time in seconds it is followed by ANN-ABC with a minutes-level completion time, while ANN-GA is observed to be the slowest by lasting for hours. When training time and performance in test data measures are both considered simultaneously, it can be concluded that ANN-ABC is more suitable to be used in classification of odour data