Adding New Tasks to a Single Network with Weight Transformations using Binary Masks

Visual recognition algorithms are required today to exhibit adaptive abilities. Given a deep model trained on a specific, given task, it would be highly desirable to be able to adapt incrementally to new tasks, preserving scalability as the number of new tasks increases, while at the same time avoiding catastrophic forgetting issues. Recent work has shown that masking the internal weights of a given original conv-net through learned binary variables is a promising strategy. We build upon this intuition and take into account more elaborated affine transformations of the convolutional weights that include learned binary masks. We show that with our generalization it is possible to achieve significantly higher levels of adaptation to new tasks, enabling the approach to compete with fine tuning strategies by requiring slightly more than 1 bit per network parameter per additional task. Experiments on two popular benchmarks showcase the power of our approach, that achieves the new state of the art on the Visual Decathlon Challenge

FEATURE EXTRACTION AND RECOGNITION ON TRAFFIC SIGN IMAGES

FEATURE EXTRACTION AND RECOGNITION ON TRAFFIC SIGN IMAGESAbstractIt is vital that the traffic signs used to ensure the order of the traffic are perceived by the drivers. Traffic signs have international standards that allow the driver to learn about the road and the environment while driving. Traffic sign recognition systems have recently started to be used in vehicles in order to improve traffic safety. Machine learning methods are used in the field of image recognition. Deep learning methods increase the classification success by extracting the hidden and interesting features in the image. Images contain many features and this situation can affect success in classification problems. It can also reveal the need for high-capacity hardware. In order to solve these problems, convolutional neural networks can be used to extract meaningful features from the image. In this study, we created a dataset containing 1500 images of 14 different traffic signs that are frequently used on Turkey highways. The features of the images in this dataset were extracted using convolutional neural networks from deep learning architectures. The 1000 features obtained were classified using the Random Forest method from machine learning algorithms. 93.7% success was achieved as a result of this classification process.Keywords: Classification, Convolution neural network, Feature extraction, Random forest, Traffic signsTRAFİK İŞARETİ GÖRÜNTÜLERİNDE ÖZELLİK ÇIKARMA VE TANIMAÖzetTrafiğin düzenini sağlamak amacıyla kullanılan trafik levhalarını sürücülerin algılaması hayati önem taşımaktadır. Sürüş esnasında sürücünün yol ve çevre hakkında bilgi edinebilmesini sağlayan trafik levhaları uluslararası standartlara sahiptir. Trafik levhası tanıma sistemleri son zamanlarda trafik güvenliğini arttırmak amacıyla araçlarda kullanılmaya başlamıştır. Makine öğrenmesi yöntemleri görüntü tanıma alanında kullanılmaktadır.  Derin öğrenme yöntemleri, görüntüde yer alan gizli ve ilginç özellikleri çıkarak sınıflandırma başarısını arttırmaktadır. Görüntüler çok sayıda özellik içermektedir ve bu durum sınıflandırma problemlerinde başarıyı etkileyebilmektedir. Ayrıca yüksek kapasiteli donanım gereksinimini de ortaya çıkarabilmektedir. Bu sorunların çözülebilmesi için görüntüden anlamlı özelliklerin çıkarılmasında konvolüsyonel sinir ağları kullanılabilmektedir. Bu çalışmada Türkiye’deki karayollarında sıklıkla kullanılan 14 farklı trafik levhasına ait 1500 görüntü içeren bir veriseti tarafımızca oluşturulmuştur. Bu veriseti kullanılarak derin öğrenme mimarilerinden konvolüsyonel sinir ağları kullanılarak görüntülerin özellikleri çıkarılmıştır. Elde edilen 1000 özellik makine öğrenmesi algoritmalarından Random Forest yöntemi kullanılarak sınıflandırılmıştır. Bu sınıflandırma işlemi sonucunda %93.7 başarı elde edilmiştir.Anahtar Kelimeler: Konvolüsyonel sinir ağları, Özellik çıkarma, Random forest, Sınıflandırma, Trafik işaretleri