Detecting Erase Strokes from Online Handwritten Notes using Support Vector Classification

We have implemented a student note-sharing system, AirTransNote, that facilitates collaborative and interactive learning in conven- tional classrooms. With the AirTransNote system, a teacher can immediately share student notes with the class using a projection screen to enhance group learning. However, students tend to hesitate to share their notes, particularly when the notes contain embarrassing mistakes. Nevertheless, teachers want to focus on real mistakes students make while learning. We introduce an erase stroke detecting method for the student note-sharing system to reduce students’ discomfort regarding sharing mistakes, as well as to assist the teacher in finding mistakes. We collected and manually labeled free-style handwritten student notes. Based on the labeled notes, we extracted features for the erase symbols and deleted strokes. We have tested support vector machine techniques for classifying erase symbols and deleted strokes from typical handwritten notes.Knowledge-Based and Intelligent Information & Engineering Systems 19th Annual Conference, KES-2015, Singapore, September 2015 Proceeding

INTELLIGENT CLASSIFIERS FOR NON-DESTRUCTIVE DETERMINATION OF FOOD QUALITY

The paper analyzes the possibilities to non-destructively determine food quality (potatoes, eggs) by means of the spectra of transmission in the visible and near-infrared regions of the electromagnetic spectrum. The research includes the creation and testing of a training sample of representative samples and the evaluation of the possibilities for classification using Neural Classifier and Support Vector Machines method (SVM).Key words: non-destructive quality evaluation, pattern recognition, food quality, classifier

Exploring temporal information in neonatal seizures using a dynamic time warping based SVM kernel

Seizure events in newborns change in frequency, morphology, and propagation. This contextual information is explored at the classifier level in the proposed patient-independent neonatal seizure detection system. The system is based on the combination of a static and a sequential SVM classifier. A Gaussian dynamic time warping based kernel is used in the sequential classifier. The system is validated on a large dataset of EEG recordings from 17 neonates. The obtained results show an increase in the detection rate at very low false detections per hour, particularly achieving a 12% improvement in the detection of short seizure events over the static RBF kernel based system

Adaptive spectrum transformation by topology preserving on indefinite proximity data

Similarity-based representation generates indefinite matrices, which are inconsistent with classical kernel-based learning frameworks. In this paper, we present an adaptive spectrum transformation method that provides a positive semidefinite ( psd ) kernel consistent with the intrinsic geometry of proximity data. In the proposed method, an indefinite similarity matrix is rectified by maximizing the Euclidian fac- tor ( EF ) criterion, which represents the similarity of the resulting feature space to Euclidean space. This maximization is achieved by modifying volume elements through applying a conformal transform over the similarity matrix. We performed several experiments to evaluate the performance of the proposed method in comparison with flip, clip, shift , and square spectrum transformation techniques on similarity matrices. Applying the resulting psd matrices as kernels in dimensionality reduction and clustering problems confirms the success of the proposed approach in adapting to data and preserving its topological information. Our experiments show that in classification applications, the superiority of the proposed method is considerable when the negative eigenfraction of the similarity matrix is significant

Sparse Convolutional Neural Network for Handwriting Recognition

학위논문 (석사)-- 서울대학교 대학원 공과대학 컴퓨터공학부, 2017. 8. 장병탁.자동화된 문자 인식기는 우편물 분류의 자동화, 번호판 인식, 전자 메모장 등 다양한 산업 분야에서 그 수요가 기하급수적으로 증가하고 있다. 이와 관련하여 최근 이미지 인식분야에서 뛰어난 성능을 보이는 컨볼루션 인공 신경망(CNN)을 사용한 방법들이 필기체 인식 분야에 적용되고 있다. 이러한 연구들 대부분에서는 높은 인식률을 달성하기 위해 주로 깊은 구조의 CNN을 사용하였다. 하지만 필기체 인식 분야에서는 주로 스마트폰이나 태블릿 PC 등 자원이 제한되어있는 단말기가 주로 사용되므로 모델이 차지하는 메모리와 계산속도 역시 중요하게 고려되어야 한다. 이에 본 논문에서는 학습 변수의 수를 효과적으로 줄이기 위해 인셉션 모듈 기반의 컨볼루션 신경망을 한글 필기체 인식문제에 적용하였다. 또한 일반화 오류를 낮추어 좀 더 높은 인식률을 달성하기 드랍필터 기법을 사용하여 컨볼루션 신경망을 희소한 성질을 가지도록 학습시켰다. 인셉션 모듈은 Imagenet Large Scale Visual Recognition Challenge 2014에서 최고의 인식률을 달성하면서도 기존의 모델에 비해 12배 적은 파라미터를 사용하여 크게 주목받은 GoogLeNet의 핵심 모듈이며, 드랍필터는 최근 널리 사용되는 regularization 기법의 일종인 드랍아웃을 CNN에 적합하게 변화를 준 기법이다. 실험은 우선 CNN에서 드랍필터의 효과를 검증하게 위해 10개 클래스, 총 60,000장의 자연 이미지로 구성된 Canadian Institute for Advanced Research(CIFAR)-10 데이터를 사용하여 드랍아웃을 적용한 모델과 인식률 비교를 수행하였다. 검증 실험을 통해 드랍필터 기법이 CNN에 적용되었을 때 드랍아웃보다 일반화 오류를 낮추는데 더 뛰어남을 확인할 수 있었다. 또한 검증 실험 중 각 은닉 층마다 드랍필터의 효과가 다르다는 것을 발견하고 이에 대한 추가적인 검증 실험을 수행하였다. 이후 드랍필터를 인셉션 모듈에 기반하여 구성된 CNN에 적용한 뒤 한글 필기체 인식을 수행하였다. 실험에 사용한 데이터는 총 520클래스, 260,000 글자의 한글 낱글자로 이루어져 있다. 한글 필기체 인식 실험 결과 제안하는 모델인 드랍필터를 적용한 인셉션 모듈 기반의 CNN이 기존의 LeNet 구조의 CNN에 비해 3배 더 적은 학습변수로도 3.279% 높은 인식률을 달성하였다.I. 서 론 1 1. 연구의 필요성 및 목적 1 2. 연구 문제 5 II. 관련 연구 6 1. 컨볼루션 인공 신경망 6 1.1. 컨볼루션 연산의 정의 6 1.2. 컨볼루션 인공 신경망 7 2. 컨볼루션 신경망을 사용한 한글 필기체 인식 8 3. 컨볼루션 신경망의 다양한 구조 8 3.1. Residual Network 구조 9 3.2. GoogLeNet 구조 10 4. 인공 신경망의 Regularization 12 4.1. 다층 퍼셉트론에서의 Regularization 12 4.2. 컨볼루션 인공 신경망에서의 Regularization 12 III. 제안하는 모델 14 1. 컨볼루션 신경망에서의 드랍아웃 14 2. 컨볼루션 신경망에서의 드랍필터 17 3. 드랍필터가 적용된 인셉션 모듈 20 IV. 실험 및 필기체 인식 결과 분석 21 1. 데이터 명세 21 2. 드랍필터의 효과 분석 23 3. 필기체 인식 결과 및 분석 28 4. 기타 논의사항 32 V. 결 론 33 참고문헌 34 영문요약 38Maste

Multiclass optimal classification trees with SVM‑splits

In this paper we present a novel mathematical optimization-based methodology to construct tree-shaped classification rules for multiclass instances. Our approach consists of building Classification Trees in which, except for the leaf nodes, the labels are temporarily left out and grouped into two classes by means of a SVM separating hyperplane. We provide a Mixed Integer Non Linear Programming formulation for the problem and report the results of an extended battery of computational experiments to assess the performance of our proposal with respect to other benchmarking classification methods.Universidad de Sevilla/CBUASpanish Ministerio de Ciencia y Tecnología, Agencia Estatal de Investigación, and Fondos Europeos de Desarrollo Regional (FEDER) via project PID2020-114594GB-C21Junta de Andalucía projects FEDER-US-1256951, P18-FR-1422, CEI-3-FQM331, B-FQM-322-UGR20AT 21_00032; Fundación BBVA through project NetmeetData: Big Data 2019UE-NextGenerationEU (ayudas de movilidad para la recualificación del profesorado universitario)IMAG-Maria de Maeztu grant CEX2020- 001105-M /AEI /10.13039/50110001103