The decision boundary

Hlavným zámerom tejto diplomovej práce je popis problematiky realizácie rozdeľujúcich nadplôch pomocou umelých neurónových sietí. Cieľom je predstaviť teoretické znalosti týkajúce sa tejto problematiky a na praktických príkladoch tieto znalosti aj overiť. Práca obsahuje základný teoretický popis problematiky teórie rozpoznávania a problematiky príznakového popisu predmetov. V tejto časti je predstavený klasifikátor fungujúci na princípu Bayesovho rozhodovania a sú vymenované iné typy klasifikátorov. Práca sa potom podrobnejšie zaoberá umelými neurónovými sieťami; je teoreticky popísaná ich základná funkčnosť a ich schopnosti pri vytvorení rozdeľujúcich hraníc v príznakovom priestore. Sú ukázané príklady z literatúry na využitie neurónových sietí v príslušných úlohách. Ako súčasť tejto práce bol vytvorený program ANN-DeBC v prostriedku Matlabu pre generovanie praktických výsledkov o využití dopredných neurónových sietí pre realizáciu rozdeľujúcich nadplôch. Práca obsahuje podrobný popis tohto programu a sú predstavené a analyzované získané výsledky. Je ukázané aj to, ako vytvorí umelá neurónová sieť rozdeľujúce hranice v tvare základných geometrických foriem, a aj vo všeobecnejších tvaroch. Je spozorovaný vplyv voľby topológie neurónovej siete a počtu trénovacích vzorov na úspešnosť klasifikácie a sú stanovené minimálne hodnoty týchto parametrov pre úspešné vytvorenie rozdeľujúcich hraníc pri jednotlivých príkladoch. Ďalej sú predstavené, ako sa chovajú neurónové siete pri klasifikácii reálne rozdelených trénovacích vzorov a akými spôsobmi je možné ovplyvňovať tvar realizovaných rozdeľujúcich nadplôch.The main aim of this master's thesis is to describe the subject of the implementation of decision boundaries with the help of artificial neural networks. The objective is to present theoretical knowledge concerning this field and on practical examples prove these statements. The work contains basic theoretical description of the field of pattern recognition and the field of feature based representation of objects. A classificator working on the basis of Bayes decision is presented in this part, and other types of classificators are named as well. The work then deals with artificial neural networks in more detail; it contains a theoretical description of their function and their abilities in the creation of decision boundaries in the feature plane. Examples are shown from literature for the use of neural networks in corresponding problems. As part of this work, the program ANN-DeBC was created using Matlab, for the generation of practical results about the usage of feed-forward neural networks for the implementation of decision boundaries. The work contains a detailed description of this program, and the achieved results are presented and analyzed. It is shown as well, how artificial neural networks are creating decision boundaries in the form of geometrical shapes. The effects of the chosen topology of the neural network and the number of training samples on the success of the classification are observed, and the minimal values of these parameters are determined for the successful creation of decision boundaries at the individual examples. Furthermore, it's presented how the neural networks behave at the classification of realistically distributed training samples, and what methods can affect the shape of the created decision boundaries.