An Interval-based Multiobjective Approach to Feature Subset Selection Using Joint Modeling of Objectives and Variables

This paper studies feature subset selection in classification using a multiobjective estimation of distribution algorithm. We consider six functions, namely area under ROC curve, sensitivity, specificity, precision, F1 measure and Brier score, for evaluation of feature subsets and as the objectives of the problem. One of the characteristics of these objective functions is the existence of noise in their values that should be appropriately handled during optimization. Our proposed algorithm consists of two major techniques which are specially designed for the feature subset selection problem. The first one is a solution ranking method based on interval values to handle the noise in the objectives of this problem. The second one is a model estimation method for learning a joint probabilistic model of objectives and variables which is used to generate new solutions and advance through the search space. To simplify model estimation, l1 regularized regression is used to select a subset of problem variables before model learning. The proposed algorithm is compared with a well-known ranking method for interval-valued objectives and a standard multiobjective genetic algorithm. Particularly, the effects of the two new techniques are experimentally investigated. The experimental results show that the proposed algorithm is able to obtain comparable or better performance on the tested datasets

A Survey on Evolutionary Computation Approaches to Feature Selection

Feature selection is an important task in data mining and machine learning to reduce the dimensionality of the data and increase the performance of an algorithm, such as a classification algorithm. However, feature selection is a challenging task due mainly to the large search space. A variety of methods have been applied to solve feature selection problems, where evolutionary computation (EC) techniques have recently gained much attention and shown some success. However, there are no comprehensive guidelines on the strengths and weaknesses of alternative approaches. This leads to a disjointed and fragmented field with ultimately lost opportunities for improving performance and successful applications. This paper presents a comprehensive survey of the state-of-the-art work on EC for feature selection, which identifies the contributions of these different algorithms. In addition, current issues and challenges are also discussed to identify promising areas for future research.</p

Musikklassifikation mittels auditorischer Modelle zur Optimierung von Hörgeräten

In der Dissertation werden für drei Musikklassifikationsprobleme - Toneinsatzzeiterkennung, Tonhöhenschätzung und Instrumentenklassifikation - Verfahren entwickelt, die auf der Ausgabe eines Simulationsmodells des menschlichen Hörvorgangs (Ohrmodell) aufbauen. Für modifizierte Ohrmodelle, die eine Hörschädigung simulieren, kann mit Hilfe dieser Verfahren evaluiert werden, wie gut Musik differenziert wird. Ziel eines Hörgeräts ist es, die Identifizierbarkeit von Musikeigenschaften zu steigern. Durch die Verknüpfung eines Hörgerätealgorithmus mit dem Ohrmodell und den Musikklassifikationsverfahren kann somit die Güte des Hörgeräts für eine durch das Ohrmodell gegebene Hörschädigung bewertet werden. Für die Paramateroptimierung des Hörgerätealgorithmus mit Hilfe der sequentiellen modellbasierten Optimierung (MBO) wird diese Bewertung als Kostenfunktion verwendet. Für die Schätzung der drei untersuchten Klassifikationsprobleme existieren bereits umfangreiche Forschungsarbeiten, die jedoch üblicherweise nicht die Ohrmodellausgabe sondern die akustische Wellenform als Grundlage nutzen. Daher werden zunächst die entwickelten Verfahren gegen diese Standardverfahren getestet. Für die Vergleichsexperimente wird ein statistischer Versuchsplan, dem ein Plackett-Burman-Design zu Grunde liegt, aufgestellt, um die untersuchten Musikdaten in einer strukturierten Form auszuwählen. Es wird gezeigt, dass die Ohrmodellbasierte Merkmalsgrundlage keinen Nachteil darstellt, denn für die Tonhöhenschätzung und die Instrumentenklassifikation werden sogar die Ergebnisse der Standardverfahren übertroffen. Lediglich bei der Einsatzzeiterkennung schneidet das entwickelte Verfahren etwas schlechter ab, für das jedoch weitere Verbessserungsideen vorgeschlagen werden. Durch den Versuchsplan werden acht musikalische Einflussgrößen berücksichtigt. Für diese wird evaluiert, wie sie sich auf die Güte der Klassifikationsverfahren auswirken. Neben vielen erwarteten Ergebnissen, z.B. die größeren Fehlerraten bei einer Streicherbegleitung auf Grund der klanglichen Nähe zum Cello, kommen auch einige unerwartete Ergebnisse heraus. Beispielsweise sind höhere Tonhöhen und kürzere Töne vorteilhaft für die Einsatzzeiterkennung, wohingegen tiefere Tonhöhen die Ergebnisse der Instrumentenerkennung verbessern. Der Versuchsplan wird auch für einen Vergleich des normalen Ohrmodells (ohne Hörschädigung) mit drei Modellen, die unterschiedliche Hörschädigungen simulieren (Hearing Dummies), verwendet. Für all diese Modelle steigen die Fehlerraten der Musikklassifikationsverfahren in plausiblen Stärken, die abhängig von den Hörschädigungen sind. Schließlich wird die praktische Anwendbarkeit des Bewertungsverfahrens in einer leicht vereinfachten Form, die aus Rechenzeitgründen lediglich die Ergebnisse der Instrumentenerkennung berücksichtigt, für die Optimierung eines Hörgerätealgorithmus getestet. Dabei wird MBO verwendet, um das Hörgerät optimal an eine starke Hörschädigung (Hearing Dummy 1) anzupassen. Durch das optimierte Hörgerät wird die Fehlklassifikationsrate stark reduziert, und auch eine vergleichende Experteneinstellung wird geschlagen (27% ohne Hörgerät, 19% mit Hörgerät und Experteneinstellung, 14% mit optimiertem Hörgerät). Wie die Auswertung des Versuchsplans zeigt, wird am stärksten die Klassifikationsgüte für Musikstücke mit Streicherbegleitung verbessert. Am Ende der Dissertation wird noch umfangreich diskutiert, welche Möglichkeiten es gibt, die Laufzeit von MBO für das vorgestellte Optimierungsproblem zu reduzieren