Une nouvelle méthode d’élagage d’ensemble de classifieurs basée sur le concept de marge

Abstract

Les méthodes d’ensemble ont été utilisées avec succès comme schéma de classification. Les algorithmes d’élagage d’ensembles de classifieurs sont apparus afin de réduire la complexité de ce paradigme populaire d’apprentissage. Cet article présente une nouvelle méthode efficace d’élagage d’ensembles qui, non seulement réduit de manière significative la complexité des méthodes d’ensemble, mais permet aussi une meilleure précision de classification que la version sans élagage. Cet algorithme consiste à ordonner tous les classifieurs de base par rapport à leur entropie qui exploite une nouvelle version de la marge des méthodes d’ensemble. La confrontation de cette méthode avec l’approche naïve d’élagage aléatoire des classifieurs de base et avec un autre algorithme d’élagage par ordonnancement a permis de montrer sa supériorité à travers une analyse empirique conséquente.Ensemble methods have been successfully used as a classification scheme. The reduction of the complexity of this popular learning paradigm motivated the appearance of ensemble pruning algorithms. This paper presents a new efficient ensemble pruning method which not only highly reduces the complexity of ensemble methods but also performs better than the non-pruned version in terms of classification accuracy. This algorithm consists in ordering all the base classifiers with respect to their entropy which exploits a new version of the margin of ensemble methods. Confrontation with both the naive approach of randomly pruning base classifiers and another ordered-based pruning algorithm turned out convincing in an extensive empirical analysis

    Similar works