Chavent, Guy

Chavent, Marie

INRIA a CCSD electronic archive server

Approche bloc en ACP group-sparse: le package sparsePCAMarie Chaventa,b et Guy ChaventcaIMB, UMR 5251, Université de Bordeaux, 33400 TalencebInria Bordeaux Sud-Ouest, équipe CQFD, 33405 Talencemarie.chavent@u-bordeaux.frcInria-Paris, 75589 Parisguy.chavent@inria.frMots clefs : ACP sparse, sélection de variables groupe, optimisation en bloc.La plupart des algorithmes développés ces dernières années en ACP sparse visent à déterminerune seule composante principale et utilisent le processus de déflation hérité de l’ACP non sparselorsqu’il s’agit de calculer les composantes suivantes (voir par exemple [2], [5]). Cependant,l’utilisation de la déflation en ACP sparse où les composantes et les loadings ne sont plusnécessairement orthogonaux peut mener à des difficultés [4] et on peux s’attendre à ce quel’optimisation direct de la variance selon tous les loadings soit plus efficace qu’une approcheséquentielle. Certains auteurs ont ainsi proposés des algorithmes déterminant tous les loadingssimultanément : Zou et al. [6] resolvent l’ACP sparse comme un problème de type régressionalternée et Journée et al. [3] utilisent une approche duale de type bloc.Nous allons présenter dans cette communication une approche de type bloc en ACP group-sparse où les variables sont organisées en groupes et où la sparsité s’applique aux groupes devariables et non plus aux variables individuelles. Cette approche généralise au cas de variablesgroupe la formulation `1-sparse de Journée et al. [3] et l’algorithme associé.Ce nouvel algorithme d’ACP group-sparse a été implémenté dans le package R sparsePCA quiest disponible à l’adresse suivante : https://github.com/chavent/sparsePCA. Nous présenteronsles principales fonctionnalités de ce package et nous comparerons sur une étude de simulationles approches bloc et déflation en ACP group-sparse [1]. Cette étude de simulation montreraégalement comment la prise en compte de l’information sur les groupes en ACP group-sparsepeut permettre de mieux retrouver les patterns de sparsité qu’avec l’ACP sparse.Références[1] Chavent, M., Chavent, G. (2017). Group-sparse bloc PCA and explained variance, arXivpreprint arXiv:1705.00461 [stat.ML][2] D’Aspremont, A., Bach, F., El Ghaoui, L. (2008). Optimal solutions for sparse principalcomponent analysis. Journal of Machine Learning Research, 9(Jul):1269-1294.[3] Journée, M., Nesterov, Y., Richtarik, P., Sepulchre, R. (2010). Generalized power method forsparse principal component analysis. Journal of Machine Learning Research, 11(Feb):517-553.[4] Mackey , L.W. (2009). Deflation methods for sparse pca. In Advances in neural informationprocessing systems, 1017-1024.[5] Shen, H., Huang, J.Z. (2008). Sparse principal component analysis via regularized low rankmatrix approximation. Journal of multivariate analysis, 99(6):1015-1034, 2008.[6] Zou, H., Hastie, T., Tibshirani, R. (2006). Sparse principal component analysis. Journal ofcomputational and graphical statistics, 15(2):265-286.

Approche bloc en ACP group-sparse: le package sparsePCA

Abstract

Similar works

Full text

Available Versions

INRIA a CCSD electronic archive server

Oskar Bordeaux

Oskar Bordeaux