动态加权非参数判别分析

Abstract

LDA是最经典的子空间学习和有监督判别特征提取方法之一.受到流形学习的启发,近年来众多基于LDA的改进方法被提出.尽管出发点不同,但这些算法本质上都是基于欧氏距离来度量样本的空间散布度.欧氏距离的非线性特性带来了如下两个问题:一、算法对噪声和异常样本点敏感;二、算法对流形或者是多模态数据集中局部散布度较大的样本点过度强调,导致特征提取过程中数据的本质结构特征被破坏.为了解决这些问题,本文提出了一种新的基于NDA的维数约减方法,叫作动态加权非参数判别分析(Dynamic Weighted Nonparametric Discriminant Analysis,DWNDA).DWNDA采用动态加权距离来计算类间散布度和类内散布度,不仅能够保留多模态数据集的本质结构特征,还能有效地利用边界样本点对之间的判别信息.因此,DWNDA在噪声实验中展现了对噪声和异常样本的强鲁棒性.此外,我们还在人脸和手写体数据库上进行实验,DWNDA方法均取得了优异的实验结果.国家自然基金项目(61203176);;福建省自然科学基金项目(2013J05098,2016J01756