[发明专利]一种最小最大局部结构信息的特征选择方法

说明书

【技术领域】

本发明涉及特征选择的方法，特别涉及最小最大局部结构信息的特征选择方法。

【背景技术】

在许多机器学习任务中，常常会碰到许多高维数据，如计算视觉和模式识别中的人脸图像、数据挖掘中的文本数据等，在处理高维数据时，需要很长的处理时间和可观的存储空间，所以在进行分类、聚类等机器学习任务前，需要对高维数据进行降维预处理，如特征选择和特征提取，目的是获得一个低维的特征子集。

一般地，特征选择分为捆绑式和滤波式，捆绑式是利用现有的分类器来评价各个特征子集，从而找出最优的特征子集。对于某一个特定的分类器而言，捆绑法可以获得较好效果，但它需要分类器在各个特征子集进行训练，导致计算复杂度非常高；滤波式则直接利用一个准则函数，如Fisher Score、LaplacianScore等，来评价每个特征的优劣，滤波式特征选择方法又分为无监督和有监督两种，实际应用中，由于获取标签数据非常难且成本高，而获得无标签数据很容易，所以无监督滤波式特征选择方法一直得到很大的关注。

在机器学习中，流行学习一直是关注的焦点，为了反映潜在的数据流行结构，提出了诸如ISOMAP、拉普拉斯特征映射、局部线性嵌入、局部保持投影和近邻保持投影等特征提取方法和无监督的特征选择方法Laplacian Score，Laplacian Score利用局部不变性保证特征子集保持数据流行结构，但局部结构信息之间的关系并未考虑，而这种局部结构信息间的关系在机器学习任务扮演重要作用，因此所获得的特征子集所具备的表示能力有所欠缺。

【发明内容】

本发明的目的就是解决现有技术中的问题，提出一种最小最大局部结构信息的特征选择方法，提供一种无监督的特征选择准则，使所获得的特征子集具有更好的表示能力。

为实现上述目的，本发明提出了一种最小最大局部结构信息的特征选择方法，包括如下步骤：

A)构建一个全局图G和对应的权矩阵W，

Wij=exp(-||xi-xj||22t2)---(1)]]>

其中，x_i和x_j为样本点，t为常量；

B)根据A)步骤中的全局图G和权矩阵W，构建一个近邻图G_w和对应的权矩阵W_w，

其中，N(x_i)和N(x_j)分别表示样本点x_i和x_j的k个近邻子集；

C)根据B)步骤中计算得到的权矩阵W_w，计算权矩阵A＝W_w-αW，对角矩阵D和拉普拉斯矩阵L＝D-A，其中0≤α≤1；

D)计算各个特征的最小最大局部结构信息的拉普拉斯指标MMLS_r