[发明专利]一种处理高维数据的特征选择方法

说明书

本发明公开了一种处理高维数据的特征选择方法，包括以下步骤：S1、从包含多个类别的数据集中随机选择一个样本；S2、选择与步骤S1中所选样本距离最近的k个同类样本；S3、分别从不同类别中选择k个与S1中样本距离最近的样本；S4、计算步骤S1中的样本到步骤S2中同类样本之间的欧式距离以及步骤S1中的样本到步骤S3中同类样本之间的欧式距离；S5、计算每个类别的聚类中心的值；S6、计算将步骤S1中的所有样本与其他类别的聚类中心的欧式距离之和；S7、通过迭代m个样本，重复上述步骤。根据本发明，解决高维数据特征选择的问题，增强了每个样本与不同类别之间的关系，使得每个特征的权重计算变得更加合理。

技术领域

本发明涉及数据处理的技术领域，特别涉及一种处理高维数据的特征选择方法。

背景技术

在大数据时代，大量的样本和特征数会极大地增加计算量，此外，在高维空间中分析数据时不仅会带来维数灾难和增加学习难度，甚至还会降低分类精度以及降低数据的可解释性。

当高维空间中存在大量冗余和不相关的特征时，数据便会变得稀疏，从而需要大量的样本来训练模型，而这又大大增加了数据处理的难度。例如，当我们想研究一个胰腺癌患者术后五年生存率的预测时，诸如肤色、身高、宗教信仰等不相关特征不仅会增加学习难度，甚至还会降低预测精度。

相似的实现方案：

1)随机选择一个样本，记作R_i；

2)选择距样本R_i最近的k个同类样本，记作H_j；

3)在每个与样本R_i不同的类别中分别选择与样本R_i最近的k个样本，记作M_j(C)，其中C表示与R_i不同的类；

4)利用下列公式求得每个特征的权重大小：

其中A表示特征，m表示迭代次数，k表示最近邻个数，P(C)表示除R_i所在类以外每个类别样本数占总样本的比例，1-P(class(R_i))表示除R_i所在类以外其他类样本总数占总样本数的比例。对于上述算法，我们可以发现一些明显的缺陷，例如上述算法不能很好的解释样本与每个类别的关系，这不利于每个特征权重的合理计算；此外，上述算法仅计算了每个特征的权重大小，没有阐明如何合理的利用这些权重来选择特征子集。

发明内容

针对现有技术中存在的不足之处，本发明的目的是提供一种处理高维数据的特征选择方法，解决高维数据特征选择的问题，增强了每个样本与不同类别之间的关系，使得每个特征的权重计算变得更加合理。为了实现根据本发明的上述目的和其他优点，提供了一种处理高维数据的特征选择方法，包括以下步骤：

S1、从包含多个类别的数据集中随机选择一个样本；

S2、选择与步骤S1中所选样本距离最近的k个同类样本；

S3、分别从不同类别中选择k个与S1中样本距离最近的样本；

S4、计算步骤S1中的样本到步骤S2中同类样本之间的欧式距离以及步骤S1中的样本到步骤S3中同类样本之间的欧式距离；

S5、计算每个类别的聚类中心的值；

S6、计算将步骤S1中的所有样本与其他类别的聚类中心的欧式距离之和；

S7、通过迭代m个样本，重复上述步骤。

优选的，所述步骤S1中从数据集中随机选择一个样本，记作R_i，所述步骤S2中在R_i的同类别样本中利用欧式距离选择距样本R_i最近的k个同类样本，记作H_j。