[发明专利]基于条件互信息的动态特征选择方法

权利要求书

1.基于条件互信息的动态特征选择方法，其特征在于，具体按照以下步骤实施：

步骤1.对数据集进行预处理，得到预处理数据集；

步骤2.对步骤1得到的预处理数据集进行离散化处理，将预处理数据集中的所有特征划分到不同的特征等级中；

步骤3.计算经步骤2离散化处理后的数据集中所有特征X与类变量Y之间的重要程度；

步骤4.根据步骤3计算出的特征与类之间的重要程度I(X；Y)后，选择重要程度最大的特征作为重要特征，将重要特征从原特征集合中删除，添加到候选特征集合中，作为第一个被选入候选特征集的候选特征，再计算其余候选特征。

2.根据权利要求1所述的基于条件互信息的特征选择与评价方法，其特征在于，所述步骤1具体为：

数据集中的每一列为一个特征，每个特征有n行，将每个特征的取值范围压缩到0和1之间，得到预处理后的特征X。

3.根据权利要求2所述的基于条件互信息的特征选择与评价方法，其特征在于，所述步骤2具体按照以下步骤实施：

步骤2.1，对特征X中的所有元素进行升序排序得到X’；

步骤2.2，分别取X’中第n/5，第2*n/5，第3*n/5,第4*n/5,第5*n/5位置的元素；

步骤2.3，设y为特征等级，若0＝X[i]X’[n/5]，则y＝0；若X’[n/5]＝X[i]X’[2*n/5]，则y＝1；若X’[2*n/5]＝X[i]X’[3*n/5]，则y＝2；若X’[3*n/5]＝X[i]X’[4*n/5]，则y＝3；若X’[4*n/5]＝X[i]＝X’[5*n/5]，则y＝4；按照此规律将特征X中所有元素都划分为在不同的特征等级中；

其中，y∈{0,1,2,3,4}，i代表特征X的第i个元素，X[i]表示特征X的第i个特征值。

4.根据权利要求2所述的基于条件互信息的特征选择与评价方法，其特征在于，所述步骤3具体按照以下步骤实施：

计算每个特征X与类变量Y之间的重要程度，计算公式如下：

其中，类指的是数据集中的标签列，X表示特征，x是X可能的取值，Y表示类变量，y是Y可能的取值，公式中p(y)是y的概率分布，p(x)是x概率分布，p(x,y)表示x和y同时发生时候的概率分布；

且p(x)和p(y)的计算如下：

其中，N(X＝x)表示X取值为x的个数，N(X≠x)表示不包含X取值为x的个数，N(Y＝y)表示Y取值为y的个数，N(Y≠y)表示不包含Y取值为y的个数。

5.根据权利要求1所述的基于条件互信息的动态特征选择方法，其特征在于，所述步骤4计算其余候选特征的具体步骤如下；

当候选特征集合中的特征个数大于1的时候，使用前向迭代算法选择i-1个重要特征，计算候选特征在特征集合中的重要程度，每一次迭代，选择当前阶段最重要的特征，然后把这个重要的特征从原特征集中删除，放入候选特征集S中，经过i-1次迭代，最终得到大小为i的特征子集。

6.根据权利要求5所述的基于条件互信息的动态特征选择方法，其特征在于，所述计算特征重要程度的评价标准MRIDFS为：

其中，X_i为目标特征，X_j为候选特征集S中的某个已选特征，类Y指的是数据集中标签列。