[发明专利]用于不完整数据分类的集成学习树构建方法

说明书

本发明公开用于不完整数据分类的集成学习树与基于视图的决策树、J48相比，分类精确率、回归率和F1有所提升；本发明的方法在选择视图对应的特征时，既考虑了待选特征对于分类效果的提升程度，又考虑了待选特征和整个已选特征集合的冗余关系；并且在视图的基础上提出了缺失模式的概念，测试样本先根据其视图到达对应的树节点，然后再根据其缺失模式找到其对应的一系列分类器，这些分类器使用集成学习的方法对其进行分类。结果显示，在大部分数据集下，本发明提出的方法相比于其他两种方法而言，评估指标更优。

技术领域

本发明属于数据挖掘处理技术领域，具体涉及一种用于不完整数据分类的集成学习树构建方法。

背景技术

随着信息社会的快速发展，各个领域的数据规模也在快速增长，如何在这些海量的数据中找到本发明需要的信息就显得尤为重要。数据挖掘技术是本发明最常使用的方法之一，但是实际数据中往往存在缺失值的情况。如果直接使用这些不完整的数据进行分类/预测，就会影响到分类/预测结果。因此有必要对这些不完整数据进行处理。

目前，对于不完整数据的分类方法主要有两种。第一种是直接忽略掉那些具有缺失值的样本，然后用处理完整数据的方法对剩下的样本进行处理。这样做虽然很简单，但是如果缺失值样本比例过高时，就会严重影响实际数据的分类效果。

第二种方法是使用统计模型或机器学习方法对缺失值进行填充，然后使用处理完整数据的方法对不完整数据进行处理。这种方法可能会引进新的数据误差，并且在填充的过程中会增加大量的时间和空间消耗。

发明内容

本发明的目的是提供一种用于不完整数据分类的集成学习树构建方法，解决了现有技术中存在的对于不完整数据分类效果差的问题。

本发明所采用的技术方案是，用于不完整数据分类的集成学习树构建方法，具体按照以下步骤实施：

步骤1、对数据集D(F₁，F₂，...，F_K，label)进行缺失处理，其中F₁，F₂，...，F_K为K个特征，label为所属的类别；

步骤2、将经过缺失处理的数据集D按照十折交叉的方式划分为训练集D₁和测试集D₂；

步骤3、对训练集D₁使用基于视图和缺失模式的方法得到初级集成学习树；

步骤4、利用测试集D₂对初级集成学习树进行测试，获得集成学习树。

本发明的特点还在于：

步骤1数据集选自以下数据集：hepatitis、breast-cancer、processed-cleveland、processed-hungarian、primary-tumor、horse colic、mammographic_masses。

步骤1具体过程为：

判断数据集D(F₁，F₂，...，F_K，label)是否缺失数据，其中F₁，F₂，...，F_K为K个特征，label为所属的类别，若缺失，则不进行处理，若不缺失，则采用完全随机缺失的准则将数据集D变为不完整数据集。

步骤3具体过程为：

步骤3.1、采用递归调用生成学习树，对于学习树上的节点node，判断节点node是否为根节点，若为根节点，则该节点包含的样本集合为训练集D₁；若不是根节点，则为用其父节点的分类器分到某一类别的样本集合；