[发明专利]一种数据流决策树分类中的缺失值处理方法

说明书

技术领域

本发明属于数据流挖掘技术领域，具体涉及一种数据流决策树分类中的缺失值处理方法。

背景技术

随着大数据时代的到来，应用系统高速且连续不断地产生数据流，如何从数据流中挖掘出有用信息，已成为技术人员关心的热点。数据流决策树分类技术是数据流挖掘中的重要研究方向，该技术能够应用到网络入侵检测和信用卡欺诈等很多方面。实际中的数据流会因网络传输故障、传感器失灵或人工操作失误等原因出现缺失值。在数据流决策树分类中，数据流中的缺失值会对分类准确率造成严重影响。然而，数据流在挖掘过程中只能被扫描一次，无法在挖掘过程前预先采取处理缺失值的措施。

文献[1](参考Domingos P,Hulten G.Mining high-speed data streams[C]//Proceedings of the Sixth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.2000:71-80.)提出了Hoeffding决策树分类方法，利用Hoeffding界定理增量学习数据流中的数据样本。Hoeffding决策树分类方法依据当前构造的决策树将数据样本分配到叶子节点，叶子节点依据存储的样本信息和Hoeffding界定理确定最优分裂属性，继而分裂成为内部节点。通过不断重复上述过程来动态地构造决策树，直至决策树达到稳定。

文献[2](参考Yang H,Fong S.Aerial root classifiers for predicting missing values in data stream decision tree classification[C]//2011SIAM International Conference on Data Mining(SDM2011).2011:28-30.)提出了ARC(Aerial Root Classifiers)方法，在Hoeffding决策树分类方法的基础上增加了缺失值处理机制。ARC方法利用滑动窗口保存最新的数据样本，当检测到缺失属性值时，利用滑动窗口中的样本为该属性建立子分类器并预测缺失的属性值，然后再依据Hoeffding决策树分类方法来构造决策树。ARC方法同时设计了更新机制，用于解决子分类器过时的问题。依据决策树分裂节点时的属性度量值为每个属性分配权重，按权重相加每个属性对应子分类器的错误率，从而得到总体错误率。当总体错误率超过预设的阈值时，依次选择权重最大的属性来更新其对应的子分类器，直到总体错误率满足要求。

但是，ARC方法的时间性能在数据样本的特征属性较多时显著下降，而时间性能是数据流挖掘中的重要衡量指标，因此严重影响了ARC方法的时间性能，使传输效率降低，影响了实际中的应用价值。

发明内容

本发明技术解决问题：克服现有技术的不足，提供一种数据流决策树分类中的缺失值处理方法，根据数据特点自适应选择缺失值处理方法，采用改进的贝叶斯分类模型，同时优化更新机制，从而降低时间开销，提升时间性能，提高数据流的分类处理速度，从而满足实际数据流处理的应用。

本发明的技术方案为：一种数据流决策树分类中的缺失值处理方法，其步骤为：

步骤1：读取数据流中的数据样本，并使用固定容量的滑动窗口W保存最新到达的数据样本；

步骤2：当前数据样本中的属性X_i存在缺失值时，建立或更新属性X_i对应的缺失处理器。若属性X_i的缺失处理器已存在，则跳至步骤4更新缺失处理器，否则进入步骤3建立缺失处理器；

步骤3：计算滑动窗口W中同类样本关于属性X_i的标准差σ(X_i)，若σ(X_i)不超过阈值σ_m，则选择使用众数或平均值代替缺失值，否则建立子分类器来预测缺失值。根据此方法建立缺失处理器并跳至步骤5；

步骤4：计算缺失处理器的加权总错误率E，若E超过阈值β，则选择权重最大且错误率e_i＞β^*的缺失处理器进行更新，直到E低于阈值β；

步骤5：利用缺失处理器补充属性X_i的缺失值，得到完整的数据样本；

步骤6：依据Hoeffding决策树分类方法训练完整的数据样本，动态地构造决策树模型，并根据决策树分裂叶子节点时的属性度量值为每个属性X_i更新权重；