[发明专利]异构代价敏感机制决策树构建方法

摘要

本发明提出一种异构代价敏感机制决策树构建方法，属性S的目标为候选分裂属性选择因子，选取最大的值作为该节点候选分裂属性，分支的分裂属性选择由确定，即选取更小的分支，加上一个叶子节点。循环执行上述操作，就可以遍历整个训练样本集，得到强分类能力以及低误分类代价和测试代价的决策树。此发明加强了决策树的分类能力，标准化了误分类代价和测试成本代价，解决了候选属性误分类代价和测试代价的不同单位机制问题，避免了候选属性分裂选择的偏向大数量级属性问题。因此能够得到高的分类精度以及降低误分类代价和测试代价。

主权项

异构代价敏感机制决策树构建方法，该方法涉及机器学习、人工智能以及数据挖掘领域，其特征是，包括如下步骤：步骤1：设训练集中有个样本，属性个数为，即,同时分裂属性对应个类，其中,相关领域用户设定好误分类代价矩阵C、属性测试代价为步骤2：创建根节点G步骤3：如果训练数据集为空，则返回结点G并标记失败步骤4： 如果训练数据集中所有记录都属于同一类别，则该类型标记结点G步骤5：如果候选属性为空，则返回G为叶子结点，标记为训练数据集中最普通的类步骤6：根据属性S的目标函数f从候选属性中选择目标函数f：为信息纯度函数，为标准化测试代价比率函数，为标准化误分类代价比率函数当选择属性满足目标函数f越大时，则找到标记结点G当出现目标函数f相等时，为打破平局标准，则按照下面的优先顺序再进行选择：（1）更小的（2）更小的步骤7：标记结点G为属性步骤8：根据基尼指数，由结点延伸出满足条件为分支, 如果满足以下两条件之一，就停止建树8.1这里假设为训练数据集中的样本集合，如果为空，加上一个叶子结点，标记为训练数据集中最普通的类8.2此结点中所有例子属于同一类步骤9：非8.1与8.2中情况，则递归调用步骤6至步骤8步骤10：利用后剪支技术解决此决策树模型中过度拟合问题步骤11：更新训练数据集，保存新的示例数据。