[发明专利]一种基于AdaBoost的支持向量机集成学习方法在审
申请号: | 201811264179.6 | 申请日: | 2018-10-29 |
公开(公告)号: | CN109472302A | 公开(公告)日: | 2019-03-15 |
发明(设计)人: | 陈宏义;雷鹤杰;梁锡军;渐令 | 申请(专利权)人: | 中国石油大学(华东) |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/10;G06N20/20 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 266580 山*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 支持向量机 集成学习 弱分类器 分类问题 强分类器 样本分布 有效工具 构建 加权 挖掘 预测 学习 | ||
1.一种基于AdaBoost的支持向量机集成学习方法,其特征在于:含有以下步骤:
(一)初始化样本权重,选择加权SVM(W-SVM)构建弱分类器,对类不平衡问题进行分类;
(二)采用AdaBoost算法动态调整学习样本的权重,并根据弱分类器fk(x)的精度确定弱分类器的权重αk;
(三)通过交叉验证法确定弱分类器数量T,并将T个弱分类器集成为强分类器
2.根据权利要求1所述的一种基于AdaBoost的支持向量机集成学习方法,其特征在于:在步骤(一)中,初始化样本权重,选择W-SVM构建弱分类器,对类不平衡问题执行二分类任务。具体步骤为:初始化样本权重在训练样本集合上选择高斯核作为模型核函数,即k(xi,xj)=exp(-‖xi-xj‖2/d),训练W-SVM模型得到决策函数:利用决策函数预测测试样本x的标签:
y=sign(fk(x)) (1)
3.根据权利要求1所述的一种基于AdaBoost的支持向量机集成学习方法,其特征在于:步骤(二)中,采用AdaBoost算法动态调整学习样本的权重wk,i,并根据分类精度确定弱分类器的权重αk。具体步骤为:计算第k个弱分类器fk(x)在训练集上的加权误差率为
即fk(x)在训练数据集上的误差率ek就是被fk(x)误分样本的加权求和。
计算该弱分类器fk(x)在集成分类器中的权重:
更新训练样本权重,学习第k+1个弱分类器时的样本权重为:
其中,为归一化因子。
4.根据权利要求1所述的一种基于AdaBoost的支持向量机集成学习方法,其特征在于:步骤(三)中,将多个弱分类器集成为强分类器的具体步骤为:根据集成策略,AdaBoost采用的是加权平均法,按照权重αk组合各个弱分类器,得到
通过符号函数sign的作用,得到强分类器
其中T为迭代次数,通过交叉验证法确定。
本发明涉及一种基于AdaBoost的支持向量机集成学习方法。基于AdaBoost算法框架,该方法可实现样本权重的动态调整,进而深入挖掘样本分布信息。通过引入W-SVM模型构建弱分类器实现对类不平衡问题的分类。最后,通过集成策略将多个W-SVM弱分类器集成为强分类器,提升了预测模型的分类精度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国石油大学(华东),未经中国石油大学(华东)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811264179.6/1.html,转载请声明来源钻瓜专利网。