[发明专利]一种基于l0-合页损失函数的鲁棒分类方法在审
| 申请号: | 201810310185.4 | 申请日: | 2018-04-08 |
| 公开(公告)号: | CN108764274A | 公开(公告)日: | 2018-11-06 |
| 发明(设计)人: | 李洽;唐建雄 | 申请(专利权)人: | 中山大学 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62 |
| 代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 林瑞云 |
| 地址: | 510220 *** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 损失函数 合页 鲁棒 分类超平面 分类样本 分类器 噪声 标签 测试样本 大小变化 分类性能 训练样本 罚函数 离散性 鲁棒性 下降法 分类 平滑 分块 分段 判决 预测 | ||
1.一种基于l0-合页损失函数的鲁棒分类方法,其特征在于,所述方法利用罚函数与分块坐标下降法解出分类超平面,对测试样本进行预测判决,具体包括以下步骤:
S1.获取训练集数据
S2.计算关于训练样本的核矩阵K,令n维对角方阵Y的主对角元为训练标签;
S3.初始化参数向量u、v,罚函数惩罚因子β;
S4.在鲁棒分类器l0-SVM模型中,通过分块坐标下降法交替迭代求解u和v,使目标函数的误差最小化;
S5.当鲁棒分类器l0-SVM模型的目标函数的相对误差小于设定阈值,令分类超平面参数w的组合系数偏置b=un+1,跳转至S6;
否则,增大惩罚因子β,跳到S4;
S6.输出α,b;
S7.对测试样本进行准确度预测。
2.根据权利要求1所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,所述鲁棒分类器l0-SVM模型如下式:
其中,(w,b)为分类超平面,φ是特征映射函数,第一项为l0-合页损失,||·||0为取l0范数操作;在l0-合页损失中,如果训练样本被错误分类,即损失函数值为1,否则为0,第二项为正则化项,γ为正则化参数,为了防止过拟合,γ一般通过交叉验证选择,鲁棒分类器l0-SVM的模型可描述为:在最大化分类超平面关于训练样本的间隔的同时使得被错误分类的训练样本数目尽可能少,设w是训练样本在特征投影空间上的线性组合,即αi为组合系数。
3.根据权利要求1所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,对所述鲁棒分类器l0-SVM模型引入核函数的概念,令棒分类器l0-SVM模型表示为下式:
Y是以训练样本的标签作为主对角元的对角阵,K为关于训练样本的核矩阵。
4.根据权利要求3所述所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,基于罚函数与分块坐标下降法求解鲁棒分类器l0-SVM模型,给定约束条件Y[K 1n]u=v,鲁棒分类器l0-SVM的等价模型如下:
s.t. Y[K 1n]u=v
5.根据权利要求4所述所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,所述利用罚函数方法对鲁棒分类器l0-SVM进行分解,得到关于鲁棒分类器l0-SVM的罚函数模型,如下式:
对上述鲁棒分类器l0-SVM的罚函数模型进行最小化可得出分类超平面。
6.根据权利5所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,利用分块坐标下降法对所述鲁棒分类器l0-SVM的罚函数模型交替迭代更新u、v,使得鲁棒分类器l0-SVM的罚函数模型的目标函数最小化,将罚函数问题的目标函数用Fβ(u,v)来表示,在第k+1次迭代时,得下式:
其中λ是足够小的正实数,引入利用近似最小化的思想更新u,足够小的λ可使得近似最小化的解能够逼近原问题的解,对上述式子求关于u的导数并令导数为0,求解关于u的线性方程组可得
7.根据权利要求6所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,解上述公式中vk+1得下式:
为了方便,令
8.根据权利要求7所述基于l0-合页损失函数的鲁棒分类方法,其特征在于,解vk+1中的每一元素
当ai≥1,如果则为极小值;
当ai<1,
令g(v)=||(1n-v)+||0
(1)如果则fi是关于的增函数,当时,取得极小值,极小值为
(2)如果则当取得极小值,极小值为1;
(3)比较与时,与fi(ai)=1的大小,可得到如下关系
得的显式解为
其中,a=Y[K 1n]uk+1,i=1,2,...,n。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学,未经中山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810310185.4/1.html,转载请声明来源钻瓜专利网。





