[发明专利]一种可重构多分类支持向量机系统有效
申请号: | 201910528797.5 | 申请日: | 2019-06-18 |
公开(公告)号: | CN110427960B | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 李丽;孙瑞;傅玉祥;陈辉;高珺;何书专 | 申请(专利权)人: | 南京大学 |
主分类号: | G06F18/2411 | 分类号: | G06F18/2411 |
代理公司: | 南京汇盛专利商标事务所(普通合伙) 32238 | 代理人: | 陈扬;吴扬帆 |
地址: | 210046 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 可重构多 分类 支持 向量 系统 | ||
本发明涉及可重构多分类支持向量机系统,该系统包括:主控制模块,存储控制模块,核函数运算模块,类别运算模块和结果比较模块。所述主控制模块为整个决策过程提供控制信息和重构信息;所述的存储控制模块控制数据的存储;所述的核函数运算模块计算测试数据和支持向量之间的核函数;所述的类别运算模块计算决策值和分类类别;所述的结果比较模块比较不同模型计算得到的决策值,得到测试数据的最终分类结果。与传统方法相比,本发明充分利用硬件的并行性,加快了支持向量机分类的运算速度,核函数运算模块和类别运算模块共享计算资源,支持硬件可重构,对于不同特征数的样本具有很好的灵活性。
技术领域
本发明属于机器学习算法的硬件实现领域,尤其涉及一种可重构多分类支持 向量机系统。
背景技术
支持向量机(support vector machine,SVM)是一种监督式机器学习算法, 可以用于分析数据、识别模式、数据分类和回归分析,运用十分广泛。支持向量 机算法可以分为训练和决策两部分,其中训练部分由于计算方式复杂,计算量大, 一般是在高性能服务器上进行;决策部分利用训练好的模型对样本数据进行分类 或回归分析,其计算过程包括大量的乘加运算。记输入样本为x,第i个支持向量 为xi,其对应的系数为αi,其对应的标签为yi,偏置为b,两个向量之间的核函 数为k(xi,xj),则决策函数为:
上述过程针对二分类问题。在现实任务中利用支持向量机进行数据分类时, 会遇到多分类问题。目前,构造SVM多分类器的方法主要有两类:一类是直接法, 直接构造一个模型进行多分类,这种方法看似简单,但计算复杂度高,实现困难。 因此一般采用的是间接法:该方法是训练多个二分类SVM,再根据一定的机制来 进行多分类决策。常用的方法有:一对多法(one-versus-rest,OVR),一对一 法(one-versus-one,OVO),二叉树法(BinaryTree,BT),有向无环图(Directed Acyclic Graph,DAG)。
随着集成电路产业的飞速发展,高性能与实时性是嵌入式领域的不懈追求。 当前,针对支持向量机的硬件实现,大部分都是基于CPU、GPU平台进行设计。 CPU中存在大量的Cache和控制单元,用于计算的ALU数量较少,而GPU有着大 量的计算资源和存储资源,控制简单,因此对于计算密集的算法,GPU比CPU有 着更快的运算速度,但GPU的面积较大,能耗很高,不适用于嵌入式实时运算。
发明内容
本发明目的在于克服上述背景技术中支持向量机实现方式的不足,针对决策 部分,采用一对一法进行多分类,提出一种可重构的多分类支持向量机的硬件实 现,支持计算资源可重构,硬件可裁剪,支持并行和流水操作,从而提高计算速 度。具体由以下技术方案实现:
所述可重构多分类支持向量机系统,包括:
主控制模块,控制整个计算流程,提供计算资源的重构信息;
存储控制模块,控制各运算模块的数据存储;
核函数运算模块,接收测试数据与支持向量,并计算测试数据和支持向量之间的核函数,并得到运算结果;
类别运算模块,根据所述运算结果,计算核函数与对应的拉格朗日乘子系数的乘累加结果,再将乘累加结果加上偏置,得到决策值和类别,并将相应的类别票数 加1;
结果比较模块,比较各个类别的票数,得到测试数据的最终分类结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910528797.5/2.html,转载请声明来源钻瓜专利网。