[发明专利]一种图像分类方法、深度学习模型及计算机系统有效
申请号: | 201610200963.5 | 申请日: | 2016-03-31 |
公开(公告)号: | CN107292322B | 公开(公告)日: | 2020-12-04 |
发明(设计)人: | 许松岑;张洪波 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 图像 分类 方法 深度 学习 模型 计算机系统 | ||
1.一种图像分类方法,其特征在于,包括:
利用深度学习模型对训练用图像信息进行预处理,得到输入向量x;
将所述输入向量x输入投影矩阵SD之后,将所述投影矩阵SD与参数矩阵相乘,并加入偏置量b,再通过激活函数f得到输出z;
利用联合迭代优化算法,根据所述输出z与期望输出y的差错量更新所述投影矩阵SD与所述参数矩阵直到所述深度学习模型全连接层的参数收敛;
将待分类图像信息输入所述深度学习模型,得到所述待分类图像的分类结果。
2.根据权利要求1所述的方法,其特征在于,所述利用深度学习模型对训练用图像信息进行预处理,得到输入向量x之后,所述方法还包括:
将所述投影矩阵SD初始化为大小为M×D的随机矩阵,将所述参数矩阵初始化为大小为D×N的随机矩阵;
其中,M、N和D均为大于或等于1的整数,且
3.根据权利要求1或2所述的方法,其特征在于,
4.一种图像分类方法,其特征在于,所述方法包括权利要求1至3任意一项所述方法的全部特征,并且,
所述激活函数f为sigmoid函数、tanh函数和ReLU函数中的任一种。
5.一种图像分类方法,其特征在于,所述方法包括权利要求1至4任意一项所述方法的全部特征,并且,所述利用联合迭代优化算法,根据所述输出z与期望输出y的差错量更新所述投影矩阵SD与所述参数矩阵直到所述深度学习模型全连接层的参数收敛,包括:
将所述输出z与期望输出y做差,得到差错量z-y;
建立以所述投影矩阵SD与所述参数矩阵为目标的代价函数,利用拉格朗日乘数法得到拉格朗日方程式:
其中,i为迭代的次数,SDopt和分别为所述投影矩阵SD和所述参数矩阵的最优解,‖·‖表示计算范数;
设置所述代价函数为:
针对所述代价函数,固定所述投影矩阵SD对所述参数矩阵求偏导数:并得到所述参数矩阵的更新公式:
针对所述代价函数,固定所述参数矩阵对所述投影矩阵SD求偏导数:并得到所述投影矩阵SD的更新公式:
其中,α、β为步长,(·)T表示转置,δ为定义的敏感度;
利用所述投影矩阵SD的更新公式和所述参数矩阵的更新公式分别对所述投影矩阵SD和所述参数矩阵进行更新,直到所述深度学习模型全连接层的参数收敛。
6.根据权利要求5所述的方法,其特征在于,所述全连接层的数量为多个,
对于最后一层全连接层,
对于非最后一层全连接层,
其中,f′(·)表示求导运算,(°)表示矩阵点乘运算,和δnext分别为下一层全连接层的参数矩阵和敏感度。
7.一种深度学习模型,其特征在于,包括:
第一处理模块,用于对训练用图像信息进行预处理,得到输入向量x;
第二处理模块,用于将所述输入向量x输入投影矩阵SD之后,将所述投影矩阵SD与参数矩阵相乘,并加入偏置量b,再通过激活函数f得到输出z;
更新模块,用于利用联合迭代优化算法,根据所述输出z与期望输出y的差错量更新所述投影矩阵SD与所述参数矩阵直到所述深度学习模型全连接层的参数收敛;
输出模块,用于输出所述第一处理模块、所述第二处理模块和所述更新模块对输入的待分类图像信息进行处理后得到的分类结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610200963.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:用于获得模型的方法和设备
- 下一篇:用于训练混合模型的方法和设备
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序