[发明专利]一种基于设备参数的模型处理方法及电子设备在审
申请号: | 202110293414.8 | 申请日: | 2021-03-18 |
公开(公告)号: | CN113033779A | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 舒红乔;王奇刚;李远辉 | 申请(专利权)人: | 联想(北京)有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京金信知识产权代理有限公司 11225 | 代理人: | 喻嵘 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 设备 参数 模型 处理 方法 电子设备 | ||
本申请公开了一种基于设备参数的模型处理方法及电子设备,用以将深度学习模型部署在资源受限的设备。方法包括:解析目标设备的空间容量和待安装的目标模型所需的空间容量,目标模型包括至少一个卷积层;在目标设备的空间容量不满足目标模型所需的空间容量的情况下,基于目标设备的空间容量确定目标模型的压缩比率;基于压缩比率缩限目标模型中符合预设条件的卷积层的结构,以实现对目标模型的压缩;将压缩后的模型安装到目标设备中。采用本申请所提供的方案,实现了将深度学习模型部署在资源受限的设备的目的。
技术领域
本申请涉及人工智能领域,特别涉及一种基于设备参数的模型处理方法及电子设备。
背景技术
“边缘智能”是指将人工智能应用在边缘设备,以使人工智能能够普及到普通用户的真实生活中,但边缘设备(如移动手机的Face ID、无人机、去中心化自动驾驶系统等)的计算和存储等资源有限,且随着人工智能领域对机器智能化需求的提高,神经网络的结构设计得愈加复杂,所需的计算量和存储空间也随之大大增加,这使得深度神经网络难以在边缘设备上部署,因此,目前的神经网络依然没有深度应用在普通用户层面,如何将深度学习模型部署在资源受限的边缘设备,是亟需解决的技术问题。
发明内容
本申请提供了一种基于设备参数的模型处理方法,包括:
解析目标设备的空间容量和待安装的目标模型所需的空间容量,所述目标模型包括至少一个卷积层;
在所述目标设备的空间容量不满足所述目标模型所需的空间容量的情况下,基于所述目标设备的空间容量确定所述目标模型的压缩比率;
基于所述压缩比率缩限所述目标模型中符合预设条件的卷积层的结构,以实现对所述目标模型的压缩;
将压缩后的模型安装到所述目标设备中。
在一个实施例中,基于所述压缩比率缩限所述目标模型中符合预设条件的卷积层的结构,包括:
提取所述目标模型中位于同一卷积层的卷积滤波器;
确定卷积滤波器的相似度参数;
根据所述相似度参数选取所述卷积层中符合预设条件的卷积滤波器;
对所述卷积层中符合预设条件的卷积滤波器进行删除操作,以实现对所述目标模型中卷积层的压缩。
在一个实施例中,所述确定卷积滤波器的相似度参数,包括:
确定同一卷积层的所有卷积滤波器对应的向量;
确定每个卷积滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的相似度;
将每个滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的相似度进行加权求和;
确定进行所述加权求和所得到的和值为每个滤波器对应的相似度参数。
在一个实施例中,所述确定每个卷积滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的相似度,包括:
根据每个卷积滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的夹角和向量长度计算每个卷积滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的相似度;
其中,向量之间的夹角大于预设角度时,相似度取负值;向量之间的夹角小于预设角度时,相似度取正值。
在一个实施例中,将每个卷积滤波器对应的向量与同一层的所有卷积滤波器对应的向量之间的相似度进行加权求和,包括:
确定位于同一卷积层的卷积滤波器所对应的相似度矩阵,其中,所述相似度矩阵中的每个元素用于表征相应卷积滤波器对应的向量与同一层所有卷积滤波器对应向量之间的相似度值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联想(北京)有限公司,未经联想(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110293414.8/2.html,转载请声明来源钻瓜专利网。