[发明专利]神经网络模型的编译方法、装置、存储介质及电子设备在审
| 申请号: | 202010601610.2 | 申请日: | 2020-06-28 |
| 公开(公告)号: | CN111738423A | 公开(公告)日: | 2020-10-02 |
| 发明(设计)人: | 唐荔 | 申请(专利权)人: | 湖南国科微电子股份有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04 |
| 代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 李莎 |
| 地址: | 410000 湖南省长沙市*** | 国省代码: | 湖南;43 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经网络 模型 编译 方法 装置 存储 介质 电子设备 | ||
本发明的实施例提供了一种神经网络模型的编译方法、装置、存储介质及电子设备,涉及深度学习领域。该方法包括:获取神经网络模型中每个卷积层的原始特征图参数;根据输入输出参数关系式、存储器容量对原始特征图参数进行拆分,得到每个卷积层的可行特征图参数集合;从每个卷积层的可行特征图参数集合中为每个卷积层确定出一个对应的数据搬运效率最高的目标特征图参数;根据每个卷积层对应的目标特征图参数为神经网络模型生成可执行文件。通过为每个卷积层找到一个对应的数据搬运效率最高的参数,提高神经网络模型整体的数据复用率,减少运行时的运算量,能够减少神经网络模型对应的可执行文件在运行时的运算量,提高其运行效率。
技术领域
本申请涉及深度学习领域,具体而言,涉及一种神经网络模型的编译方法、装置、存储介质及电子设备。
背景技术
深度学习能够使机器模仿视听和思考等人类的活动,解决了很多复杂的模式识别难题,其在自然语言处理、图像识别、语音识别、数据挖掘、个性化推荐等多个技术领域取得了非常大的进展。
如何构造神经网络模型以及对构造好的神经网络模型进行编译是深度学习的核心环节。目前,在将构造好的神经网络模型编译为可执行文件时,由于神经网络模型中参数量大,导致编译出的可执行文件在运行时运算量大,运行效率低。因此,需要对神经网络模型的编译过程进行优化,才能提高编译出的可执行文件的执行效率,但是,目前的优化方法较为简单,编译出的可执行文件的运行效率仍十分低下。
发明内容
本申请的目的包括,例如,提供了一种神经网络模型的编译方法、装置、存储介质及电子设备,其能够将神经网络模型编译为可执行文件,并减少该可执行文件在运行时的运算量,提高该可执行文件的运行效率。
本申请的实施例可以这样实现:
第一方面,实施例提供一种神经网络模型的编译方法,所述方法包括:获取神经网络模型中每个卷积层的原始特征图参数;根据输入输出参数关系式、存储器容量对所述原始特征图参数进行拆分,得到每个卷积层的可行特征图参数集合;从每个卷积层的可行特征图参数集合中为每个卷积层确定出一个对应的目标特征图参数;所述目标特征图参数对应的数据搬运效率最高;根据每个卷积层对应的目标特征图参数为所述神经网络模型生成可执行文件。
在可选的实施方式中,所述原始特征图参数包括原始输出特征图参数;所述根据输入输出参数关系式、存储器容量对所述原始特征图参数进行拆分,得到每个卷积层的可行特征图参数集合的步骤包括:根据输入输出参数关系式、存储器容量对所述原始输出特征图参数进行拆分,得到每个卷积层的可行输出特征图参数集合;根据每个卷积层的可行输出特征图参数集合以及所述输入输出参数关系式,确定出每个卷积层的可行输入特征图参数集合;根据每个卷积层的可行输出特征图参数集合以及所述可行输入特征图参数集合,确定每个卷积层的可行特征图参数集合。
在可选的实施方式中,所述从每个卷积层的可行特征图参数集合中为每个卷积层确定出一个对应的目标特征图参数的步骤包括:根据每个卷积层的可行特征图参数集合中每个可行特征图参数的值,确定出每个所述可行特征图参数对应的数据重复加载量;将每个卷积层的可行特征图参数集合中数据重复加载量最小的可行特征图参数作为每个卷积层对应的目标特征图参数。
在可选的实施方式中,所述神经网络模型包括多个卷积层,所述从每个卷积层的可行特征图参数集合中为每个卷积层确定出一个对应的目标特征图参数的步骤包括:根据目标卷积层的可行特征图参数集合中每个可行特征图参数的值,确定出每个所述可行特征图参数对应的数据重复加载量;根据预设的处理核心个数以及所述数据重复加载量,从目标卷积层的可行特征图参数集合中确定出一个最优特征图参数;所述目标卷积层为所述多个卷积层中的任一层,所述最优特征图参数为所述目标卷积层的可行特征图参数集合中数据搬运效率最高的可行特征图参数;将所述最优特征图参数作为所述目标卷积层对应的目标特征图参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南国科微电子股份有限公司,未经湖南国科微电子股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010601610.2/2.html,转载请声明来源钻瓜专利网。





