[发明专利]神经网络优化方法有效
| 申请号: | 201811344189.0 | 申请日: | 2018-11-13 |
| 公开(公告)号: | CN109472361B | 公开(公告)日: | 2020-08-28 |
| 发明(设计)人: | 张跃进;胡勇;喻蒙 | 申请(专利权)人: | 钟祥博谦信息科技有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F1/3234 |
| 代理公司: | 北京细软智谷知识产权代理有限责任公司 11471 | 代理人: | 赵芳 |
| 地址: | 431900 湖北省荆门市钟祥*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经网络 优化 方法 | ||
1.一种神经网络优化方法,其特征在于,包括:
预设建模参数,所述建模参数包括网络参数和硬件参数;
基于所述建模参数构建神经网络能耗模型;
基于所述建模参数构建神经网络时间模型;
对所述神经网络能耗模型和神经网络时间模型进行双目标优化,包括:
使用TM计算流程对所述神经网络时间模型进行缓存分割;
使用AP计算流程对所述神经网络能耗模型进行阵列分割;
选取所述缓存分割满足要求条件下对应能耗最小的阵列分割方法,包括:设定任务时间Tmax;
计算使用TM计算流程缓存分割神经网络时间模型所需时间TTM;
计算使用AP计算流程阵列分割神经网络能耗模型所需能耗EAP;
选取最小的所需能耗EAP0并计算最小的所需能耗EAP0所需时间TAP0;
比较Tmax和TAP0的大小,根据比较结果判断设定任务时间是否满足要求;
若设定任务时间满足要求,比较Tmax和TTM的大小,根据比较结果输出对所述神经网络能耗模型和神经网络时间模型进行双目标优化结果。
2.根据权利要求1所述的神经网络优化方法,其特征在于,所述能耗计算公式为E=V*T*e,V为需要读写/计算的数据量,T为需要重复读写/计算的次数,e为单位能耗。
3.根据权利要求2所述的神经网络优化方法,其特征在于,所述单位能耗包括读写能耗和计算能耗。
4.根据权利要求1所述的神经网络优化方法,其特征在于,所述构建神经网络能耗模型包括:对神经网络能耗进行逐层建模,得到卷积层能耗模型、全连接层能耗模型、RNN层能耗模型、池化层能耗模型。
5.根据权利要求1所述的神经网络优化方法,其特征在于,所述神经网络时间模型包括时间开销,所述时间开销包括卷积层时间开销和全连接层时间开销。
6.根据权利要求5所述的神经网络优化方法,其特征在于,所述时间开销计算方法为时间开销Tz=max(TIO,Toperation),TIO为读写时间,Toperation为计算时间。
7.根据权利要求1所述的神经网络优化方法,其特征在于,所述根据比较结果判断设定任务时间是否满足要求,包括:
若TmaxTAP0,判定设定任务时间满足要求;
否则判定任务无法在指定时间内完成,需重新设定任务时间。
8.根据权利要求1所述的神经网络优化方法,其特征在于,所述根据比较结果输出对所述神经网络能耗模型和神经网络时间模型进行双目标优化结果,包括:
若TmaxTTM,调整建模参数,重新对所述神经网络能耗模型进行阵列分割;
计算使用AP计算流程阵列分割神经网络能耗模型所需能耗EAP’,并选取最小能耗EAP0’对应的建模参数、阵列分割方法为双目标优化结果;
否则,选取TM计算流程对应的建模参数和缓存分割方法为双目标优化结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于钟祥博谦信息科技有限公司,未经钟祥博谦信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811344189.0/1.html,转载请声明来源钻瓜专利网。





