[发明专利]一种多计算精度神经网络处理方法和系统有效
申请号: | 201710182542.9 | 申请日: | 2017-03-24 |
公开(公告)号: | CN107423816B | 公开(公告)日: | 2021-10-12 |
发明(设计)人: | 韩银和;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;梁挥 |
地址: | 100080 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 计算 精度 神经网络 处理 方法 系统 | ||
1.一种多计算精度神经网络处理方法,其特征在于,包括以下步骤:
步骤S1,从指令存储单元读取需要执行的指令,对该指令进行解析得到存储地址,并从该存储地址获取输入数据和权重;
步骤S2,将该输入数据的位宽及该权重的位宽分别解码拓展为处理器设计最大数据位宽,生成原始数据和原始权重;
步骤S3,分析该原始数据的位宽,关断计算单元阵列中的部分计算单元,并执行神经网络运算中的运算操作,生成计算数据;
步骤S4,将该计算数据的位宽编码为神经网络下一层所需数据位宽,生成打包数据,并将该打包数据输出;
其中该步骤S2包括:
步骤S21,接收并存储该权重和该输入数据;
步骤S22,对该权重和该输入数据进行移位处理,以使该权重和该输入数据的最高位与处理器最大数据位宽的最高位对齐,并将对齐后的数据发送至步骤S23;
步骤S23,将对齐后的该数据扩展至原始数据完整位宽。
2.如权利要求1所述的多计算精度神经网络处理方法,其特征在于,该步骤S4包括:
步骤S41,根据下一层网络数据位宽对该计算数据进行向下截断舍入处理,生成舍入数据;
步骤S42,对该舍入数据的排列结构进行移位调整,完成打包操作,生成打包数据;
步骤S44,接收并存储该打包数据,并将该打包数据输出至下一神经计算层。
3.如权利要求1所述的多计算精度神经网络处理方法,其特征在于,该步骤S3中,分析该原始数据的位宽信息关断部分计算单元具体为,通过分析该原始数据的总位数和实际有效位数,获得该原始数据的无效位数,在计算时关断用于计算该无效位数的计算单元。
4.如权利要求1所述的多计算精度神经网络处理方法,其特征在于,该多计算精度神经网络处理方法还包括,步骤S31,将该计算单元阵列中每个计算行内数据对应存储于存储器中的每个存储字,其中该计算行内数据包括该计算数据、该输入数据和该计算单元阵列运算时产生的运算中间值。
5.一种多计算精度神经网络处理系统,其特征在于,包括:
控制单元,用于从指令存储单元读取需要执行的指令,对该指令进行解析得到存储地址,并从该存储地址获取输入数据和权重;
解包器,用于将该输入数据的位宽及该权重的位宽分别解码拓展为处理器设计最大数据位宽,生成原始数据和原始权重;
计算单元阵列,用于根据该原始数据位宽关断部分计算单元,执行神经网络运算中的运算操作,生成计算数据;
打包器,用于将该计算数据的位宽编码为神经网络下一层所需数据位宽,生成打包数据,并将该打包数据输出;
其中该解包器包括:
第一寄存器,用于接收并存储该权重和该输入数据;
桶形移位器,用于对该权重和该输入数据进行移位处理,以使该权重和该输入数据的最高位与处理器最大数据位宽的最高位对齐,并将对齐后的数据发送至拓展器;
拓展器,用于将对齐后的该数据扩展至原始数据完整位宽;
舍入器,用于根据下一层网络数据位宽对该计算数据进行向下截断舍入处理,生成舍入数据;
移位器,用于对该舍入数据的排列结构进行移位调整,完成打包操作,生成打包数据;
第二寄存器,用于接收并存储该打包数据,并将该打包数据输出至下一神经计算层。
6.如权利要求5所述的多计算精度神经网络处理系统,其特征在于,该计算单元阵列根据该原始数据位宽关断部分计算单元具体为,通过分析该原始数据的总位数和实际有效位数,获得该原始数据的无效位数,在计算时关断用于计算该无效位数的计算单元。
7.如权利要求5所述的多计算精度神经网络处理系统,其特征在于,该多计算精度神经网络处理系统还包括,存储器,该存储器中每个存储字存储对应计算单元阵列中每个计算行内数据,其中该计算行内数据包括该计算数据、该输入数据和该计算单元阵列运算时产生的运算中间值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710182542.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种槽形混合机
- 下一篇:一种生产海鲜酱的真空混料设备