[发明专利]计算神经网络的方法、装置、板卡及计算机可读存储介质在审
申请号: | 202010246218.0 | 申请日: | 2020-03-31 |
公开(公告)号: | CN111461315A | 公开(公告)日: | 2020-07-28 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京维昊知识产权代理事务所(普通合伙) 11804 | 代理人: | 李波;孙新国 |
地址: | 100191 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 神经网络 方法 装置 板卡 计算机 可读 存储 介质 | ||
1.一种在人工神经网络计算中绑定多个常量数据的方法,包括:
重排序所述多个常量数据;
根据所述多个常量数据的数据量,计算同类数据段的段内偏移量;
在数据包中回填所述段内偏移量;以及
发送所述数据包至设备;
其中,所述设备读取所述数据包里的所述多个常量数据,以执行批量的人工神经网络计算。
2.根据权利要求1所述的方法,其中所述同类数据段包括常量数据段,所述重排序步骤包括:
遍历计算模型中的全部数据节点,查找所述多个常量数据;以及
根据特定顺序,组成所述常量数据段。
3.根据权利要求2所述的方法,其中所述特定顺序为先指令后数据。
4.根据权利要求2所述的方法,其中所述数据包包括常量数据标签,所述重排序步骤还包括:
记录所述数据量;以及
根据所述数据量,计算所述多个常量数据的总数据量;
其中,所述常量数据标签记录所述多个常量数据的总数量。
5.根据权利要求4所述的方法,其中所述计算步骤包括:
根据所述数据量,计算所述常量数据段的段内偏移量。
6.根据权利要求5所述的方法,其中所述回填步骤包括:
根据所述常量数据段的段内偏移量,将需要填入偏移量的指令位置记录在所述常量数据段的各数据节点中。
7.根据权利要求1所述的方法,其中所述同类数据段包括隐藏层数据段所述数据包包括隐藏层数据标签,所有隐藏层数据节点所述重排序步骤还包括:
记录每个隐藏层数据节点的数据量;以及
根据所述隐藏层数据节点的数据量,计算所有隐藏层数据节点的总数据量;
其中,所述隐藏层数据标签包括所述所有隐藏层数据节点的总数据量。
8.根据权利要求7所述的方法,其中所述计算步骤包括:
根据所述隐藏层数据节点的数据量,计算所述隐藏层数据段的段内偏移量。
9.根据权利要求8所述的方法,其中所述回填步骤包括:
根据所述隐藏层数据段的段内偏移量,将需要填入偏移量的指令位置记录在所述隐藏层数据段的数据节点中。
10.根据权利要求1所述的方法,其中所述同类数据段包括输出入地址段,所述数据包包括输出入地址标签,所述重排序步骤还包括:
设定所有输出入节点的数据量;以及
计算所述所有输出入节点的总数据量;
其中,所述输出入地址标签包括所述所有输出入节点的总数据量。
11.根据权利要求10所述的方法,其中所述计算步骤包括:
根据所有输出入节点的数据量,计算所述输出入地址段的段内偏移量。
12.根据权利要求11所述的方法,其中所述回填步骤包括:
根据所述输出入地址段的段内偏移量,将需要填入偏移量的指令位置记录在所述输出入地址段的各数据节点中。
13.一种计算机可读存储介质,其上存储有在人工神经网络计算中绑定多个常量数据的计算机程序代码,当所述计算机程序代码由处理器运行时,执行权利要求1-12的任意一项所述的方法。
14.一种在人工神经网络计算中组成数据包的方法,包括:
在所述数据包中建立标签区,所述标签区记录所述数据包的总数据量;
在所述数据包中建立常量数据区,所述常量数据区记录指令及多个常量数据;
其中,设备读取所述数据包里的所述指令及常量数据,以执行批量的人工神经网络计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010246218.0/1.html,转载请声明来源钻瓜专利网。