[发明专利]自定义算子的计算方法及相关产品有效
申请号: | 201910247689.0 | 申请日: | 2019-03-28 |
公开(公告)号: | CN110009100B | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 安徽寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 231283 安徽省合肥市高新区习友路3333*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 自定义 算子 计算方法 相关 产品 | ||
1.一种自定义算子的计算方法,其特征在于,所述方法包括如下步骤:
多核处理器对神经网络进行扫描获取自定义算子,所述自定义算子包括:指令头和指令段;
多核处理器获取神经网络的运行核数量n,将所述自定义算子对应的网络层L复制n个,将n个网络层L并行插入到所述神经网络得到新神经网络;
多核处理器运行所述新神经网络;
所述多核处理器运行所述新神经网络具体包括:
如运行到所述自定义算子,所述多核处理器中n个核分别运行n个网络层L,所述n个核分别跳转到与n个核对应的指令段,所述n个核并行执行n个核对应的指令段得到所述自定义算子的结果。
2.根据权利要求1所述的方法,其特征在于,
所述新神经网络的n个网络层L的上一层为网络层L-1,下一层为网络层L+1。
3.根据权利要求1所述的方法,其特征在于,所述n个核并行执行n个核对应的指令段得到所述自定义算子的结果具体包括:
所述n个核并行执行n个核对应的指令段得到n个指令段结果,依据n个指令段结果得到所述自定义算子的结果。
4.根据权利要求1所述的方法,其特征在于,所述多核处理器对神经网络进行扫描获取自定义算子具体包括:
所述多核处理器对神经网络扫描得到神经网络的多个算子对应的多个指令头,依据多个指令头内的标识信息确定多个算子中的自定义算子。
5.一种多核处理器,其特征在于,所述多核处理器包括:
扫描单元,用于对神经网络进行扫描获取自定义算子,所述自定义算子包括:指令头和指令段;
获取单元,用于神经网络的运行核数量n;
构建单元,用于将所述自定义算子对应的网络层L复制n个,将n个网络层L并行插入到所述神经网络得到新神经网络;
运行单元,用于运行所述新神经网络;
如运行到所述自定义算子,所述运行单元,具体用于控制所述多核处理器中n个核分别运行n个网络层L,控制所述n个核跳转到与n个核对应的指令段,控制所述n个核并行执行n个核对应的指令段得到所述自定义算子的结果。
6.根据权利要求5所述的多核处理器,其特征在于,
所述新神经网络的n个网络层L的上一层为网络层L-1,下一层为网络层L+1。
7.根据权利要求5所述的多核处理器,其特征在于,
所述运行单元,具体用于控制所述n个核并行执行n个核对应的指令段得到n个指令段结果,依据n个指令段结果得到所述自定义算子的结果。
8.根据权利要求5所述的多核处理器,其特征在于,
所述扫描单元,具体用于对神经网络扫描得到神经网络的多个算子对应的多个指令头,依据多个指令头内的标识信息确定多个算子中的自定义算子。
9.一种计算芯片,其特征在于,所述计算芯片包括:如权利要求5-8任意一项所述的多核处理器。
10.一种电子设备,其特征在于,所述电子设备包括如权利要求9所述的芯片或如权利要求5-8任意一项所述的多核处理器。
11.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-4任意一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽寒武纪信息科技有限公司,未经安徽寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910247689.0/1.html,转载请声明来源钻瓜专利网。