[发明专利]自定义算子的计算方法及相关产品有效
申请号: | 201910247689.0 | 申请日: | 2019-03-28 |
公开(公告)号: | CN110009100B | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 安徽寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 231283 安徽省合肥市高新区习友路3333*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 自定义 算子 计算方法 相关 产品 | ||
本申请提供一种自定义算子的计算方法及相关产品,所述方法实现了自定义算子在多核处理器内运行,提高了计算速度,提高了用户体验度。
技术领域
本申请涉及神经网络领域,尤其涉及一种自定义算子的计算方法及相关产品。
背景技术
人工神经网络(Artificial Neural Network,即ANN),是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。现有的神经网络的运算基于算子来实现,现有的芯片提供商会定义一些常用的算子给用户选用,为了跟用户提醒个性化配置,神经网络也支持用户自定义算子,现有的神经网络在计算用户自定义算子时,需要探知(即解析)该自定义算子,影响用户的体验度。
发明内容
本申请实施例提供了一种自定义算子的计算方法及相关产品,可以在不探知用户自定义算子的情况下实现自定义算子的计算,提高了用户体验度。
第一方面,提供一种自定义算子的计算方法,所述方法包括如下步骤:
多核处理器对神经网络进行扫描获取自定义算子,所述自定义算子包括:指令头和指令段;
多核处理器获取神经网络的运行核数量n,将所述自定义算子对应的网络层L复制n个,将n个网络层L并行插入到所述神经网络得到新神经网络;
多核处理器运行所述新神经网络。
第二方面,提供一种多核处理器,所述多核处理器包括:
扫描单元,用于对神经网络进行扫描获取自定义算子,所述自定义算子包括:指令头和指令段;
获取单元,用于神经网络的运行核数量n;
构建单元,用于将所述自定义算子对应的网络层L复制n个,将n个网络层L并行插入到所述神经网络得到新神经网络;
运行单元,用于运行所述新神经网络。
第三方面,提供一种计算芯片,所述计算芯片包括:如第二方面提供的多核处理器。
第四方面,提供一种电子设备,所述电子设备包括第三方面提供的芯片或第二方面提供的多核处理器。
第五方面,提供一种计算机可读存储介质,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行第一方面提供的方法。
第六方面,提供一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行第一方面提供的方法。
附图说明
图1是一种神经网络的多层结构示意图。
图2是一种自定义算子的计算方法的流程示意图。
图3是一种新神经网络的多层结构示意图。
图4是一种多核处理器的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽寒武纪信息科技有限公司,未经安徽寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910247689.0/2.html,转载请声明来源钻瓜专利网。