[发明专利]一种神经网络处理器及其控制方法有效
申请号: | 201911403452.3 | 申请日: | 2019-12-27 |
公开(公告)号: | CN111191777B | 公开(公告)日: | 2022-07-26 |
发明(设计)人: | 李炜;曹庆新;王和国;黎立煌;李爱军;陈宁 | 申请(专利权)人: | 深圳云天励飞技术股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F9/50 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 刘永康 |
地址: | 518000 广东省深圳市龙岗区横岗*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 神经网络 处理器 及其 控制 方法 | ||
1.一种神经网络处理器,其特征在于,所述神经网络处理器包括由N个单核神经网络处理器和外围模块构成的神经网络处理器簇,N为大于1的整数;
所述外围模块包括主控单元和DMA模块;
所述DMA模块用于将第一任务描述符搬运至所述主控单元,所述第一任务描述符用于描述分配至所述神经网络处理器中的任务的信息;
所述主控单元用于对所述第一任务描述符进行解析,根据解析结果确定分配至各个选定处理器中的子任务;对所述第一任务描述符进行修改,得到与各个所述选定处理器分别对应的第二任务描述符;将各个第二任务描述符配置给对应的各个所述选定处理器,并启动各个所述选定处理器处理对应的子任务;所述选定处理器为从N个所述单核神经网络处理器中选取的用于执行所述任务的处理器,所述第二任务描述符用于描述分配至所述选定处理器中的子任务的信息。
2.根据权利要求1所述的神经网络处理器,其特征在于,所述外围模块还可以包括簇接口、信箱模块、总线转发模块、程序存储器和数据存储器;
所述簇接口为所述神经网络处理器簇的从接口,用于所述神经网络处理器簇的外部CPU访问和配置所述外围模块以及每个单核神经网络处理器的内部资源;
所述信箱模块用于存放所述单核神经网络处理器或者所述神经网络处理器簇的配置信息以及运行过程中的状态信息;
所述总线转发模块为所述神经网络处理器簇的顶层AXI请求的收集分发模块,用于收集各个单核神经网络处理器以及所述神经网络处理器簇顶层的主控单元的AXI请求,并将请求经过处理之后发到芯片顶层;
所述程序存储器用于存放所述主控单元的程序;
所述数据存储器用于存放所述主控单元运行过程中产生的数据。
3.根据权利要求1所述的神经网络处理器,其特征在于,所述单核神经网络处理器包括:单核接口、单核信箱模块和总线模块;
所述单核接口为所述单核神经网络处理器的从接口,用于所述神经网络处理器簇的外部CPU或者所述主控单元访问和配置所述单核神经网络处理器的内部资源;
所述单核信箱模块用于存放所述单核神经网络处理器的配置信息以及所述单核神经网络处理器运行过程中的状态信息;
所述总线模块为所述单核神经网络处理器的AXI总线。
4.根据权利要求1至3中任一项所述的神经网络处理器,其特征在于,所述单核神经网络处理器还包括共享参数搬运模块,所述共享参数搬运模块用于将共享的参数从所述单核神经网络处理器外部搬运至所述单核神经网络处理器内部的数据存储器中;
总线转发模块中包括与各个单核神经网络处理器分别对应的参数共享逻辑模块,所述参数共享逻辑模块用于进行所述单核神经网络处理器之间参数共享逻辑的判断以及流程控制;
所述参数共享逻辑模块包括命令缓存和数据缓存,所述命令缓存用于缓存所述单核神经网络处理器发出的参数读取命令,所述数据缓存用于缓存所述参数共享逻辑模块读回的数据。
5.一种神经网络处理器的控制方法,其特征在于,所述方法应用于多核神经网络处理器中,所述多核神经网络处理器包括N个单核神经网络处理器,N为大于1的整数,所述方法包括:
获取第一任务描述符,所述第一任务描述符用于描述分配至所述多核神经网络处理器中的任务的信息;
对所述第一任务描述符进行解析,根据解析结果确定分配至各个选定处理器中的子任务,所述选定处理器为从N个所述单核神经网络处理器中选取的用于执行所述任务的处理器;
对所述第一任务描述符进行修改,得到与各个所述选定处理器分别对应的第二任务描述符,所述第二任务描述符用于描述分配至所述选定处理器中的子任务的信息;
将各个第二任务描述符配置给对应的各个所述选定处理器,并启动各个所述选定处理器处理对应的子任务。
6.根据权利要求5所述的方法,其特征在于,所述对所述第一任务描述符进行修改包括:
若所述第一任务描述符中指示的处理模式为多核单批模式,则将所述第一任务描述符中的第一分片信息地址分别修改为各个第二分片信息地址,所述第一分片信息地址为所述多核神经网络处理器的分片信息的地址,所述第二分片信息地址为所述选定处理器的分片信息的地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术股份有限公司,未经深圳云天励飞技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911403452.3/1.html,转载请声明来源钻瓜专利网。