[发明专利]一种神经网络处理器及其控制方法有效
申请号: | 201911403452.3 | 申请日: | 2019-12-27 |
公开(公告)号: | CN111191777B | 公开(公告)日: | 2022-07-26 |
发明(设计)人: | 李炜;曹庆新;王和国;黎立煌;李爱军;陈宁 | 申请(专利权)人: | 深圳云天励飞技术股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F9/50 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 刘永康 |
地址: | 518000 广东省深圳市龙岗区横岗*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 神经网络 处理器 及其 控制 方法 | ||
本申请属于芯片技术领域,尤其涉及一种神经网络处理器及其控制方法。所述神经网络处理器包括由多个单核神经网络处理器和外围模块构成的神经网络处理器簇;所述外围模块包括主控单元和DMA模块;所述DMA模块用于将第一任务描述符搬运至所述主控单元;所述主控单元用于对所述第一任务描述符进行解析,根据解析结果确定分配至各个选定处理器中的子任务;对所述第一任务描述符进行修改,得到与各个所述选定处理器分别对应的第二任务描述符;将各个第二任务描述符配置给对应的各个所述选定处理器,并启动各个所述选定处理器处理对应的子任务。通过主控单元对各个单核神经网络处理器的统一调度管理,使得神经网络处理器可以充分发挥其运算性能。
技术领域
本申请属于芯片技术领域,尤其涉及一种神经网络处理器及其控制方法。
背景技术
随着人工智能技术的飞速发展,在各种应用场景下对于神经网络处理器的算力要求也越来越高,单核的神经网络处理器已经难以满足现有的应用需求。在这种情况下,多核的神经网络处理器应运而生,通过多个单核神经网络处理器的并行运算,极大提升了整体算力。但是,在现有技术中,各个单核神经网络处理器之间往往缺乏有效的协调控制,极易导致任务重复配置、漏配以及配置不均的情况出现,难以充分发挥多核神经网络处理器的性能。
发明内容
有鉴于此,本申请实施例提供了一种神经网络处理器及其控制方法,以解决在现有的多核神经网络处理器中,各个单核神经网络处理器之间往往缺乏有效的协调控制,极易导致任务重复配置、漏配以及配置不均的情况出现,难以充分发挥其性能的问题。
本申请实施例的第一方面提供了一种神经网络处理器,所述神经网络处理器包括由N个单核神经网络处理器和外围模块构成的神经网络处理器簇,N为大于1的整数;
所述外围模块包括主控单元和DMA模块;
所述DMA模块用于将第一任务描述符搬运至所述主控单元,所述第一任务描述符用于描述分配至所述神经网络处理器中的任务的信息;
所述主控单元用于对所述第一任务描述符进行解析,根据解析结果确定分配至各个选定处理器中的子任务;对所述第一任务描述符进行修改,得到与各个所述选定处理器分别对应的第二任务描述符;将各个第二任务描述符配置给对应的各个所述选定处理器,并启动各个所述选定处理器处理对应的子任务;所述选定处理器为从N个所述单核神经网络处理器中选取的用于执行所述任务的处理器,所述第二任务描述符用于描述分配至所述选定处理器中的子任务的信息。
进一步地,所述外围模块还可以包括簇接口、信箱模块、总线转发模块、程序存储器和数据存储器;
所述簇接口为所述神经网络处理器簇的从接口,用于所述神经网络处理器簇的外部CPU访问和配置所述外围模块以及每个单核神经网络处理器的内部资源;
所述信箱模块用于存放所述单核神经网络处理器或者所述神经网络处理器簇的配置信息以及运行过程中的状态信息;
所述总线转发模块为所述神经网络处理器簇的顶层AXI请求的收集分发模块,用于收集各个单核神经网络处理器以及所述神经网络处理器簇顶层的主控单元的AXI请求,并将请求经过处理之后发到芯片顶层;
所述程序存储器用于存放所述主控单元的程序;
所述数据存储器用于存放所述主控单元运行过程中产生的数据。
进一步地,所述单核神经网络处理器包括:单核接口、单核信箱模块和总线模块;
所述单核接口为所述单核神经网络处理器的从接口,用于所述神经网络处理器簇的外部CPU或者所述主控单元访问和配置所述单核神经网络处理器的内部资源;
所述单核信箱模块用于存放所述单核神经网络处理器的配置信息以及所述单核神经网络处理器运行过程中的状态信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术股份有限公司,未经深圳云天励飞技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911403452.3/2.html,转载请声明来源钻瓜专利网。