[发明专利]深度学习加速器模型和硬件

权利要求书

1.一种用于执行深度学习加速器DLA模型的方法，其包括：

使用DLA芯片(230)的多个DLA核心(232)的第一子集(234)执行(460)第一DLA模型；以及

使用所述DLA芯片的所述多个DLA核心的第二子集(236)执行(462)第二DLA模型，

其中所述第一子集包括第一数量的所述多个DLA核心，且所述第二子集包括不同于所述第一数量的所述多个DLA核心的第二数量的所述多个DLA核心。

2.根据权利要求1所述的方法，其进一步包括至少部分地基于所述第一DLA模型的第一计算能力，将所述第一数量的所述多个DLA核心(232)分配到所述DLA核心的所述第一子集(234)。

3.根据权利要求2所述的方法，其进一步包括至少部分地基于所述第二DLA模型的第二计算能力，将所述第二数量的所述多个DLA核心(232)分配到所述DLA核心的所述第二子集(236)，

其中所述第二计算能力大于所述第一计算能力。

4.根据权利要求3所述的方法，其中分配所述第二数量的所述多个DLA核心(232)包括相比于分配到所述多个DLA核心的所述第一子集(234)的所述第一数量的所述多个DLA核心，将更多数量的所述多个DLA核心分配到所述多个DLA核心的所述第二子集(236)。

5.根据权利要求3所述的方法，其进一步包括在不考虑所述多个DLA核心的总数量的情况下分配所述第一数量和所述第二数量的所述多个DLA核心。

6.根据权利要求1至5中任一权利要求所述的方法，其进一步包括使用所述多个DLA核心的所述第一子集执行所述第一DLA模型，且至少部分地同时使用所述多个DLA核心的所述第二子集执行所述第二DLA模型。

7.一种用于执行深度学习加速器DLA模型的设备，其包括：

实体DLA芯片(230)，其包括多个DLA核心(232)；以及

编译器(103)，其耦合到所述实体DLA芯片且配置成：

将所述实体DLA芯片的数个DLA核心分配到虚拟DLA芯片(234、236)；以及

使所述数个DLA核心执行计算能力小于所述多个DLA核心的累积计算能力的DLA模型。

8.根据权利要求7所述的设备，其中所述编译器(103)进一步配置成至少部分地基于所述DLA模型的计算层的大小，将所述数个DLA核心分配到所述虚拟DLA芯片(234、236)。

9.根据权利要求7所述的设备，其中所述编译器(103)进一步配置成至少部分地基于指示将分配到所述虚拟DLA芯片的用户定义的数量的DLA核心的信令，将所述数个DLA核心分配到所述虚拟DLA芯片(234、236)。

10.根据权利要求7所述的设备，其中所述编译器(103)进一步配置成至少部分地基于指示将分配到所述虚拟DLA芯片的所述实体DLA芯片(230)的所述多个DLA核心(232)的用户定义的子集的信令，将所述数个DLA核心分配到所述虚拟DLA芯片(234、236)。

11.一种存储指令的非暂时性机器可读媒体，其用于执行深度学习加速器DLA模型，所述指令可由处理资源执行以：

至少部分地基于第一DLA模型的第一处理要求，将实体DLA芯片(230)的第一数量的多个DLA核心(232)分配到第一虚拟DLA芯片(234)；

至少部分地基于第二DLA模型的第二处理要求，将所述实体DLA芯片的第二数量的所述多个DLA核心分配到第二虚拟DLA芯片(236)；

使用所述第一虚拟DLA芯片执行所述第一DLA模型；以及

使用所述第二虚拟DLA芯片执行所述第二DLA模型。