[发明专利]具有先进调度的可编程粗粒度化和稀疏矩阵计算硬件

权利要求书

1.一种执行机器学习操作的计算装置，所述计算装置包括：

解码单元，其用以将单个指令解码成经解码的指令，所述经解码的指令使得所述计算装置执行复杂机器学习计算操作。

2.如权利要求1中所述的计算装置，此外包括用以获取所述单个指令的获取单元。

3.如权利要求2中所述的计算装置，此外包括参数分析逻辑，其用以确定针对所述单个指令要执行的机器学习操作的类型。

4.如权利要求3中所述的计算装置，此外包括机器学习加速逻辑，其用以确定为了执行所述经解码的指令要执行的一组操作。

5.如权利要求4中所述的计算装置，此外包括执行固件指令的微控制器，所述固件指令用以实现所述参数分析逻辑和所述机器学习加速逻辑。

6.如权利要求1中所述的计算装置，其中所述复杂机器学习计算操作是要为卷积神经网络执行卷积。

7.如权利要求6中所述的计算装置，其中所述卷积包括多个矩阵运算。

8.如权利要求7中所述的计算装置，此外包括调度器控制器，其用以将所述多个矩阵运算调度到多种类型的计算单元中的一个或多个。

9.如权利要求8中所述的计算装置，其中所述多种类型的计算单元包括通用图形计算单元和稀疏计算单元。

10.如权利要求8中所述的计算装置，其中所述多种类型的计算单元包括通用图形计算单元和近数据计算单元。

11.一种执行机器学习操作的方法，所述方法包括：

获取单个指令并且将所述单个指令解码成经解码的指令，所述经解码的指令相关联于将经由通用图形处理单元的计算流水线而被执行的多个机器学习操作的集合；

确定用于执行所述多个机器学习操作的集合的一组流水线命令；

将该组流水线命令调度到所述通用图形处理单元的计算流水线；以及

响应于该组流水线命令的完成而引退所述经解码的指令。

12.如权利要求11中所述的方法，其中确定用于执行所述多个机器学习操作的集合的一组流水线命令包括分析与所述经解码的指令相关联的参数。

13.如权利要求11中所述的方法，其中所述单个指令是要使得所述通用图形处理单元为卷积神经网络的层执行卷积。

14.如权利要求11中所述的方法，其中将该组流水线命令调度到所述通用图形处理单元的计算流水线包括将该组流水线命令调度到多个计算流水线，所述多个计算流水线包括通用计算流水线以及从稀疏计算流水线或近数据计算流水线中选择的至少一个计算流水线。

15.一种通用图形处理设备，其包括用于执行如权利要求11-14中的任一项中的方法的部件。

16.一种数据处理系统，包括：

非暂时性机器可读介质，其用于存储指令以供所述数据处理系统的一个或多个处理器执行；以及

通用图形处理单元，其包括用于获取单个指令的获取单元以及用于将所述单个指令解码成经解码的指令的解码单元，所述经解码的指令使得所述数据处理系统执行多个流水线命令以执行复杂机器学习计算操作。

17.如权利要求16中所述的数据处理系统，所述通用图形处理单元包括参数分析逻辑，所述参数分析逻辑用以确定针对所述单个指令要执行的机器学习操作的类型。