[发明专利]可变格式、可变稀疏矩阵乘法指令

权利要求书

1.一种处理器，包括：

用于存储数据的缓存；

被耦合到所述缓存的多个核，所述多个核中的核包括：

执行模块，用于执行至少一个指令，以根据所选择的操作模式执行针对第一源矩阵和第二源矩阵的乘法累加操作来生成结果矩阵，所述所选择的操作模式包括第一操作模式和第二操作模式，在所述第一操作模式中，至少所述第一源矩阵是具有位于特定位置处的非零数据元素的稀疏矩阵，在所述第二操作模式中，所述第一源矩阵和所述第二源矩阵都是密集矩阵，

其中，当处于所述第一操作模式中时，所述第一源矩阵将以压缩格式被存储，所述压缩格式标识所述非零数据元素的位置，所述执行模块还包括：

多个乘法累加模块，用于将所述第一源矩阵的所述非零数据元素与所述第二源矩阵中基于所述压缩格式中的所述位置标识出的对应数据元素相乘，以生成多个乘积，并将所述多个乘积与累加值相加来生成所述结果矩阵。

2.根据权利要求1所述的处理器，其中在所述第一源矩阵为稀疏矩阵的情况下，所述第一源矩阵将以压缩稀疏格式被存储，所述压缩稀疏格式包括指示符，所述指示符伴随每个矩阵元素并指定所述矩阵元素在所述第一源矩阵内的逻辑位置。

3.根据权利要求1所述的处理器，其中稀疏矩阵包括所具有的非零数据元素的比例小于或等于阈值的矩阵。

4.根据权利要求3所述的处理器，其中所述阈值包括值1。

5.根据权利要求1所述的处理器，其中所述指令用于指示所述所选择的操作模式。

6.根据权利要求5所述的处理器，其中所述指令包括用于指示所述第一操作模式的稀疏矩阵乘法指令或者用于指示所述第二操作模式的密集矩阵乘法指令。

7.根据权利要求1至6中任一项所述的处理器，其中当处于所述第二操作模式中时，所述多个乘法累加模块用于将所述第一源矩阵的包括任何零数据元素在内的数据元素与所述第二源矩阵的数据元素相乘。

8.根据权利要求1至6中任一项所述的处理器，其中所述执行模块可操作用于结合多个不同的数据类型来执行所述乘法累加操作，所述多个不同的数据类型用于对所述第一源矩阵、所述第二源矩阵和所述结果矩阵的数据元素进行编码。

9.根据权利要求8所述的处理器，其中所述数据类型包括以下项中的一项或多项：16位浮点、32位浮点、8位整数和16位整数。

10.根据权利要求7所述的处理器，其中所述指令包括多个字段，包括第一字段、第二字段、第三字段和第四字段，所述第一字段用于指定指示第一操作模式或第二操作模式的操作码，所述第二字段用于标识所述结果矩阵，所述第三字段用于标识所述第一源矩阵，所述第四字段用于标识所述第二源矩阵。

11.根据权利要求1-6、9和10中的任一项所述的处理器，其中所述第一源矩阵和所述第二源矩阵包括用于机器学习应用的输入值。

12.一种方法，包括：

将数据存储在缓存中；

由被耦合到所述缓存的多个核中的核、根据所选择的操作模式执行针对第一源矩阵和第二源矩阵的乘法累加操作来生成结果矩阵，所述所选择的操作模式包括第一操作模式和第二操作模式，在所述第一操作模式中，至少所述第一源矩阵是具有位于特定位置处的非零数据元素的稀疏矩阵，在所述第二操作模式中，所述第一源矩阵和所述第二源矩阵都是密集矩阵，

其中，当处于所述第一操作模式中时，所述第一源矩阵将以压缩格式被存储，所述压缩格式标识所述非零数据元素的位置，乘法累加操作还包括：

将所述第一源矩阵的所述非零数据元素与所述第二源矩阵中基于所述压缩格式中的所述位置标识出的对应数据元素相乘，以生成多个乘积，并且

将所述多个乘积与累加值相加来生成所述结果矩阵。