[发明专利]运算方法、处理器及相关产品

说明书

本公开涉及运算方法、处理器及相关产品，所述产品包括存储器件、接口装置和控制器件以及上述人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。通过以上方法或产品，本公开可以提高相关产品在进行矩阵乘法运算时的运算效率。

技术领域

本公开涉及信息处理技术领域，尤其涉及一种运算方法、处理器及相关产品。

背景技术

在人工智能技术领域，神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。随着神经网络算法的发展，算法的复杂度也越来越高，为了提高识别度，模型的规模也在逐渐增大。用GPU和CPU处理起这些大规模的模型，要花费大量的计算时间，并且耗电量很大。

发明内容

有鉴于此，本公开提出了一种基于处理元件矩阵的矩阵乘的运算方法、处理器及相关产品。

根据本公开的一方面，提供了一种基于处理元件矩阵的矩阵乘的运算方法，应用于处理器，所述处理器包括两个以上处理元件，所述两个以上处理元件以二维矩阵排列，处理元件包括至少一个寄存器，所述方法实现对第一矩阵和第二矩阵的矩阵乘法运算，所述方法包括：

对第一矩阵和第二矩阵进行预处理得到第三矩阵和第四矩阵，其中第三矩阵和第四矩阵都为p×p矩阵，p＝max(m,k,n)，m表示第一矩阵的行秩，n表示第二矩阵的列秩，第一矩阵的列秩和第二矩阵的行秩为k，p为m、k、n三者中的最大值；

将所述第三矩阵和所述第四矩阵以行列对齐的方式加载到处理元件的寄存器中，加载后第三矩阵和第四矩阵对应位置的元素存储在同一处理元件的寄存器中；

对第三矩阵和第四矩阵在行方向或者列方向进行滚动，控制处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积矩阵；

根据对第一矩阵和第二矩阵预处理的方式对元素乘积矩阵进行处理得到第一矩阵和第二矩阵的乘积。

在一种可能的实现方式中，对第三矩阵和第四矩阵在行方向或者列方向进行滚动，控制处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积矩阵，包括：

控制处理元件对相应的寄存器内的元素进行乘法运算得到第一元素乘积矩阵；

将第三矩阵整体向左滚动一次、将第四矩阵整体向上滚动一次，或者，将第三矩阵整体向右滚动一次、将第四矩阵整体向下滚动一次，控制处理元件对相应的寄存器内的元素进行乘法运算得到第二元素乘积矩阵，重复p-1次得到第二元素乘积矩阵。

在一种可能的实现方式中，根据对第一矩阵和第二矩阵预处理的方式对元素乘积矩阵进行处理得到第一矩阵和第二矩阵的乘积，包括：

将第一元素乘积矩阵和第二元素乘积矩阵求和得到第五矩阵，根据对第一矩阵和第二矩阵预处理的方式对第五矩阵进行处理得到第一矩阵和第二矩阵的乘积。

根据本公开的另一方面，提供了一种处理器，所述处理器包括两个以上处理元件，所述两个以上处理元件以二维矩阵排列，处理元件包括至少一个寄存器，所述处理器用于对第一矩阵和第二矩阵的矩阵乘法运算，所述处理器还包括控制器，所述控制器用于对第一矩阵和第二矩阵进行预处理得到第三矩阵和第四矩阵，其中，第三矩阵和第四矩阵对应位置的元素存储在同一处理元件的寄存器中，第三矩阵和第四矩阵都为p×p矩阵，p＝max(m,k,n)，m表示第一矩阵的行秩，n表示第二矩阵的列秩，第一矩阵的列秩和第二矩阵的行秩为k，p为m、k、n三者中的最大值；

所述控制器用于对第三矩阵和第四矩阵在行方向或者列方向进行滚动，控制处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积矩阵；