[发明专利]用于执行快速转换片并且将片用作一维向量的指令的系统

说明书

本申请公开了用于执行快速转换片并且将片用作一维向量的指令的系统。所公开实施例涉及用于执行用于快速转换矩阵(片)并且将矩阵(片)用作一维向量的指令的系统。在一个示例中，处理器包括：取出电路，用于取出指令，该指令具有用于指定操作码、二维(2D)矩阵和一维(1D)向量的位置、以及包括所指定的2D矩阵的行、行的部分、多个行、列、列的部分、多个列和矩形子片中的一个的一组元素的字段，并且其中操作码用于指示所指定的组在2D矩阵与1D向量之间的移动；解码电路，用于对所取出的指令进行解码；以及执行电路，用于响应于经解码的指令，当操作码指定从1D移动时，将所指定的1D向量的内容移动到所指定的一组元素。

本发明专利申请是2019年8月27日提交的申请号为201910796345.5，名称为“用于执行快速转换片并且将片用作一维向量的指令的系统”的发明专利申请的分案申请。

技术领域

本发明领域总体上涉及计算机处理器架构，并且更具体地涉及用于执行用于快速转换矩阵并且将矩阵用作一维向量的指令的系统和方法。

背景技术

在诸如机器学习和其他批量数据处理之类的许多计算任务中，矩阵正变得日益重要。深度学习是一类机器学习算法。诸如深度神经网络的深度学习架构已经被应用于包括计算机视觉、语音识别、自然语言处理、音频识别、社交网络过滤、机器翻译、生物信息学和药物设计等的领域。

用于深度学习的两种工具--推理和训练--趋向于低精度算术。使深度学习算法和计算的吞吐量最大化可以帮助满足深度学习处理器的需求，深度学习处理器例如在数据中心中执行深度学习的那些处理器。

用于执行元素在2维(2D)矩阵与1维(1D)向量寄存器之间的直接移动的指令将会通过充分利用针对经典的1D向量操作的有用的执行硬件来改善矩阵操作。

附图说明

在所附附图中以示例方式而非限制方式来图示本发明，在附图中，类似的附图标记指示类似的要素，其中：

图1A图示经配置的片的实施例；

图1B图示经配置的片的实施例；

图2图示矩阵存储的若干示例；

图3图示利用矩阵(片)操作加速器的系统的实施例；

图4和图5示出如何使用矩阵操作加速器来共享存储器的不同实施例；

图6图示使用片的矩阵乘法累加操作(“TMMA”)的实施例；

图7图示链式融合乘法累加指令的迭代的执行的子集的实施例；

图8图示链式融合乘法累加指令的迭代的执行的子集的实施例；

图9图示链式融合乘法累加指令的迭代的执行的子集的实施例；

图10图示链式融合乘法累加指令的迭代的执行的子集的实施例；

图11图示根据实施例的尺寸为2的幂的SIMD实现方式，其中，累加器使用比至乘法器的输入的尺寸大的输入尺寸；

图12图示利用矩阵操作电路的系统的实施例；

图13图示处理器核流水线的实施例，该处理器核流水线支持使用片的矩阵操作；

图14图示处理器核流水线的实施例，该处理器核流水线支持使用片的矩阵操作；

图15图示按行为主格式和列为主格式表达的矩阵的示例；

图16图示矩阵(片)的使用的示例；

图17图示矩阵(片)的使用的方法的实施例；

图18图示根据实施例的对片的使用的配置的支持；

图19图示将支持的矩阵(片)的描述的实施例；