[发明专利]双加载指令

说明书

一种处理器，包括执行单元、存储器和一个或多个寄存器文件。执行单元配置为执行来自指令集的机器代码指令的实例。在指令集中定义的指令类型包括双加载指令，该双加载指令用于从存储器加载至该一个或多个寄存器文件中的至少一个。执行单元配置为：当执行加载指令时，执行以固定步长跨步的第一加载操作和以可变步长跨步的第二加载操作，该可变步长在该一个或多个寄存器文件中的可变步长寄存器中指定。

技术领域

本公开涉及一种响应于单一操作码(opcode)而执行两个加载操作的加载指令。

背景技术

对开发为特定应用而设计的处理器(例如图形处理器(GPU)及数字信号处理器(DSP))的兴趣正在上升。另一类最近受到关注的特定于应用的处理器是专用于机器智能应用的处理器，其被申请人命名为“IPU”(智能处理单元)。这些处理器可以被采用为例如加速器处理器，该加速器处理器布置为执行主机分配的工作，例如训练或帮助训练知识模型，例如神经网络，或者执行或帮助执行基于这种模型的预测或推断。

机器智能算法是基于对“知识模型”执行迭代更新，这可以由多个互连节点的图形表示。每个节点表示其输入的函数。一些节点接收对图形的输入，一些接收来自一个或多个其他节点的输入，而一些节点的输出形成其他节点的输入，一些节点的输出提供图形的输出(在一些情况下，给定节点甚至可能具有以下全部：对图形的输入、来自图形的输出和对其他节点的连接)。此外，由一个或多个相应参数(例如权重)对每个节点的函数进行参数化。在学习级期间，目标是基于经验输入数据集，找到各个参数的值，使得图形作为整体针对可能输入范围而生成期望的输出。用于这样做的各种算法在本领域中是已知的，例如基于随机梯度下降(stochastic gradient descent)的反向传播算法(back propagationalgorithm)。在基于输入数据的多次迭代中，逐渐调整参数以减少它们的误差，并且因此图形收敛于解(solution)。在随后的阶段，学习的模型然后可以用于对在给定的指定输入集的情况下对输出进行预测，或者在给定的指定输出集的情况下对输入(原因)进行推断。

处理器的指令集指的是基本类型的机器代码指令集，处理器的执行单元配置为执行该机器代码指令。每个机器代码指令包括操作数和采用相应零个或更多个操作数的零个或更多个操作数字段。指令集中的每种类型的机器代码指令的特征在于不同的相应操作码，该操作码在执行单元中触发不同逻辑，以在被执行时执行不同相应类型的操作。

一个定制处理器设计以使处理器适用于特定应用如机器智能的方法，是在处理器的指令集中提供一个或多个专用类型的指令，以执行倾向在相关应用中更常出现的类型的操作。例如，如果应用通常需要执行到特定类型的算术函数(例如矩阵乘法)(在其他情况下则需要以一系列更简单的机器代码指令(例如加法及标量乘法)建立)，则特定于应用的处理器的新设计可以包括指令集中的指令，该指令可以响应于单一操作码及单一机器代码指令的单一实例的相关操作数而执行这个算术函数。

发明内容

在诸如机器智能的应用中处理数据时要应付的一个问题是稀疏性(sparsity)。即，在一些数据集中，可能只有相对少数的数据值包含有用或相关信息。为了有效地处理这种数据，从存储器仅加载这些值是期望的。然而，相关数据的模式实质上是随机的。要加载哪些数据值是由程序决定的。为了有效地做到这点，可以包括可编程的步长(stride)，作为加载指令的隐含功能的一部分。即，随着每个加载指令，指令还将步长值施加于加载地址(通常在当前值的加载之后，即，因而后递增(post-increment)该地址以用于下一个加载指令)。可通过在处理器的可编程寄存器中设置，使该步长值变成可编程的。

另一方面，虽然有些数据可能是稀疏的，但是在相同应用中与稀疏数据一起使用的另一组值可能是有规律的(systematic)。即，程序需要加载来自存储器中一范围的连续地址的所有值(或者至少加载来自存储器地址空间中的规则间隔的值)。这点的一个示例在神经网络中发生，其中程序需要加载神经网络的权重(有规律的)和由神经网络用以操作的数据(通常是稀疏的)两者。