[发明专利]神经网络运算装置及方法

权利要求书

1.一种神经网络运算装置，其特征在于，包括：控制单元、稀疏选择单元和神经网络运算单元；所述神经网络运算装置用于处理神经网络数据，所述神经网络数据包括稀疏神经网络数据、离散神经网络数据以及通用网络数据，其中：

所述控制单元，用于产生分别对应所述稀疏选择单元和神经网络运算单元的微指令，并将微指令发送至相应单元；

稀疏选择单元，用于根据控制单元下发的对应稀疏选择单元的微指令，依照其中的稀疏数据表示的位置信息，在神经网络数据中选择与有效权值相对应的神经网络数据参与运算；

神经网络运算单元，用于根据控制单元下发的对应神经网络运算单元的微指令，对稀疏选择单元选取的神经网络数据执行神经网络运算，得到运算结果；

所述神经网络运算装置还包括：离散神经网络数据拆分单元，用于确定离散神经网络数据中实数值的个数N，将离散神经网络数据的神经网络模型拆分成N个稀疏表示的子网络，每个子网络中只包含一种实数，其余权值都为0；

当所述神经网络数据为离散神经网络数据时，令所述离散神经网络数据拆分单元工作，所述稀疏选择单元和神经网络运算单元将每个子网络按照稀疏神经网络数据进行处理，分别得到运算结果；以及

所述神经网络运算单元还用于将N个子网络的运算结果求和，从而得到所述离散神经网络数据的神经网络运算结果。

2.根据权利要求1所述的神经网络运算装置，其特征在于，还包括：

存储单元，用于存储所述神经网络数据；

其中，所述控制单元还用于产生对应所述存储单元的微指令，并将所述微指令发送至所述存储单元。

3.根据权利要求1所述的神经网络运算装置，其特征在于，所述N＝2或4。

4.根据权利要求2所述的神经网络运算装置，其特征在于，还包括：

数据类型判断单元，用于判断所述神经网络数据的类型；

所述控制单元用于：

(a)当所述神经网络数据为稀疏神经网络数据，令所述稀疏选择单元依照稀疏数据表示的位置信息，在存储单元中选择与有效权值相对应的神经网络数据；令所述神经网络运算单元对稀疏选择单元获取的神经网络数据执行神经网络运算，得到运算结果；

(b)当所述神经网络数据为离散神经网络数据时，令所述离散神经网络数据拆分单元工作，将离散神经网络数据的神经网络模型拆分成N个子网络；令所述稀疏选择单元和神经网络运算单元工作，将每一个子网络按照稀疏神经网络数据进行处理，分别得到运算结果；令所述神经网络运算单元工作，将N个子网络的运算结果求和，得到所述离散神经网络数据的神经网络运算结果。

5.根据权利要求4所述的神经网络运算装置，其特征在于，所述控制单元还用于：

(c)当所述神经网络数据为通用神经网络数据时，令所述稀疏选择单元不工作，令所述神经网络运算单元对通用神经网络数据执行神经网络运算，得到运算结果。

6.根据权利要求2所述的神经网络运算装置，其特征在于，所述控制单元包括：

指令缓存模块，用于存储待执行的神经网络指令，所述神经网络指令包含待处理神经网络数据的地址信息；

取指模块，用于从所述指令缓存模块中获取神经网络指令；

译码模块，用于对神经网络指令进行译码，得到分别对应存储单元、稀疏选择单元和神经网络运算单元的微指令，所述微指令中包含相应神经网络数据的地址信息；

指令队列，用于对译码后的微指令进行存储；

标量寄存器堆，用于存储所述待处理神经网络数据的地址信息；

依赖关系处理模块，用于判断指令队列中的微指令与前一微指令是否访问相同的数据，若是，将该微指令存储在一存储队列中，待前一微指令执行完毕后，将存储队列中的该微指令发射至相应单元；否则，直接将该微指令发射至相应单元。