[发明专利]神经网络运算装置及方法

权利要求书

1.一种神经网络运算装置，其特征在于，包括：离散神经网络数据拆分单元、稀疏选择单元和神经网络运算单元；其中，

所述离散神经网络数据拆分单元，用于根据原始神经网络数据中实数值的个数N，将所述原始神经网络数据的神经网络模型拆分成N个稀疏表示的子网络，每个子网络中只包含一种实数，其余权值都为0；

所述稀疏选择单元，用于将每一个子网络按照稀疏神经网络数据进行处理，依据子网络的稀疏数据表示的位置信息，在所述每个稀疏表示的子网络的稀疏神经网络数据中选择与有效权值相对应的神经网络数据参与运算，其中，1表示该位置神经网络模型权值数据有效；

所述神经网络运算单元，用于对所述稀疏选择单元选取的每个所述子网络的神经网络数据分别执行神经网络运算，得到N个运算结果，并将N个子网络的运算结果求和，从而得到所述原始神经网络数据的神经网络运算结果。

2.根据权利要求1所述的神经网络运算装置，其特征在于，还包括：

存储单元，用于存储所述原始神经网络数据。

3.根据权利要求2所述的神经网络运算装置，其特征在于，所述存储单元还用于存储所述离散神经网络数据拆分单元获得的N个稀疏表示的子网络。

4.根据权利要求1所述的神经网络运算装置，其特征在于，所述N＝2或N＝4；

当所述N等于2时，两个所述子网络合并为一稀疏神经网络数据。

5.根据权利要求2所述的神经网络运算装置，其特征在于，所述装置还包括：

控制单元，用于产生分别对应所述稀疏选择单元和神经网络运算单元的微指令，并将微指令发送至所述稀疏选择单元和所述神经网络运算单元；

其中，所述稀疏选择单元，用于根据所述控制单元下发的对应所述稀疏选择单元的微指令，根据所述子网络的稀疏数据表示的位置信息，在所述子网络的稀疏神经网络数据中选择与有效权值相对应的神经网络数据参与运算；

所述神经网络运算单元，用于根据所述控制单元下发的对应神经网络运算单元的微指令进行运算。

6.根据权利要求5所述的神经网络运算装置，其特征在于，所述控制单元还用于产生对应所述离散神经网络数据拆分单元的微指令，并将所述微指令发送至所述离散神经网络数据拆分单元，以使所述离散神经网络数据拆分单元根据所述微指令，根据原始神经网络数据中实数值的个数N，将原始神经网络数据的神经网络模型拆分成N个稀疏表示的子网络。

7.根据权利要求5所述的神经网络运算装置，其特征在于，所述装置还包括：

数据类型判断单元，用于判断所述原始神经网络数据的类型；

所述控制单元用于根据所述原始神经网络数据的类型产生对应单元的微指令，以控制所述稀疏选择单元和所述神经网络运算单元。

8.根据权利要求7所述的神经网络运算装置，其特征在于，

当所述原始神经网络数据为稀疏神经网络数据时，所述控制单元用于令所述稀疏选择单元依照稀疏数据表示的位置信息，在所述存储单元中选择与有效权值相对应的神经网络数据；令所述神经网络运算单元对稀疏选择单元获取的神经网络数据执行神经网络运算，得到运算结果。

9.根据权利要求7所述的神经网络运算装置，其特征在于，还包括：

当所述原始神经网络数据为通用神经网络数据时，所述控制单元用于令所述离散神经网络数据拆分单元和所述稀疏选择单元均不工作，令所述神经网络运算单元对通用神经网络数据执行神经网络运算，得到运算结果，其中，所述通用神经网络数据指计算机数据。