[发明专利]神经网络运算装置及方法

摘要

本公开提供了一种神经网络运算装置及方法。该神经网络运算装置包括：控制单元、存储单元、稀疏选择单元和神经网络运算单元；其中：控制单元，用于产生分别对应各个单元的微指令，并将微指令发送至相应单元；稀疏选择单元，用于根据控制单元下发的对应稀疏选择单元的微指令，依照其中的稀疏数据表示的位置信息，在存储单元存储的神经网络数据中选择与有效权值相对应的神经网络数据参与运算；以及神经网络运算单元，用于根据控制单元下发的对应神经网络运算单元的微指令，对稀疏选择单元选取的神经网络数据执行神经网络运算，得到运算结果。本公开可以提升神经网络运算装置处理不同数据类型的能力，加快神经网络运算速度的同时降低功耗。

主权项

1.一种神经网络运算装置，其特征在于，包括：控制单元、稀疏选择单元和神经网络运算单元；所述神经网络运算装置用于处理神经网络数据，所述神经网络数据包括稀疏神经网络数据、离散神经网络数据以及通用网络数据，其中：所述控制单元，用于产生分别对应所述稀疏选择单元和神经网络运算单元的微指令，并将微指令发送至相应单元；稀疏选择单元，用于根据控制单元下发的对应稀疏选择单元的微指令，依照其中的稀疏数据表示的位置信息，在神经网络数据中选择与有效权值相对应的神经网络数据参与运算；神经网络运算单元，用于根据控制单元下发的对应神经网络运算单元的微指令，对稀疏选择单元选取的神经网络数据执行神经网络运算，得到运算结果；所述神经网络运算装置还包括：离散神经网络数据拆分单元，用于确定离散神经网络数据中实数值的个数N，将离散神经网络数据的神经网络模型拆分成N个稀疏表示的子网络，每个子网络中只包含一种实数，其余权值都为0；当所述神经网络数据为离散神经网络数据时，令所述离散神经网络数据拆分单元工作，所述稀疏选择单元和神经网络运算单元将每个子网络按照稀疏神经网络数据进行处理，分别得到运算结果；以及所述神经网络运算单元还用于将N个子网络的运算结果求和，从而得到所述离散神经网络数据的神经网络运算结果。