[发明专利]神经网络计算的加速方法、装置及计算机可读存储介质

说明书

本发明公开了一种神经网络计算的加速方法、装置及计算机可读存储介质，方法包括：获取神经网络模型中的多组数据，数据对应有数据标识，数据标识包括有效数据标识以及无效数据标识，数据包括特征图像以及特征图像对应的神经网络参数值；根据数据标识确定多组数据中是否存在有效数据；若多组数据中存在有效数据，根据有效数据进行神经网络计算，得到计算结果。本发明提高了神经网络计算的加速效率。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种神经网络计算的加速方法、装置及计算机可读存储介质。

背景技术

由于神经网络模型是过数据化的(over-parameterized)，许多数据都是冗余的，恰当的删除这些数据对模型最终的结果几乎没有影响。模型剪枝(model pruning)就是一个很好的例子。剪枝能够将模型大小压缩10倍以上，这就意味着可以减少10倍以上的模型计算量，结合定制硬件的计算力提升，最终可能达到更高的性能提升。但是，虽然需要计算的数据只有10％，但其获取的数据为无效数据时，虽未进行计算，但会产生空闲的计算周期，因此，实际的计算时间并没有缩短，由此可见，稀疏卷积神经网络的计算效率并未得到提升。

发明内容

本发明实施例通过提供一种神经网络计算的加速方法、装置及计算机可读存储介质，旨在解决如何提高稀疏神经网络计算的效率的技术问题。

本发明实施例提供一种神经网络计算的加速方法，所述方法包括：

获取神经网络模型中的多组数据，所述数据对应有数据标识，所述数据标识包括有效数据标识以及无效数据标识，所述数据包括特征图像以及所述特征图像对应的神经网络参数值；

根据所述数据标识确定多组所述数据中是否存在有效数据；

若多组所述数据中存在所述有效数据，根据所述有效数据进行神经网络计算，得到计算结果。

在一实施例中，所述根据所述数据标识确定多组所述数据中是否存在有效数据的步骤之后，所述方法还包括：

若多组所述数据中不存在所述有效数据，返回执行所述获取多组数据的步骤。

在一实施例中，所述若多组所述数据中存在所述有效数据，根据所述有效数据进行神经网络计算，得到计算结果的步骤包括：

若多组所述数据中存在所述有效数据，确定所述有效数据的组数；

在所述有效数据的组数大于1时，分布式计算所述有效数据，得到所述计算结果。

在一实施例中，所述若多组所述数据中存在所述有效数据，根据所述有效数据进行神经网络计算，得到计算结果的步骤包括：

若多组所述数据中存在所述有效数据，确定所述有效数据的组数；

在所述有效数据的组数大于1时，依次计算所述有效数据，得到所述计算结果。

在一实施例中，所述获取神经网络模型中的多组数据的步骤之前，所述方法还包括：

确定所述神经网络模型中的数据的数据数值；

根据所述数据数值对所述神经网络模型中的数据进行数据标记，以使得多组所述数据对应有数据标识。

在一实施例中，所述根据所述数据数值对所述神经网络模型中的数据进行数据标记的步骤包括：

确定所述数据数值是否处于有效数据范围；

在所述数据数值处于所述有效数据范围，将所述数据数值对应的数据标记有效数据标识；

在所述数据数值未处于所述有效数据范围，将所述数据数值对应的数据标记无效数据标识。