[发明专利]一种量化神经网络矩阵的方法、设备、计算机产品及板卡

说明书

本发明涉及一种量化神经网络矩阵的方法、设备、计算机产品及板卡，其中该设备包括处理器及存储器，该处理器可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。该处理器与其他处理装置进行交互，共同完成用户指定的计算操作。该存储器分别与该处理器和其他处理装置连接，用于该处理器和其他处理装置的数据存储。

技术领域

本披露涉及信息处理技术领域，具体涉及一种量化神经网络矩阵的方法、设备、计算机产品及板卡。

背景技术

神经网络在人工智能领域有着广泛的应用，其特点在于需要大量训练的过程，在神经网络的重复训练过程中，为提高处理效率，一般会对神经元或权值矩阵进行量化，但量化的过程会降低神经网络的精度水平，往往也无法降低数据存储所占的内存空间或传送带宽。因此，如何获得一种有效量化神经网络矩阵的方案仍是现有技术中需要解决的问题。

发明内容

为了至少部分地解决背景技术中提到的技术问题，本披露的方案提供了一种量化神经网络矩阵的方法、设备、计算机产品及板卡。

在一个方面中，本披露提供一种量化神经网络矩阵的方法，包括以下步骤：压缩所述神经网络矩阵以产生频域矩阵；扫描所述频域矩阵以产生数组；降低排序在所述数组后段的数据精度；以及将降低精度后的数组还原成量化后矩阵。

在另一个方面中，本披露提供一种量化神经网络矩阵的设备，包括：至少一个处理器及至少一个存储器，存储器存储有计算机程序指令，当所述计算机程序指令由所述至少一个处理器执行时，使得所述设备得以执行前述的方法。

在另一个方面中，本披露提供一种计算机可读存储介质，其存储用于电子数据交换的计算机程序，其中，所述计算机程序使得计算机执行如前所述的方法。

在另一个方面中，本披露提供一种计算机程序产品，所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，所述计算机程序可操作来使计算机执行如前所述的方法。

在另一个方面中，本披露提供一种集成电路芯片，包括前述的设备。

在另一个方面中，本披露提供一种板卡，包括前述的集成电路芯片。

利用本披露的方法、设备、计算机产品及板卡，在量化的过程可以有效的维持神经网络的精度水平，同时降低数据存储所占的内存空间或传送带宽。

附图说明

通过参考附图阅读下文的详细描述，本披露示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本披露的若干实施方式，并且相同或对应的标号表示相同或对应的部分，其中：

图1是示出根据本披露的卷积神经网络的四层结构示意图；

图2是示出根据本披露实施例中量化神经网络矩阵的方法的流程图；

图3是示出根据本披露实施例中扫描矩阵以产生数组的示意图；

图4是示出根据本披露实施例中降低数据精度的方法的流程图；

图5是示出根据本披露实施例中降低数据精度的另一个方法的流程图；

图6是示出根据本披露实施例的设备的结构图；以及

图7是示出根据本披露实施例的板卡的框架图。

具体实施方式

本披露的技术方案在整体上提供一种量化神经网络矩阵的方法、设备、计算机相关产品及板卡。不同于现有技术的量化方式，本披露提供了一种技术方案，在量化的过程可以有效地维持神经网络的精度水平，同时降低数据存储所占的内存空间或传送带宽。