[发明专利]用于神经网络数据量化的方法、装置和计算机可读存储介质

权利要求书

1.一种用于对神经网络数据进行量化的方法，包括：

获取针对于多组神经网络数据中的每组神经网络数据的量化相关值，以得到与所述多组神经网络数据对应的多个量化相关值；

根据所述多个量化相关值中的最大值与最小值的比值，确定用于划分所述多组神经网络数据的多个区间；

将与所述多个量化相关值对应的所述多组神经网络数据中的每组划分到相应的所述多个区间之一；以及

对于划分到同一区间内的一组或多组神经网络数据执行统一的量化操作。

2.根据权利要求1所述的方法，其中每组神经网络数据的所述量化相关值是最大值或绝对值最大值。

3.根据权利要求1所述的方法，其中划分到相应的所述多个区间之一包括：

根据所述多个量化相关值中的每个与所述最小值或最大值的比值，将与所述多个量化相关值对应的所述多组神经网络数据中的每组划分到相应的所述多个区间之一。

4.根据权利要求1所述的方法，进一步包括：

在获取所述量化相关值前，根据所述神经网络的目标层的输出通道来将所述神经网络数据划分成所述多组神经网络数据。

5.根据权利要求4所述的方法，其中所述目标层是所述神经网络的卷积层或全连接层。

6.根据权利要求1所述的方法，其中所述神经网络数据包括所述神经网络的神经元、权值、偏置和梯度中的至少一种数据。

7.根据权利要求1-6的任意一项所述的方法，其中所述量化操作包括将高精度数据格式表示的神经网络数据量化成低精度数据格式表示的神经网络数据。

8.根据权利要求7所述的方法，其中对于划分到同一区间内的一组或多组神经网络数据执行统一的量化操作包括：

根据所述一组或多组神经网络数据中的绝对值最大值和低精度数据格式数据的位宽来确定量化参数；以及

使用所述量化参数来对所述一组或多组神经网络数据执行所述统一的量化操作。

9.一种用于对神经网络数据进行量化的设备，包括：

至少一个处理器；

至少一个存储器，其存储有计算机程序代码，当所述计算机程序代码由所述至少一个处理器执行时，使得所述设备执行根据权利要求1-8的任意一项所述的方法。

10.一种计算机可读存储介质，其上存储有用于对神经网络数据进行量化的计算机程序代码，当所述计算机程序代码由处理器运行时，执行根据权利要求1-8的任意一项所述的方法。

11.一种集成电路装置，包括：

存储单元，其配置用于存储多组神经网络数据；

量化相关值单元，其配置用于获取针对于多组神经网络数据中的每组神经网络数据的量化相关值，以得到与所述多组神经网络数据对应的多个量化相关值；

确定单元，其配置用于根据所述多个量化相关值中的最大值与最小值的比值，确定用于划分所述多组神经网络数据的多个区间；

划分单元，其配置用于将与所述多个量化相关值对应的所述多组神经网络数据划分到相应的所述多个区间；以及

量化单元，其配置用于对于划分到同一区间内的一组或多组神经网络数据执行统一的量化操作。

12.根据权利要求11所述的集成电路装置，其中每组神经网络数据的所述量化相关值是最大值或绝对值最大值。

13.根据权利要求11所述的集成电路装置，其中所述划分单元还配置用于：

根据所述多个量化相关值中的每个与所述最小值或最大值的比值，将与所述多个量化相关值对应的所述多组神经网络数据中的每组划分到相应的所述多个区间之一。