[发明专利]神经网络的量化方法、装置、计算机设备及存储介质

权利要求书

1.一种神经网络的量化方法，其特征在于，包括：在多个迭代周期中的每个迭代周期中执行：

确定当前迭代周期对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数；其中，所述量化系数是基于原始量化系数确定的，或者基于历史迭代周期确定的量化损失和损失权重确定的；

基于所述量化系数对所述多个量化对象分别进行量化操作，得到所述多个量化对象分别在当前迭代周期对应的量化结果；

基于所述多个量化对象分别在当前迭代周期对应的量化结果，确定所述多个量化对象分别在当前迭代周期对应的量化损失，并基于所述量化损失，确定所述多个量化对象的量化损失分别对应的损失权重；

以及，将最后一个迭代周期确定的量化系数，确定为目标量化系数，并利用所述目标量化系数对所述第一神经网络进行量化处理，生成第二神经网络。

2.根据权利要求1所述的量化方法，其特征在于，所述量化对象包括下述至少一种：所述目标网络层的输入数据、输出数据、以及网络层内参。

3.根据权利要求1或2所述的量化方法，其特征在于，所述量化对象包括所述目标网络层的网络层内参；

所述确定当前迭代周期对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数，包括：

响应于当前迭代周期为首个迭代周期，基于预设的量化系数空间，确定所述网络层内参的原始量化系数；

基于所述网络层内参的原始量化系数，确定所述当前迭代周期的量化系数。

4.根据权利要求1-3任一项所述的量化方法，其特征在于，所述量化对象包括：所述目标网络层的输入数据和/或所述目标网络层的输出数据；

所述确定当前迭代周期对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数，包括：

响应于当前迭代周期为首个迭代周期，基于所述输入数据，确定所述输入数据的第一分布特征信息；基于所述第一分布特征信息，确定所述输入数据的原始量化系数；和/或，响应于当前迭代周期为首个迭代周期，基于所述输出数据，确定所述输出数据的第二分布特征信息；基于所述第二分布特征信息，确定所述输出数据的原始量化系数；

基于所述输入数据的原始量化系数和/或所述输出数据的原始量化系数，确定所述当前迭代周期的量化系数。

5.根据权利要求1-4任一项所述的量化方法，其特征在于，所述量化对象包括所述目标网络层的输入数据、网络层内参、以及输出数据；

所述量化系数包括：所述输入数据的第一量化系数、以及所述网络层内参的第二量化系数；

所述基于所述量化系数对所述多个量化对象分别进行量化操作，得到所述多个量化对象分别在当前迭代周期对应的量化结果，包括：

针对种类为输入数据的第一量化对象，基于第一量化系数，对所述第一量化对象进行量化操作，得到所述第一量化对象在当前迭代周期的第一量化结果；

针对种类为网络层内参的第二量化对象，基于第二量化系数，对所述第二量化对象进行量化操作，得到所述第二量化对象在当前迭代周期的第二量化结果；

针对种类为输出数据的第三量化对象，基于所述第三量化系数，对所述第三量化对象进行量化操作，得到所述第三量化对象在当前迭代周期的第三量化结果；或者，基于所述第一量化结果、以及所述第二量化结果，确定所述第三量化对象在当前迭代周期对应的第三量化结果。

6.根据权利要求1-5任一项所述的量化方法，其特征在于，所述基于所述多个量化对象分别在当前迭代周期对应的量化结果，确定所述多个量化对象分别在当前迭代周期对应的量化损失，包括：

针对多个量化对象中的每个量化对象，基于所述量化系数，对所述每个量化对象在当前迭代周期对应的量化结果进行反量化操作，得到所述每个量化对象对应的反量化结果；

基于所述每个量化对象、以及对应的反量化结果，得到所述每个量化对象在当前迭代周期的量化损失。