[发明专利]神经网络的量化方法、装置、计算机设备及存储介质

说明书

本公开提供了一种神经网络的量化方法、装置、计算机设备及存储介质，其中方法包括：在多个迭代周期中的每个迭代周期中执行：确定对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数；基于量化系数对多个量化对象分别进行量化操作，得到多个量化对象分别在当前迭代周期对应的量化结果；基于多个量化对象分别在当前迭代周期对应的量化结果，确定多个量化对象分别在当前迭代周期对应的量化损失，并基于量化损失，确定多个量化对象的量化损失分别对应的损失权重；以及，将最后一个迭代周期确定的量化系数，确定为目标量化系数，并利用目标量化系数对第一神经网络进行量化处理，生成第二神经网络。

技术领域

本公开涉及神经网络技术领域，具体而言，涉及一种神经网络的量化方法、装置、计算机设备及存储介质。

背景技术

随着神经网络的发展，神经网络中的规模越来越大，复杂程度也越来越高，这导致了利用神经网络在执行处理任务的时候，所需要的计算资源、和存储资源也较多。但部署神经网络的终端设备计算资源和存储资源都较为有限，为了将神经网络部署到终端设备中，需要将神经网络进行压缩处理；量化作为一种对神经网络的压缩处理方式，将神经网络的网络层内参、以及在网络中传递的数据由浮点数量化至固定比特位的定点数，通过定点数运算，较之浮点数运算，所需要的计算资源和存储资源都较少。前在对神经网络进行量化时，存在量化后的神经网络精度下降较大的问题。

发明内容

本公开实施例至少提供一种神经网络的量化方法、装置、计算机设备及存储介质。

第一方面，本公开实施例提供了一种神经网络的量化方法，包括：在多个迭代周期中的每个迭代周期中执行：确定对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数；其中，所述量化系数是基于原始量化系数确定的，或者基于历史迭代周期确定的量化损失和损失权重确定的；基于所述量化系数对所述多个量化对象分别进行量化操作，得到所述多个量化对象分别在当前迭代周期对应的量化结果；基于所述多个量化对象分别在当前迭代周期对应的量化结果，确定所述多个量化对象分别在当前迭代周期对应的量化损失，并基于所述量化损失，确定所述多个量化对象的量化损失分别对应的损失权重；以及，将最后一个迭代周期确定的量化系数，确定为目标量化系数，并利用所述目标量化系数对所述第一神经网络进行量化处理，生成第二神经网络。

一种可选的实施方式中，所述量化对象包括下述至少一种：所述目标网络层的输入数据、输出数据、以及网络层内参。

一种可选的实施方式中，所述量化对象包括所述目标网络层的网络层内参；所述确定当前迭代周期对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数，包括：响应于当前迭代周期为首个迭代周期，基于预设的量化系数空间，确定所述网络层内参的原始量化系数；基于所述网络层内参的原始量化系数，确定所述当前迭代周期的量化系数。

一种可选的实施方式中，所述量化对象包括：所述目标网络层的输入数据和/或所述目标网络层的输出数据；所述确定当前迭代周期对第一神经网络中的目标网络层进行量化，多个量化对象对应的量化系数，包括：响应于当前迭代周期为首个迭代周期，基于所述输入数据，确定所述输入数据的第一分布特征信息；基于所述第一分布特征信息，确定所述输入数据的原始量化系数；和/或，响应于当前迭代周期为首个迭代周期，基于所述输出数据，确定所述输出数据的第二分布特征信息；基于所述第二分布特征信息，确定所述输出数据的原始量化系数；基于所述输入数据的原始量化系数和/或所述输出数据的原始量化系数，确定所述当前迭代周期的量化系数。