[发明专利]神经网络训练方法、装置、设备及计算机可读存储介质

权利要求书

1.一种神经网络训练方法，其特征在于，所述神经网络训练方法包括以下步骤：

随机初始化待训练神经网络，并基于输入数据，获取初始化后的待训练神经网络的目标随机参数；

对所述目标随机参数进行量化处理，以获得量化参数；

基于所述目标随机参数以及所述量化参数确定量化损失值；

基于所述量化损失值以及所述初始化后的待训练神经网络，确定目标神经网络。

2.如权利要求1所述的神经网络训练方法，其特征在于，所述基于所述目标随机参数以及所述量化参数确定量化损失值的步骤包括：

基于所述目标随机参数确定第一损失值，并基于所述量化参数确定第二损失值；

基于所述第一损失值以及所述第二损失值，确定所述量化损失值。

3.如权利要求2所述的神经网络训练方法，其特征在于，所述基于所述目标随机参数确定第一损失值，并基于所述量化参数确定第二损失值的步骤包括：

基于所述输入数据以及所述目标随机参数，确定第一损失值；

基于所述输入数据以及所述量化参数，确定第二损失值。

4.如权利要求2所述的神经网络训练方法，其特征在于，所述基于所述第一损失值以及所述第二损失值，确定所述量化损失值的步骤包括：

基于所述第一损失值、所述第二损失值以及预设合页损失函数，确定所述量化损失值。

5.如权利要求1所述的神经网络训练方法，其特征在于，所述对所述目标随机参数进行量化处理，以获得量化参数的步骤包括：

基于所述目标随机参数的符号对各个目标随机参数进行二值量化处理，以获得所述量化参数。

6.如权利要求1至5任一项所述的神经网络训练方法，其特征在于，所述基于所述量化损失值以及初始化后的待训练神经网络，确定目标神经网络的步骤包括：

获取初始化后的待训练神经网络对应的损失函数值；

基于所述量化损失值以及所述损失函数值，确定目标神经网络。

7.如权利要求6所述的神经网络训练方法，其特征在于，所述基于所述量化损失值以及所述损失函数值，确定目标神经网络的步骤包括：

基于所述量化损失值以及所述损失函数值，确定总损失函数值；

基于所述总损失函数值更新初始化后的待训练神经网络，以获得更新后的神经网络，并确定所述总损失函数值是否小于预设损失值；

若所述总损失函数值小于预设损失值，则将更新后的神经网络作为所述目标神经网络；

若所述总损失函数值大于或等于预设损失值，则将更新后的神经网络作为初始化后的待训练神经网络，并返回执行基于输入数据，获取初始化后的待训练神经网络的目标随机参数的步骤。

8.一种神经网络训练装置，其特征在于，所述神经网络训练装置包括：

初始化模块，用于随机初始化待训练神经网络，并基于输入数据，获取初始化后的待训练神经网络的目标随机参数；

量化模块，用于对所述目标随机参数进行量化处理，以获得量化参数；

第一确定模块，用于基于所述目标随机参数以及所述量化参数确定量化损失值；

第二确定模块，用于基于所述量化损失值以及所述初始化后的待训练神经网络，确定目标神经网络。

9.一种神经网络训练设备，其特征在于，所述神经网络训练设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的神经网络训练程序，所述神经网络训练程序被所述处理器执行时实现如权利要求1至7中任一项所述的神经网络训练方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有神经网络训练程序，所述神经网络训练程序被处理器执行时实现如权利要求1至7中任一项所述的神经网络训练方法的步骤。