[发明专利]神经网络的训练方法、装置、计算机设备及存储介质

权利要求书

1.一种神经网络的训练方法，其特征在于，包括：

基于神经网络对应的目标损失函数，生成第一计算算子；其中，所述第一计算算子中包括多步操作；

在训练所述神经网络的过程中，调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值；

基于所述损失值，调整所述神经网络的网络参数值。

2.根据权利要求1所述的方法，其特征在于，所述方法包括根据以下方法生成所述第一计算算子：

确定所述目标损失函数中至少一组可融合的多步操作；

基于所述至少一组可融合的多步操作，确定每组可融合的多步操作对应的所述第一计算算子。

3.根据权利要求2所述的方法，其特征在于，所述方法包括如下至少一项：

属于同一组的所述可融合的多步操作在所述目标损失函数的计算过程中相邻，且计算特征相容；

在所述可融合的多步操作包括多组的情况下，至少两组所述可融合的多步操作之间计算特征不相容。

4.根据权利要求3所述的方法，其特征在于，在所述调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值之前，所述方法还包括：

确定在所述目标损失函数的计算过程中与相邻操作的计算特征不相容的至少一步操作对应的第二计算算子。

5.根据权利要求4所述的方法，其特征在于，所述调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值，包括：

按照所述第一计算算子和所述第二计算算子在所述目标损失函数中的计算顺序，调用所述第一计算算子对应的内核执行所述第一计算算子，以及，调用所述第二计算算子的内核执行所述第二计算算子，得到本次训练过程中的损失值。

6.根据权利要求1～5任一所述的方法，其特征在于，在所述神经网络为强化学习网络的情况下，所述调用所述第一计算算子对应的内核执行所述第一计算算子，包括：

基于所述目标损失函数对于所述强化学习网络的输出数据的切分步数，确定所述目标损失函数对应的迭代次数；

循环执行所述第一计算算子对应的多步操作，直至循环次数达到所述迭代次数。

7.根据权利要求6所述的方法，其特征在于，在所述目标损失函数为时序差分损失函数的情况下，所述第一计算算子包括规约计算算子和时序差分误差计算算子；

所述调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值，包括：

循环执行所述时序差分误差计算算子对应的多步操作，每次循环结束后得到该次循环计算的时序差分误差；

基于所述规约计算算子，对所述每次循环结束后得到的该次循环计算的时序差分误差进行规约处理，得到本次训练过程中的损失值。

8.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在得到训练完成的神经网络后，基于训练完成的所述神经网络，对目标学习对象进行强化学习训练。

9.一种神经网络的训练装置，其特征在于，包括：

生成模块，用于基于神经网络对应的目标损失函数，生成第一计算算子；其中，所述第一计算算子中包括多步操作；

计算模块，用于在训练所述神经网络的过程中，调用所述第一计算算子对应的内核执行所述第一计算算子，得到本次训练过程中的损失值；

调整模块，用于基于所述损失值，调整所述神经网络的网络参数值。

10.一种计算机设备，其特征在于，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行如权利要求1至8任一项所述的神经网络的训练方法的步骤。

11.一种计算机可读存储介质，其特征在于，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如权利要求1至8任一项所述的神经网络的训练方法的步骤。