[发明专利]自适应的神经网络训练方法、电子设备、介质和程序产品

权利要求书

1.一种自适应的神经网络训练方法，其特征在于，包括：

基于当前训练轮次的自适应参数，对目标神经网络进行训练，所述自适应参数用于确定对所述目标神经网络进行训练的各训练节点的训练任务量；

基于所述各训练节点在当前训练轮次的训练时间，调整所述当前训练轮次的自适应参数，并将调整后的自适应参数确定为下一训练轮次的自适应参数。

2.根据权利要求1所述的自适应的神经网络训练方法，其特征在于，所述基于当前训练轮次的自适应参数，对目标神经网络进行训练，包括：

基于当前训练轮次的自适应参数，确定所述各训练节点的任务量权重；

基于所述各训练节点的任务量权重，对目标神经网络进行训练。

3.根据权利要求2所述的自适应的神经网络训练方法，其特征在于，任一训练节点基于如下步骤对目标神经网络进行训练：

基于所述任一训练节点的任务量权重，从总训练数据集中确定出所述任一训练节点的子训练数据集；

基于所述任一训练节点的子训练数据集，对所述目标神经网络进行梯度累加训练，得到梯度累加参数；

基于所述梯度累加参数，更新所述目标神经网络的网络参数。

4.根据权利要求1所述的自适应的神经网络训练方法，其特征在于，所述基于所述各训练节点在当前训练轮次的训练时间，调整所述当前训练轮次的自适应参数，包括：

基于所述各训练节点在当前训练轮次的训练时间和所述当前训练轮次的自适应参数，确定所述各训练节点的任务变化量；

基于所述各训练节点的任务变化量，调整所述当前训练轮次的自适应参数。

5.根据权利要求1至4中任一项所述的自适应的神经网络训练方法，其特征在于，所述基于当前训练轮次的自适应参数，对目标神经网络进行训练，之前还包括：

获取表征训练任务的训练脚本，并基于预置的训练脚本编写规范，对所述训练脚本进行校验；

若所述训练脚本符合所述训练脚本编写规范，则对所述训练脚本进行自适应封装，并启动封装后的训练脚本，所述自适应封装用于为所述训练脚本加入首轮训练轮次的自适应参数。

6.根据权利要求5所述的自适应的神经网络训练方法，其特征在于，所述获取表征训练任务的训练脚本，并基于预置的训练脚本编写规范，对所述训练脚本进行校验，之后还包括：

若所述训练脚本不符合所述训练脚本编写规范，则发出错误提示信息，所述错误提示信息用于提示对所述训练脚本进行修改；

获取修改后的训练脚本，并基于所述训练脚本编写规范，对所述修改后的训练脚本进行校验；

若所述修改后的训练脚本符合所述训练脚本编写规范，则对所述修改后的训练脚本进行自适应封装，并启动封装后的训练脚本；

若所述修改后的训练脚本不符合所述训练脚本编写规范，则发出错误提示信息，并返回获取修改后的训练脚本，并基于所述训练脚本编写规范，对所述修改后的训练脚本进行校验的步骤，直至修改后的训练脚本符合所述训练脚本编写规范。

7.根据权利要求5所述的自适应的神经网络训练方法，其特征在于，所述训练脚本编写规范包括：文件格式规范、文件名称规范、训练框架的调用规范、关键变量的命名规范中的至少一种。

8.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述自适应的神经网络训练方法的步骤。

9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述自适应的神经网络训练方法的步骤。

10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述自适应的神经网络训练方法的步骤。