[发明专利]一种基于人工智能的模型训练方法、装置、服务器及介质

权利要求书

1.一种基于人工智能的模型训练方法，其特征在于，所述方法包括：

获取神经网络模型，所述神经网络模型包括多个模型参数，所述神经网络模型是基于序列数据训练得到的；

在对所述多个模型参数中的第一模型参数进行裁剪后，对第二模型参数进行训练，所述第二模型参数为所述多个模型参数中除所述第一模型参数之外的模型参数；

在对所述第二模型参数训练完成后，对所述第一模型参数进行训练，以恢复所述第一模型参数在所述神经网络模型中的数据处理能力，其中，在对所述第一模型参数训练完成后，得到序列到序列处理模型，所述序列到序列处理模型用于根据输入序列生成匹配的输出序列。

2.根据权利要求1所述的方法，其特征在于，所述在对所述多个模型参数中的第一模型参数进行裁剪后，对第二模型参数进行训练的步骤之前，所述方法还包括：

获取设定的裁剪比例和所述多个模型参数中每个模型参数的重要程度评价分数；

根据所述裁剪比例和所述每个模型参数的重要程度评价分数从所述多个模型参数中确定第一模型参数；

将所述第一模型参数的权值连接设置为零，以裁剪所述第一模型参数。

3.根据权利要求2所述的方法，其特征在于，所述根据所述裁剪比例和所述每个模型参数的重要程度评价分数从所述多个模型参数中确定第一模型参数，包括：

根据所述每个模型参数的重要程度评价分数对所述多个模型参数进行排序；

根据所述裁剪比例和所述多个模型参数的排序从所述多个模型参数中确定第一模型参数。

4.根据权利要求2所述的方法，其特征在于，所述根据所述裁剪比例和所述每个模型参数的重要程度评价分数从所述多个模型参数中确定第一模型参数，包括：

根据所述每个模型参数的重要程度评价分数对所述神经网络模型的每一个网络层包括的模型参数进行排序；

根据所述裁剪比例和所述每一个网络层包括的模型参数进行排序，从所述每一个网络层包括的模型参数中确定第一模型参数。

5.根据权利要求1～4中任一项所述的方法，其特征在于，所述在对所述第二模型参数训练完成后，对所述第一模型参数进行训练，以恢复所述第一模型参数在所述神经网络模型中的数据处理能力，包括：

在对所述第二模型参数训练完成后，获取基线模型的参数；

利用所述基线模型的参数对所述第一模型参数进行初始化，得到初始化的第一模型参数；

对所述初始化的第一模型参数进行训练，以恢复所述第一模型参数在所述神经网络模型中的数据处理能力。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取基线模型、连续训练模型和测试数据；

利用所述基线模型、所述连续训练模型和所述序列到序列处理模型分别对所述测试数据进行处理，以得到各个模型的测试结果和优化方向的动态变化数据；

根据所述各个模型的测试结果确定所述各个模型对应的平均准确率的提升数据；

通过可视化的方式展示所述各个模型对应的平均准确率的提升数据和所述优化方向的动态变化数据。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取待处理的输入序列；

将所述输入序列输入所述序列到序列处理模型，以得到与所述输入序列匹配的输出序列。

8.根据权利要求1所述的方法，其特征在于，所述序列到序列处理模型包括神经网络机器翻译模型。

9.一种服务器，其特征在于，包括处理器、存储器和网络接口，所述处理器、存储器和网络接口相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1～8任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如权利要求1～8任一项所述的方法。