[发明专利]一种数据处理方法、装置和电子设备

权利要求书

1.一种数据处理方法，其特征在于，包括：

获取指定领域的训练数据；

依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练；

其中，所述预设优化信息包括所述训练数据的拟合项和偏移调整项。

2.根据权利要求1所述的方法，其特征在于，所述训练数据包括：源语言训练文本和对应的目标语言参考翻译文本；

所述依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练，包括：

将所述源语言训练文本输入至所述第一通用机器翻译模型中，输出所述第一通用机器翻译模型对应翻译词表的第一预测概率信息；

依据所述目标语言参考翻译文本、第一预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数。

3.根据权利要求2所述的方法，其特征在于，所述依据所述目标语言参考翻译文本、第一预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数，包括：

依据所述目标语言参考翻译文本和第一预测概率信息，确定所述训练数据的拟合项对应的第一优化值；

依据所述第一预测概率信息，确定所述偏移调整项对应的第二优化值；

以最小化所述第一优化值和第二优化值之和为目标，调整所述第一通用机器翻译模型的参数。

4.根据权利要求1所述的方法，其特征在于，所述训练数据包括：源语言训练文本和对应的目标语言参考翻译文本；

所述依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练，包括：

将所述源语言训练文本输入至所述第一通用机器翻译模型中，输出所述第一通用机器翻译模型对应翻译词表的第一预测概率信息；

将所述源语言训练文本输入至第二通用机器翻译模型中，输出所述第二通用机器翻译模型对应翻译词表的第二预测概率信息；

依据所述目标语言参考翻译文本、第一预测概率信息、第二预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数。

5.根据权利要求4所述的方法，其特征在于，所述依据所述目标语言参考翻译文本、第一预测概率信息、第二预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数，包括：

依据所述目标语言参考翻译文本和第一预测概率信息，确定所述训练数据的拟合项对应的第一优化值；

依据所述第二预测概率信息，确定所述偏移调整项对应的第三优化值；

以最小化所述第一优化值和第三优化值之和为目标，调整所述第一通用机器翻译模型参数。

6.根据权利要求2-5任一所述的方法，其特征在于，

所述训练数据的拟合项为所述目标语言参考翻译文本的概率分布函数；

所述偏移调整项为所述第一通用机器翻译模型对应翻译词表的概率分布函数。

7.根据权利要求1所述的方法，其特征在于，所述的方法还包括确定所述预设优化信息的步骤：

获取所述训练数据的拟合项和偏移调整项、以及超参数；

将所述偏移调整项和超参数相乘，得到对应的乘积拟合项；

将所述训练数据的拟合项和所述乘积值拟合项相加，得到和值拟合项；

依据所述和值拟合项，确定所述预设优化信息。

8.一种数据处理装置，其特征在于，包括：

数据获取模块，用于获取指定领域的训练数据；

训练模块，用于依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练；其中，所述预设优化信息包括所述训练数据的拟合项和偏移调整项。

9.一种可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如方法权利要求1-7任一所述的数据处理方法。

10.一种电子设备，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：

获取指定领域的训练数据；

依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练；

其中，所述预设优化信息包括所述训练数据的拟合项和偏移调整项。