[发明专利]一种数据处理方法、装置和电子设备

说明书

本发明实施例提供了一种数据处理方法、装置和电子设备，其中，所述方法包括：获取指定领域的训练数据；依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练；其中，所述预设优化信息包括所述训练数据的拟合项和偏移调整项，进而本发明实施例能够在提升机器翻译模型在指定领域的翻译效果的同时，保证其在通用领域的翻译效果。

技术领域

本发明涉及数据处理技术领域，特别是涉及一种数据处理方法、装置和电子设备。

背景技术

人工智能包括十分广泛的科学，由不同的领域组成，如机器学习，计算机视觉等等。总的说来，人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作；自人工智能诞生以来，理论和技术日益成熟，应用领域也不断扩大。如机器翻译领域，例如将汉语翻译成英语、将英语翻译成汉语等等。

在将一种自然语言(源语言)翻译为另一种自然语言(目标语言)过程中，在不同的领域(如日常口语、IT科技、生物医疗等)，同一个源语言字词可能会被翻译不同的目标语言字词。例如在将英文翻译为中文过程中，例如英文单词“season”，在生命科学领域被翻译为中文“季节”，在体育领域被翻译为中文“赛季”。因此采用通用领域数据训练的通用机器翻译模型，无法在不同领域的场景下都取得良好的翻译效果。

为了提升通用机器翻译模型在特定领域的效果，往往需要采用该特定领域的数据对通用机器翻译模型进行fine-tuning(微调)训练。虽然机器翻译模型在特定领域的翻译效果有一定提升，但在通用领域的翻译效果会大幅下降。

发明内容

本发明实施例提供一种数据处理方法，以在提升机器翻译模型在指定领域的翻译效果的同时，保证其在通用领域的翻译效果。

相应的，本发明实施例还提供了一种数据处理装置和一种电子设备，用以保证上述方法的实现及应用。

为了解决上述问题，本发明实施例公开了一种数据处理方法，具体包括：获取指定领域的训练数据；依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练；其中，所述预设优化信息包括所述训练数据的拟合项和偏移调整项。

可选地，所述训练数据包括：源语言训练文本和对应的目标语言参考翻译文本；所述依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练，包括：将所述源语言训练文本输入至所述第一通用机器翻译模型中，输出所述第一通用机器翻译模型对应翻译词表的第一预测概率信息；依据所述目标语言参考翻译文本、第一预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数。

可选地，所述依据所述目标语言参考翻译文本、第一预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数，包括：依据所述目标语言参考翻译文本和第一预测概率信息，确定所述训练数据的拟合项对应的第一优化值；依据所述第一预测概率信息，确定所述偏移调整项对应的第二优化值；以最小化所述第一优化值和第二优化值之和为目标，调整所述第一通用机器翻译模型的参数。

可选地，所述训练数据包括：源语言训练文本和对应的目标语言参考翻译文本；所述依据预设优化信息，采用所述训练数据对第一通用机器翻译模型进行微调训练，包括：将所述源语言训练文本输入至所述第一通用机器翻译模型中，输出所述第一通用机器翻译模型对应翻译词表的第一预测概率信息；将所述源语言训练文本输入至第二通用机器翻译模型中，输出所述第二通用机器翻译模型对应翻译词表的第二预测概率信息；依据所述目标语言参考翻译文本、第一预测概率信息、第二预测概率信息和预设优化信息，调整所述第一通用机器翻译模型的参数。