[发明专利]语句翻译的方法、翻译模型训练的方法、设备及存储介质

权利要求书

1.一种语句翻译的方法，其特征在于，包括：

获取用第一语言表示的源语句；

基于键值网络模型对所述源语句进行翻译，以得到用第二语言表示的目标语句；其中，所述键值网络模型用于在对所述源语句进行编码后存储编码得到的编码向量，并在对所述编码向量进行循环解码时依据上一循环的解码结果确定本循环解码过程中每个编码向量的关注概率，其中，未被翻译的编码向量的关注概率大于已被翻译的编码向量的关注概率；

输出所述用第二语言表示的所述目标语句。

2.根据权利要求1所述的方法，其特征在于，所述基于键值网络模型对所述源语句进行翻译，以得到用第二语言表示的目标语句，包括：

对所述源语句进行编码，以得到与所述源语句对应的所述编码向量；

在键存储网络和值存储网络中分别存储一份所述编码向量，所述键存储网络和所述值存储网络包含于所述键值网络模型；

对所述键存储网络中的编码向量进行循环解码，并在每次循环解码时依据所述值存储网络中存储的编码向量，以及上一循环的解码结果确定本循环解码过程中所述值存储网络中每个编码向量的关注概率；

根据所述值存储网络中每个编码向量的关注概率确定本循环待翻译的编码向量；

对所述本循环待翻译的编码向量进行翻译，以得到所述目标语句中本循环待翻译的编码向量所对应的词语。

3.根据权利要求2所述的方法，其特征在于，所述对所述键存储网络中的编码向量进行循环解码，并在每次循环解码时依据所述值存储网络中存储的编码向量，以及上一循环的解码结果确定本循环解码过程中所述值存储网络中每个编码向量的关注概率，包括：

根据上一循环的解码状态向量和上一循环输出的词的向量，确定本循环的查询状态向量；

根据所述本循环的查询状态向量，以及所述键值存储网络中存储的上一循环更新的每个编码向量，确定本循环中所述值存储网络中每个编码向量的关注概率。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

根据所述本循环的查询状态向量和所述本循环待翻译的编码向量，确定本循环的解码状态向量。

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

根据所述本循环的解码状态向量，以及所述键值存储网络中存储的上一循环更新的每个编码向量，确定本循环所述键值存储网络中的每个编码向量。

6.根据权利要求5所述的方法，其特征在于，所述根据所述本循环的解码状态向量，以及所述键值存储网络中存储的上一循环更新的每个编码向量，确定本循环所述键值存储网络中的每个编码向量，包括：

确定本循环待翻译的编码向量所对应的词语是否是结束符；

若不是结束符，则根据所述本循环的解码状态向量，以及所述键值存储网络中存储的上一循环更新的每个编码向量，确定本循环所述键值存储网络中的每个编码向量。

7.一种翻译模型训练的方法，其特征在于，包括：

获取样本对集合，所述样本对集合中包括多个样本对，每个样本对都包括以第一语言表示的源语句和以第二语言表示的目标语句；

使用所述样本对集合对初始键值网络模型进行训练，以得到目标键值网络模型，所述目标键值网络模型用于在语句翻译时对待翻译语句进行编码后存储编码得到的编码向量，并在对所述编码向量进行循环解码时依据上一循环的解码结果确定本循环解码过程中每个编码向量的关注概率，其中，未被翻译的编码向量的关注概率大于已被翻译的编码向量的关注概率。

8.根据权利要求7所述的方法，其特征在于，所述使用所述样本对集合对初始键值网络模型进行训练，以得到目标键值网络模型，包括：

根据训练参数与样本对和结束符的关注概率的对应关系，以结束符关注概率为优化目标，确定所述训练参数的数值；

将所述训练参数的数值代入所述初始键值网络模型，以得到目标键值网络模型。