[发明专利]一种翻译模型

说明书

本申请提供一种翻译模型，所述翻译模型包括编码器和解码器，所述编码器包括2m+1个顺次连接的编码层且前m个编码层与2m+1个编码层中的后m个编码层对应共享编码参数，所述解码器包括2n+1个顺次连接的解码层且前n个解码层与2n+1个解码层中的后n个解码层对应共享解码参数，其中，m和n均为大于1的整数。

技术领域

本申请涉及人工智能技术领域，特别涉及一种翻译模型。

背景技术

随着计算机运算能力的提升，神经网络的应用越来越广泛，例如构建翻译模型，以实现待翻译语句到目标语句的转换。

翻译模型是一种端到端的网络结构，包括编码器和解码器，编码器包括L个编码层，解码器包括L个解码层，其中，编码器对接收的待翻译语句进行词编码处理获得编码结果，并将所述编码结果输入至解码器中，解码器同时接收解码器的输入和编码器的编码结果进行解码获得解码结果，在翻译模型进做前向(Forward)时，模型的参数不参与更新，在模型计算损失值做后向运算(Back Propagation)时，会对整个模型中每个解码层和编码层中的参数进行更新，在参数更新过程中，当更新第k层解码器或编码器的参数时，第k层参数只受到损失值和第k-L层参数的影响，不受第1-(k-1)层参数的影响，因此导致翻译模型的参数更新不充分，翻译模型的训练时间较长，翻译模型的BLEU分数较低。

因此，如何能使翻译模型的训练效果更好、时间更短，就成为技术人员亟待解决的问题。

发明内容

有鉴于此，本申请实施例提供了一种翻译模型，以解决现有技术中存在的技术缺陷。

根据本申请实施例的第一方面，提供了一种翻译模型，所述翻译模型包括编码器和解码器，所述编码器包括2m+1个顺次连接的编码层且前m个编码层与2m+1个编码层中的后m个编码层对应共享编码参数，所述解码器包括2n+1个顺次连接的解码层且前n个解码层与2n+1个解码层中的后n个解码层对应共享解码参数，其中，m和n均为大于1的整数。

可选的，所述编码器的前m个编码层与2m+1个编码层中的后m个编码层一一对应地共享编码参数，所述解码器的前n个解码层与2n+1个解码层中的后n个解码层一一对应地共享解码参数。

可选的，所述编码器还包括第一嵌入层，所述解码器还包括第二嵌入层。

可选的，所述编码器包括11个顺次连接的编码层，所述解码器包括11个顺次连接的解码层。

可选的，所述编码器的前5个编码层与所述11个编码层中的后5个编码层一一对应共享编码参数，所述解码器的前5个解码层与所述11个解码层中的后5个解码层一一对应共享解码参数。

可选的，所述编码器的第1个编码层与第7个编码层共享编码参数，所述编码器的第2个编码层与第8个编码层共享编码参数，所述编码器的第3个编码层与第9个编码层共享编码参数，所述编码器的第4个编码层与第10个编码层共享编码参数，所述编码器的第5个编码层与第11个编码层共享编码参数；

所述解码器的第1个解码层与第7个解码层共享解码参数，所述解码器的第2个解码层与第8个解码层共享解码参数，所述解码器的第3个解码层与第9个解码层共享解码参数，所述解码器的第4个解码层与第10个解码层共享解码参数，所述解码器的第5个解码层与第11个解码层共享解码参数。

可选的，所述编码器的第1个编码层与第11个编码层共享编码参数，所述编码器的第2个编码层与第10个编码层共享编码参数，所述编码器的第3个编码层与第9个编码层共享编码参数，所述编码器的第4个编码层与第8个编码层共享编码参数，所述编码器的第5个编码层与第7个编码层共享编码参数；