[发明专利]基于神经网络模型的翻译方法及翻译系统

说明书

基于神经网络模型的翻译方法，包括下列步骤：构建编码器‑解码器网络架构的神经网络翻译模型。利用编码器将原文编码。解码器在解码位置生成Beam的过程中利用注意力机制判断当前解码位置是否对齐到带术语的原文。若是则采用Dynamic Beam Allocation算法的动态分配机制生成当前位置的Beam，并且仅分配对应原文术语的译文。若否则采用Beam Search算法生成当前位置的Beam。利用解码器从最后一个Beam回溯全部路径，选取评分最高的路径，将路径上的候选词连接在一起生成译文。该翻译方法能够根据术语表提供译文，并兼顾翻译的效率和质量。本发明还提供了一种采用上述翻译方法的翻译系统。

技术领域

本发明涉及一种翻译方法，尤其涉及一种基于神经网络模型的翻译方法。本发明还涉及一种采用上述翻译方法的翻译系统。

背景技术

当前多数机器翻译引擎基于神经网络模型构建，采用编码器-解码器（Encoder-Decoder）框架，其中编码器（Encoder）将原文中的词（子词）编码为向量，解码器（Decoder）接收编码器编码的信息，加上注意力机制，结合解码器已输出的译文向量，使用集束搜索（Beam Search）算法输出译文。由于目前的机器翻译技术是按句子来翻译的，因此无法保证原文中的术语在不同句子中得到准确一致的翻译。为解决上述问题，提出了一种新的算法动态束分配（Dynamic Beam Allocation，DBA），然而DBA算法的缺陷在于固定大小的Beam中的可分配空间有限，而束（Beam）中被分配的术语词过多，限制了模型的输出能力，影响了输出译文的质量。

发明内容

本发明的目的是提供一种基于神经网络模型的翻译方法，能够根据术语表提供译文，并兼顾翻译的效率和质量。

本发明的另一个目的是提供一种基于神经网络模型的翻译系统，能够根据术语表提供译文，并兼顾翻译的效率和质量。

本发明提供了一种基于神经网络模型的翻译方法，包括下列步骤：

构建编码器-解码器网络架构的神经网络翻译模型；

利用编码器将原文编码为编码向量；

解码器在解码位置利用编码向量生成Beam的过程中利用注意力机制输出对齐分数，判断当前解码位置是否对齐到带术语的原文位置；

若是则解码器在解码位置采用Dynamic Beam Allocation算法的动态分配机制生成当前位置的Beam，并且仅分配对应原文术语的译文；

若否则解码器在解码位置则采用Beam Search算法生成当前位置的Beam；

利用解码器从最后一个Beam回溯全部路径，选取评分最高的路径，将路径上的候选词连接在一起生成译文。

本发明提供的基于神经网络模型的翻译方法，在解码器解码过程中，利用注意力机制生成对齐信息，预判用户指定的术语译文的输出位置，优化了Dynamic BeamAllocation 算法的Beam分配机制，在不降低解码速度的前提下，提升了Dynamic BeamAllocation 算法的译文输出质量。借此使机器翻译引擎能够根据术语表提供译文，并兼顾翻译的效率和质量。

在基于神经网络模型的翻译方法的一种示意性方式中，利用如下公式计算注意力机制的对齐分数：

其中，n表示编码器输出的编码向量的维度，h_i表示编码器在i位置输出的编码向量，S_t表示解码器在t位置的编码向量。

在基于神经网络模型的翻译方法的一种示意性方式中，Dynamic BeamAllocation算法的动态分配机包括步骤：

生成候选词集合，候选词集合包括采用Beam Search算法在上一个Beam生成的数个候选词结果、所有当前解码路径未覆盖的术语起始词和术语表中前一位置候选词的接续词；以及