[发明专利]基于双向循环神经网络的神经机器翻译方法和系统

摘要

本发明属于自然语言处理领域，涉及基于双向循环神经网络的神经机器翻译方法和系统，利用双向循环神经网络获得语句的上下文信息，然后通过双曲正切函数处理上下文信息，在生成目标语句的时候该上下文信息能够提供充分的源语句含义，从而生成质量更高的目标语句；本发明利用双曲正切函数的快速收敛性能来弥补神经机器翻译模型收敛慢造成的影响，提高了翻译模型的训练速度，减少了模型所需的训练时间，并且，在双向循环神经网络中添加双曲正切函数，可以更加充分理解翻译语句的上下文信息，能够进一步提高神经机器翻译模型的翻译质量。

主权项

1.一种基于双向循环神经网络的神经机器翻译方法，其特征在于，包括：步骤1，编码器把源语句的词向量表示作为输入，通过双向循环神经网络获得源语句的语义表示，所述语义表示包括编码器中当前时刻正向循环神经网络的隐藏层状态和当前时刻反向循环神经网络的隐藏层状态步骤2，编码器使用快速收敛特性函数对所述当前时刻正向循环神经网络的隐藏层状态和所述当前时刻反向循环神经网络的隐藏层状态进行连接计算，得到当前时刻编码器的隐藏层状态h_i，并将当前时刻编码器的隐藏层状态h_i发送给解码器；步骤3，解码器根据所述编码器的隐藏层状态hi和之前时刻解码器的隐藏层状态sj‑1计算上下文信息向量cj，并结合之前时刻的翻译输出yj‑1计算当前时刻解码器的隐藏层状态sj；步骤4，解码器根据所述上下文信息向量cj和当前时刻解码器的隐藏层状态sj，以及之前时刻的翻译输出yj‑1，计算当前时刻的翻译输出yj，把所有时刻的翻译输出连接起来构成机器翻译的目标语句。