[发明专利]一种文本处理方法、系统和一种用于文本处理的装置

权利要求书

1.一种文本处理方法，其特征在于，包括：

接收源文本，所述源文本具有多个源词；

调用编码器将所述多个源词编码为多个向量；

当解码第t个目标词时，根据编码状态、在解码所述第t个目标词时的解码状态、在解码所述第t个目标词之前的中心点中一个或多个信息确定局部注意力窗口的中心点；其中，所述一个或多个信息包括在解码所述第t个目标词之前的其他目标词时、权值矩阵的矩阵连接中的一个或多个信息；

基于所述局部注意力窗口的中心点确定局部注意力窗口；

调用解码器依据位于所述局部注意力窗口中源词，将所述向量解码出所述第t个目标词。

2.根据权利要求1所述的方法，其特征在于，所述根据编码状态、在解码所述第t个目标词时的解码状态、在解码所述第t个目标词之前的中心点中一个或多个信息确定局部注意力窗口的中心点的步骤包括：

获取所述编码器的第一隐层状态，在解码所述第t个目标词时、所述解码器的第二隐层状态，在解码所述第t个目标词之前的其他目标词时、权值矩阵的矩阵连接中的一个或多个信息；

结合所述第一隐层状态、所述第二隐层状态和所述矩阵连接确定所述源文本中注意力集中的中心，作为局部注意力窗口的中心点。

3.根据权利要求2所述的方法，其特征在于，所述获取所述编码器的第一隐层状态，在解码所述第t个目标词时、所述解码器的第二隐层状态，在解码所述第t个目标词之前的其他目标词时、权值矩阵的矩阵连接中的一个或多个信息的步骤包括：

提取在顺序输入所述源文本时记录的第j个源词及位于所述第j个源词之后的源词的第一词信息；

提取在逆序输入所述源文本时记录的第j个源词及位于所述第j个源词之前的源词的第二词信息；

结合所述第一词信息与所述第二词信息，转换为所述编码器的第一隐层状态；

和/或，

提取在解码所述第t个目标词之前的其他目标词时的多个权值矩阵；

将所述多个权值矩阵映射为多个指定格式的权值矩阵；

对所述多个指定格式的权值矩阵进行相加，获得矩阵连接。

4.根据权利要求2所述的方法，其特征在于，所述结合所述第一隐层状态、所述第二隐层状态和所述矩阵连接确定所述源文本中注意的中心，作为局部注意力窗口的中心点的步骤包括：

分别对所述第一隐层状态、所述第二隐层状态和所述矩阵连接中的一个或多个信息配置权值矩阵；

组合配置权值矩阵的第一隐层状态、第二隐层状态和所述矩阵连接中的一个或多个信息，获得特征信息；

对所述特征信息进行非线性激活并配置权值矩阵，获得激活信息；

对所述激活信息进行非线性变换，获得特征值；

对所述特征值与所述源词的词长度之间的乘积向下取整，获得局部注意力窗口的中心点。

5.根据权利要求1或2或3或4所述的方法，其特征在于，所述基于所述局部注意力的中心确定局部注意力窗口的步骤包括：

计算所述中心点与预设的中心偏差值之间的差值，作为第一端点值；

计算所述中心点与预设的中心偏差值之间的和值，作为第二端点值；

将所述第一端点值与所述第二端点值之间的距离，设置为局部注意力窗口。

6.一种文本处理系统，其特征在于，包括：

源文本接收模块，用于接收源文本，所述源文本具有多个源词；

向量编码模块，用于调用编码器将所述多个源词编码为多个向量；

中心点确定模块，用于当解码第t个目标词时，根据编码状态、在解码所述第t个目标词时的解码状态、在解码所述第t个目标词之前的中心点中一个或多个信息确定局部注意力窗口的中心点；其中，所述一个或多个信息包括在解码所述第t个目标词之前的其他目标词时、权值矩阵的矩阵连接中的一个或多个信息；

局部注意力窗口确定模块，用于基于所述局部注意力窗口的中心点确定局部注意力窗口；

向量解码模块，用于调用解码器依据位于所述局部注意力窗口中源词，将所述向量解码出所述第t个目标词。