[发明专利]一种文本处理方法、系统和一种用于文本处理的装置

权利要求书

1.一种文本处理方法，其特征在于，包括：

接收源文本，所述源文本具有多个源词；

调用编码器将所述多个源词编码为多个向量；

当解码第t个目标词时，根据所述源文本计算局部注意力窗口的中心偏差值；

采用所述中心偏差值确定局部注意力窗口；

调用解码器依据位于所述局部注意力窗口中源词，将所述向量解码出所述第t个目标词；

其中，所述根据所述源文本计算局部注意力窗口的中心偏差值的步骤包括：

获取在解码所述第t个目标词时、解码器的隐层状态；

依据所述隐层状态确定在所述源文本中注意力集中的位置的一半，作为局部注意力窗口的中心偏差值。

2.根据权利要求1所述的方法，其特征在于，所述依据所述隐层状态确定在所述源文本中注意力集中的位置的一半，作为局部注意力窗口的中心偏差值的步骤包括：

对所述隐层状态配置权值矩阵；

对所述配置权值矩阵的隐层状态进行非线性激活并配置权值矩阵，获得激活信息；

对所述激活信息进行非线性变换，获得特征值；

对所述源文本的文本长度与所述特征值之间乘积的一半向上取整，获得局部注意力窗口的中心偏差值。

3.根据权利要求1或2所述的方法，其特征在于，所述采用所述中心偏差值确定局部注意力窗口的步骤包括：

确定在解码所述第t个目标词时、局部注意力窗口的中心点；

将所述中心点与所述中心偏差值之间的差值，设置为第一端点值；

将所述中心点与所述中心偏差值之间的和值，设置为第二端点值；

将所述第一端点值与所述第二端点值之间的区域，设置为局部注意力窗口。

4.一种文本处理方法，其特征在于，包括：

接收源文本，所述源文本具有多个源词；

调用编码器将所述多个源词编码为多个向量；

当解码第t个目标词时，根据所述源文本计算局部注意力窗口的起始点和窗口长度；

采用所述起始点和所述窗口长度确定局部注意力窗口；

调用解码器依据位于所述局部注意力窗口中源词，将所述向量解码出所述第t个目标词；

其中，所述根据所述源文本计算局部注意力窗口的起始点和窗口长度的步骤包括：

获取在解码所述第t个目标词时、解码器的隐层状态；

依据所述隐层状态确定在所述源文本中注意力开始集中的位置，作为局部注意力窗口的起始点；

依据所述隐层状态确定在所述起始点之后注意力集中的位置，作为局部注意力窗口的窗口长度。

5.根据权利要求4所述的方法，其特征在于，所述依据所述隐层状态确定在所述源文本中注意力开始集中的位置，作为局部注意力窗口的起始点的步骤包括：

对所述隐层状态配置权值矩阵；

对所述配置权值矩阵的隐层状态进行非线性激活并配置权值矩阵，获得激活信息；

对所述激活信息进行非线性变换，获得特征值；

对所述源文本的文本长度与所述特征值之间的乘积向下取整，获得局部注意力窗口的起始点。

6.根据权利要求4或5所述的方法，其特征在于，所述依据所述隐层状态确定在所述起始点之后注意力集中的位置，作为局部注意力窗口的窗口长度的步骤包括：

对所述隐层状态配置权值矩阵；

对所述配置权值矩阵的隐层状态进行非线性激活并配置权值矩阵，获得激活信息；

对所述激活信息进行非线性变换，获得特征值；

对剩余长度与所述特征值之间的乘积向下取整，获得局部注意力窗口的窗口长度；其中，所述剩余长度与所述源文本的文本长度与所述起始点之间差值。

7.根据权利要求4-5任一项所述的方法，其特征在于，所述采用所述起始点和所述窗口长度确定局部注意力窗口的步骤包括：

将所述起始点设置为第一端点值；

将所述起始点与所述窗口长度之间的和值，设置为第二端点值；

将所述第一端点值与所述第二端点值之间的区域，设置为局部注意力窗口。