[发明专利]文本处理装置、方法、设备以及计算机可读存储介质

权利要求书

1.一种文本处理装置，包括：

编码单元，配置成对源文本进行编码以得到源文本编码隐藏状态；

解码单元，配置成确定解码隐藏状态；以及

输出单元，配置成根据外部信息、所述源文本编码隐藏状态、所述解码隐藏状态确定输出词语概率分布，以确定输出词语。

2.如权利要求1所述的文本处理装置，其中，所述输出单元还配置成：

根据所述外部信息，将所述候选输出词语中概率大于等于输出概率阈值并且属于所述外部信息的词语确定为当前时间步的候选输出词语。

3.如权利要求2所述的文本处理装置，其中所述输出单元还配置成：

基于当前时间步的候选输出词语与先前时间步确定的候选序列的联合概率以及先前时间步确定的候选序列与所述外部信息的相似度确定所述候选词语的候选概率，以及

将候选概率最高的预设数量的候选词语确定为输出词语。

4.如权利要求1所述的文本处理装置，其中

所述编码单元还配置成对所述外部信息进行编码以得到外部信息编码隐藏状态；

所述输出单元配置成确定所述外部信息编码隐藏状态和所述解码隐藏状态的相似度，当所述相似度大于等于当前时间步的相似度阈值时，所述输出单元输出所述外部信息作为输出词语。

5.如权利要求4所述的文本处理装置，其中，所述输出单元还配置成：

当所述相似度小于所述当前相似度阈值时，所述输出单元将所述输出词语概率分布中概率最高的词语确定为当前时间步的输出词语，

调整所述当前时间步的相似度阈值以确定调整后的相似度阈值，其中所述调整后的相似度阈值小于所述当前时间步的相似度阈值，并且所述调整后的相似度阈值用作下一时间步的相似度阈值。

6.如权利要求1所述的文本处理装置，还包括：

注意力生成单元，配置成根据外部信息、所述源文本编码隐藏状态和所述解码隐藏状态确定当前时间步的注意力分布；

所述输出单元配置成根据所述注意力分布、所述源文本编码隐藏状态、所述解码隐藏状态确定输出词语概率分布，以确定输出词语。

7.如权利要求1-6任一项所述的文本处理装置，其中所述编码单元和所述解码单元是通过以下步骤训练的：

对训练源文本进行编码以得到训练源文本编码隐藏状态；

确定训练解码隐藏状态；

根据外部信息、所述训练源文本编码隐藏状态、所述训练解码隐藏状态确定当前时间步的输出词语；以及

调整所述编码单元、所述解码单元中的参数以使得训练输出词语和外部信息中包含的词语之间的差异最小。

8.一种文本处理方法，包括：

对源文本进行编码以得到源文本编码隐藏状态；

确定解码隐藏状态；以及

根据外部信息、所述源文本编码隐藏状态、所述解码隐藏状态确定输出词语概率分布，以确定输出词语。

9.一种文本处理设备，包括：

处理器；以及

存储器，其中存储计算机可读程序指令，

其中，在所述计算机可读程序指令被所述处理器运行时执行如权利要求8所述的文本处理方法。

10.一种计算机可读存储介质，其上存储计算机可读指令，当所述计算机可读指令由计算机执行时，所述计算机执行如权利要求8所述的文本处理方法。