[发明专利]一种变种文本还原方法、装置以及设备

权利要求书

1.一种变种文本还原方法，包括：

获取包含变种内容的源文本；

通过基于注意力机制的机器学习模型，对所述源文本进行处理，得到所述源文本对应的上下文向量和注意力分布；

对所述上下文向量进行解析，得到中间结果；

确定针对所述注意力分布的指针生成网络的拷贝指针；

通过所述拷贝指针，根据所述源文本中的至少部分内容或者所述注意力分布对所述中间结果进行调整，得到所述源文本对应的还原文本。

2.如权利要求1所述的方法，所述机器学习模型包含编码器和注意力机制层；

所述通过基于注意力机制的机器学习模型，对所述源文本进行处理，得到所述源文本对应的上下文向量和注意力分布，具体包括：

通过所述编码器对所述源文本进行编码，得到编码结果；

通过所述注意力机制层，对所述编码结果进行处理，得到所述源文本对应的上下文向量和注意力分布，其中，所述上下文向量根据所述注意力分布确定。

3.如权利要求2所述的方法，所述通过所述编码器对所述源文本进行编码，具体包括：

通过基于双向循环神经网络RNN的所述编码器对所述源文本进行编码。

4.如权利要求2所述的方法，所述对所述上下文向量进行解析，得到中间结果，具体包括：

确定对所述上下文向量进行逐步解码的顺序；

按照所述顺序，根据所述上下文向量中属于当前步的内容，以及所述当前步之前至少一步的解码结果，确定当前步的解码结果；

根据所述逐步解码的过程，确定中间结果。

5.如权利要求4所述的方法，所述确定当前步的解码结果，具体包括：

通过基于单向RNN的解码器，解码得到当前步的解码结果。

6.如权利要求4所述的方法，所述确定针对所述注意力分布的指针生成网络的拷贝指针，具体包括：

根据所述上下文向量、所述当前步之前至少一步的解码结果、所述当前步的解码输入，确定针对所述注意力分布的指针生成网络的拷贝指针。

7.如权利要求1所述的方法，所述中间结果包括用于构建所述还原文本的特定词的生成概率；

所述通过所述拷贝指针，根据所述源文本中的至少部分内容或者所述注意力分布对所述中间结果进行调整，具体包括：

通过所述拷贝指针，根据所述源文本中的至少部分内容或者所述注意力分布对所述生成概率进行调整。

8.如权利要求1所述的方法，所述通过所述拷贝指针，根据所述注意力分布，对所述生成概率进行调整，具体包括：

通过所述拷贝指针，对用构建指定词集合中的词的生成概率进行调整，所述指定词集合由通过训练阶段确定的可生成的词构成；

通过所述拷贝指针，根据所述注意力分布，对所述源文本中的至少部分内容的生成概率进行调整。

9.一种变种文本还原装置，包括：

获取模块，获取包含变种内容的源文本；

处理模块，通过基于注意力机制的机器学习模型，对所述源文本进行处理，得到所述源文本对应的上下文向量和注意力分布；

解析模块，对所述上下文向量进行解析，得到中间结果；

确定模块，确定针对所述注意力分布的指针生成网络的拷贝指针；

调整模块，通过所述拷贝指针，根据所述源文本中的至少部分内容或者所述注意力分布对所述中间结果进行调整，得到所述源文本对应的还原文本。

10.如权利要求9所述的装置，所述机器学习模型包含编码器和注意力机制层；

所述处理模块，通过所述编码器对所述源文本进行编码，得到编码结果；

通过所述注意力机制层，对所述编码结果进行处理，得到所述源文本对应的上下文向量和注意力分布，其中，所述上下文向量根据所述注意力分布确定。