[发明专利]文本生成方法和设备

权利要求书

1.一种文本生成方法，其特征在于，包括以下步骤：

将源文本输入至编码器中，得到编码器的隐藏层输出的特征向量；

从编码器的隐藏层输出的特征向量中抽取出源文本的全局状态；

将编码器最终输出的特征向量和源文本的全局状态输入至解码器中，生成目标文本。

2.根据权利要求1所述的方法，通过卷积神经网络或者胶囊网络从编码器的隐藏层输出的特征向量中抽取出源文本的全局状态。

3.根据权利要求1所述的方法，所述编码器采用循环神经网络或者卷积神经网络实现；所述解码器采用循环神经网络或者卷积神经网络实现。

4.根据权利要求2所述的方法，所述编码器包括M个隐藏层，M为整数并且M≥1；

所述通过胶囊网络从编码器的隐藏层输出的特征向量中抽取出源文本的全局状态，包括：

将编码器的隐藏层输出的特征向量输入至胶囊网络中，得到该隐藏层对应的全局状态；

根据M个隐藏层对应的全局状态确定源文本的全局状态。

5.根据权利要求4所述的方法，所述根据M个隐藏层对应的全局状态确定源文本的全局状态，包括：

对M个隐藏层对应的全局状态进行平均处理，将平均处理的结果作为源文本的全局状态。

6.根据权利要求4所述的方法，所述将编码器的隐藏层输出的特征向量输入至胶囊网络中，得到该隐藏层对应的全局状态，包括：

将编码器的隐藏层输出的特征向量输入至具有K个胶囊的胶囊网络中，得到该隐藏层对应的K个胶囊矩阵，其中K为整数并且K≥2；

对该隐藏层对应的K个胶囊矩阵进行融合，得到该隐藏层对应的全局状态。

7.根据权利要求6所述的方法，所述将编码器的隐藏层输出的特征向量输入至具有K个胶囊的胶囊网络中，得到该隐藏层对应的K个胶囊矩阵，包括：

将编码器的隐藏层输出的特征向量输入至具有K个胶囊的胶囊网络中，得到该隐藏层对应的K个初级胶囊矩阵；

使用动态路由算法对该隐藏层对应的K个初级胶囊矩阵进行迭代更新，得到该隐藏层对应的K个胶囊矩阵。

8.根据权利要求6所述的方法，所述对该隐藏层对应的K个胶囊矩阵进行融合，得到该隐藏层对应的全局状态，包括：

计算所述K个胶囊矩阵的平均矩阵；

根据所述平均矩阵，计算所述K个胶囊矩阵中的每个胶囊矩阵的权重；

通过对所述K个胶囊矩阵进行加权求和，得到该隐藏层对应的全局状态。

9.根据权利要求6所述的方法，使用基于注意力机制的池化算法、或者平均池化算法、或者最大池化算法实现所述融合。

10.根据权利要求1所述的方法，所述将编码器最终输出的特征向量和源文本的全局状态输入至解码器中，生成目标文本，包括：

利用源文本的全局状态，对解码器的最后一个隐藏层输出的特征向量进行动态调节；

基于调节后的特征向量生成目标文本。

11.根据权利要求10所述的方法，所述利用源文本的全局状态对解码器的最后一个隐藏层输出的特征向量进行动态调节，包括：

根据解码器的最后一个隐藏层在当前解码时间步输出的特征向量和源文本的全局状态的相关程度，确定源文本的全局状态在当前解码时间步的权重；

计算源文本的全局状态与源文本的全局状态在当前解码时间步的权重的乘积；

计算解码器的最后一个隐藏层在当前解码时间步输出的特征向量和所述乘积的和值，将所述和值作为解码器的最后一个隐藏层在当前解码时间步最终输出的特征向量。

12.根据权利要求1所述的方法，所述解码器用于生成摘要，所述目标文本是摘要；或者，

所述解码器用于进行语言转换，所述目标文本是与源文本对应的另一种语言的文本。