[发明专利]基于句子向量的多文档摘要自动提取方法及系统

权利要求书

1.基于句子向量的多文档摘要自动提取方法，其特征是，包括以下步骤：

S1：对待提取摘要的文档集进行预处理；

所述步骤S1包括以下步骤：

步骤S101：对文档集的每篇文档根据句子结束符划分句子，将划分的句子分行记录，一个句子占一行；

步骤S102：记录每个句子对应的位置；

步骤S103：将划分句子后的文档集中每篇文档内容复制到同一篇文档中进行文档集合并，合并后的文档一个句子占一行；

步骤S104：对合并后的文档中每行句子切词并去除停用词；

S2：采用doc2vec模型训练生成句子向量；

所述步骤S2包括以下步骤：

步骤S201：将大语料库里的所有文档经过步骤S1里的步骤S101到S104进行预处理，将大语料库预处理后的文档输入到doc2vec里的句向量的分布记忆模型PV-DM，对句向量的分布记忆模型PV-DM进行训练；

步骤S202：将经过步骤S1里的步骤S101到S104预处理后的目标文档输入已训练好的句向量的分布记忆模型PV-DM，得到句子向量；

所述步骤S201中对句向量的分布记忆模型PV-DM进行训练，包括以下步骤：

步骤S2011：将大语料库预处理后的文档中，每行句子与所有词初始化为k维向量，将词w的上下文对应的词向量与该词所在句子对应的句子向量输入到深度神经网络模型；

步骤S2012：在深度神经网络模型的隐藏层将输入的向量进行求和累加，累加向量作为输出层的输入；

步骤S2013：深度神经网络模型的输出层对应一个二叉树，所述二叉树是以大语料中的词当叶子结点，以各词在大语料中出现的次数作为权值构造出Huffman树，每个词对应树中的叶子节点，树中每一次分支看做一次二分类，从根节点到词w对应的叶子结点路径中每个树节点对应的Label为1-p_j,p_j为路径中第j个节点对应的编码，除了根节点与叶子结点外每个树节点对应一个与句子向量同长度的辅助向量用来辅助训练模型；

步骤S2014：采用梯度上升的方法不断修正句向量、词向量和辅助向量，最终得到训练好的句向量的分布记忆模型PV-DM；

S3：将句子向量聚类并将对应句子保存为各个子主题文档；

S4：在各子主题文档中建立句子关系图模型；

S5:根据步骤S4建立的关系图模型，在各子主题文档中计算句子权重；

S6：抽取句子排序形成摘要。

2.如权利要求1所述的基于句子向量的多文档摘要自动提取方法，其特征是，步骤S3中句子向量的聚类生成采用谱聚类方式。

3.如权利要求2所述的基于句子向量的多文档摘要自动提取方法，其特征是，步骤S3包括以下步骤：

步骤S301：构建所有句子向量间的相似矩阵W，核函数使用高斯核函数，

步骤S302：计算拉普拉斯矩阵L；

步骤S303：构建标准化的拉普拉斯矩阵；

步骤S304：计算拉普拉斯矩阵的k个最小的特征值以及对应的特征向量V；

步骤S305：将特征向量按列排列形成特征矩阵，对特征矩阵中每一行单位化形成矩阵F，即矩阵F每行所成向量模值为1；

步骤S306：将矩阵F每行看作是一个k维的样本，用Kmeans算法聚类，聚为C类；

步骤S307：C类中向量所对应句子保存为C个子主题文档。

4.如权利要求1所述的基于句子向量的多文档摘要自动提取方法，其特征是，步骤S4具体包括：

在各子主题文档中，以句子为节点、句子之间的相似度为边和句子之间的相似度，建立句子关系图模型。

5.如权利要求1所述的基于句子向量的多文档摘要自动提取方法，其特征是，步骤S6具体包括：在各子主题文档中抽取权重最大的句子，按照步骤S1中的步骤S102得到的句子在文档中的位置排序，组合成摘要。

6.基于句子向量的多文档摘要自动提取系统，其特征是，包括：存储器、处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成权利要求1-5任一所述方法的步骤。

7.一种计算机可读存储介质，其特征是，其上运行有计算机程序，所述计算机程序被处理器运行时，完成权利要求1-5任一所述方法的步骤。