[发明专利]一种基于深度学习的文本摘要方法及系统

说明书

本发明实施例公开了一种基于深度学习的文本摘要方法及系统，其中方法包括：对目标文件进行中文分词和句子分割处理，将目标文件的原始文本划分为单独的句子；将划分为单独句子的原始文本转换为文本向量；对文本向量进行自注意力计算，得到包含语义信息的句子特征；对通过乱序的自注意力计算得到的各个句子特征进行加权整合，并对加权整合后的句子特征进行归一化处理，得到篇章级的句子特征；将篇章级的句子特征输入预先构建的分类模型，输出句子类别；根据句子类别将目标文件的原始文本划分为关键信息和非关键信息两部分；将关键信息按照合理的顺序进行排列组织，并将排列组织后的关键信息合成语义通顺、语法合规的摘要文本。

技术领域

本发明涉及人工智能和自然语言处理领域，并且更具体地，涉及一种基于深度学习的文本摘要方法及系统。

背景技术

近年来，由于互联网用户每天在互联网上分享和传递大量以文本形式展现的信息，互联网上的文本信息出现爆发式增长。当用户浏览海量的互联网文本数据时，很难快速准确地获取其中的关键信息。这导致用户需要花费很多的时间和精力去自行概括文本中的重要内容。因此，如何能够从这些海量的长文本中提取出用户最关注的内容，提升对于信息处理的效率，成为了当下自然语言处理领域迫在眉睫的研究工作。

一个好的摘要内容需要满足摘要内容重要性高、多样性高、冗余度低和可读性高等多方面的要求。对文本摘要按照生成方式的不同进行分类，可分为抽取式文本摘要(Extractive Summarization)和生成式文本摘要(Abstractive Summarization)。其中，抽取式的自动文摘方法通过构建要点抽取数据集协助抽取要素关键信息并合成文本摘要，但是这种方法需要大量人工标注以实现数据集的搭建，可迁移性较低。生成式的自动文摘方法利用BERT预训练模型训练获得最佳词向量，再通过卷积神经网络抽取特征并筛选出关键信息，最终计算得到摘要文本信息，但是这种方法利用卷积核抽取特征会忽略上下文信息，导致语音信息的确实，影响最终摘要效果。

针对上述的现有技术中存在的文本摘要方法需要大量人工标注、抽取特征会忽略上下文信息，从而导致文本摘要成本高和摘要效果差的技术问题，目前尚未提出有效的解决方案。

发明内容

为了解决上述诸如文本摘要方法需要大量人工标注、抽取特征会忽略上下文信息，从而导致文本摘要成本高和摘要效果差的技术问题，提出了本发明。本发明的实施例提供了一种基于深度学习的文本摘要方法及系统。

根据本发明实施例的一个方面，提供了一种基于深度学习的文本摘要方法，所述方法包括：

通过对输入的目标文件进行中文分词和句子分割处理，将目标文件的原始文本划分为单独的句子；

通过对划分为单独句子的原始文本进行文本向量化处理，将原始文本转换为文本向量；

通过乱序的自注意力计算方式对文本向量进行计算，得到包含语义信息的句子特征；

对通过乱序的自注意力计算得到的各个句子特征进行加权整合，并对加权整合后的句子特征进行归一化处理，得到篇章级的句子特征；

将篇章级的句子特征输入预先构建的分类模型，输出句子类别；

根据句子类别将目标文件的原始文本划分为关键信息和非关键信息两部分；

将关键信息按照合理的顺序进行排列组织，并将排列组织后的关键信息合成语义通顺、语法合规的摘要文本。

可选地，对输入的目标文件进行中文分词和句子分割处理，包括：

在目标文件的原始文本中的每个句子前后分别插入[CLS]和[SEP]标签，以显性区分不同句子；

将原始文本切分为各个词组，以保留最小语义信息；