[发明专利]摘要提取和摘要抽取模型训练方法及相关装置、存储介质

说明书

本申请公开了一种摘要提取和摘要抽取模型训练方法及相关装置、存储介质，其中，摘要提取方法包括：对文本进行分句得到句子列表，按照预设长度对句子列表按照顺序进行窗口划分得到多个窗口，且预设长度为摘要抽取模型支持的最大序列长度，每个窗口包括多个连续的句子且长度小于或等于预设长度，相邻的两个窗口包括至少一个相同的句子，利用摘要抽取模型分别对每个窗口进行预测，得到每个窗口中每个句子的重要性得分，利用每个窗口中每个句子的重要性得分确定文本中每个句子的重要性得分，选择按重要性得分从高到低排序靠前的至少一个句子作为文本的摘要。上述方案，能够提高摘要提取的质量。

技术领域

本申请涉及自然语言处理技术领域，特别是涉及一种摘要提取和摘要抽取模型训练方法及相关装置、存储介质。

背景技术

随着信息技术的发展，通过机器学习实现对自然语言的处理逐渐受到人们的青睐。以深度学习为例，可以将基于神经网络的模型应用于机器翻译、文本摘要等与自然语言处理相关的任务。

由于互联网技术的发展，人们每天都可能收到大量的新闻、文章等信息。故对这些信息进行摘要提取，能够提高人们获取信息的效率。然而，在实际应用中，特别是在对诸如工作报告、会议总结等长文本进行摘要提取时，极可能出现信息丢失或信息冗余等影响摘要提取质量的情况。有鉴于此，如何提高摘要提取的质量成为亟待解决的问题。

发明内容

本申请主要解决的技术问题是提供一种摘要提取和摘要抽取模型训练方法及相关装置、存储介质，能够提高摘要提取的质量。

为了解决上述问题，本申请第一方面提供了一种摘要提取方法，包括：对文本进行分句得到句子列表，按照预设长度对句子列表按照顺序进行窗口划分得到多个窗口，且预设长度为摘要抽取模型支持的最大序列长度，每个窗口包括多个连续的句子且长度小于或等于预设长度，相邻的两个窗口包括至少一个相同的句子，利用摘要抽取模型分别对每个窗口进行预测，得到每个窗口中每个句子的重要性得分，利用每个窗口中每个句子的重要性得分确定文本中每个句子的重要性得分，选择按重要性得分从高到低排序靠前的至少一个句子作为文本的摘要。

为了解决上述问题，本申请第二方面提供了一种摘要抽取模型训练方法，包括：训练适用于摘要抽取的基于双向转换的编码器模型；利用适用于摘要抽取的基于双向转换的编码器模型构建摘要抽取模型；利用文本摘要训练集训练摘要抽取模型。

为了解决上述问题，本申请第三方面提供了一种摘要提取方法，包括：利用摘要抽取模型对文本进行预测，得到文本中每个句子的重要性得分；获取按重要性得分从高到低排序靠前的多个句子的特征；按照摘要最大长度对多个句子中的至少部分进行组合，得到多个句子组合，每个句子组合的长度小于或等于摘要最大长度；利用训练好的评分回归器对每个句子组合进行预测得到预测质量分；选择预测质量分最高的一个句子组合作为文本的摘要。

为了解决上述问题，本申请第四方面提供了一种摘要提取装置，包括相互耦接的存储器和处理器，存储器存储有程序指令，处理器用于执行程序指令以实现上述第一方面或第三方面中的摘要提取方法。

为了解决上述问题，本申请第五方面提供了一种摘要抽取模型训练装置，包括相互耦接的存储器和处理器，存储器存储有程序指令，处理器用于执行程序指令以实现上述第二方面中的摘要抽取模型训练方法。

为了解决上述问题，本申请第六方面提供了一种计算机可读存储介质，存储有程序指令，其特征在于，程序指令被处理器执行时实现上述第一方面中的摘要提取方法，或实现上述第二方面中的摘要抽取模型训练方法，或实现上述第三方面中的摘要提取方法。