[发明专利]关键词提取方法、装置、计算机设备及可读存储介质

权利要求书

1.一种关键词提取方法，其特征在于，所述方法包括以下步骤：

获取待提取文本，分别对所述待提取文本的各个词进行掩膜mask，得到各个被mask的词对应的mask文本；

采用训练好的双向注意力神经网络BERT模型分别提取所述待提取文本对应的第一词向量以及各个所述mask文本对应的第二词向量；

分别对所述第一词向量以及各个所述第二词向量进行降噪处理，得到降噪第一词向量以及各个降噪第二词向量；

根据所述第一词向量以及各个所述第二词向量，结合所述降噪第一词向量以及各个所述降噪第二词向量，确定各个所述被mask的词在所述待提取文本中的重要程度；

根据各个所述被mask的词的所述重要程度从所述待提取文本中提取关键词。

2.根据权利要求1所述的关键词提取方法，其特征在于，所述根据所述第一词向量以及各个所述第二词向量，结合所述降噪第一词向量以及各个所述降噪第二词向量，确定各个所述被mask的词在所述待提取文本中的重要程度，包括：

分别计算各个所述第二词向量与所述第一词向量之间的第一余弦相似度，以及分别计算各个所述降噪第二词向量与所述降噪第一词向量之间的第二余弦相似度；

根据各个所述第一余弦相似度和各个所述第二余弦相似度，计算各个所述被mask的词在所述待提取文本中的重要程度。

3.根据权利要求1所述的关键词提取方法，其特征在于，所述采用训练好的BERT模型分别提取所述待提取文本对应的第一词向量以及各个所述mask文本对应的第二词向量，包括：

将所述待提取文本以及各个所述mask文本分别输入至所述训练好的BERT模型中进行词嵌入操作，得到所述待提取文本对应的第一词嵌入向量以及各个所述mask文本对应的第二词嵌入向量，其中，所述第一词嵌入向量包括所述待提取文本的词、词的位置和句子信息，各个所述第二词嵌入向量包括各个所述mask文本的词、词的位置和句子信息；

将所述第一词嵌入向量和各个所述第二词嵌入向量分别输入至所述训练好的BERT模型的Transformer中进行编码以及解码操作，得到所述待提取文本对应的第一词向量以及各个所述mask文本对应的第二词向量。

4.根据权利要求1所述的关键词提取方法，其特征在于，所述分别对所述第一词向量以及各个所述第二词向量进行降噪处理，得到降噪第一词向量以及各个降噪第二词向量，包括：

分别对所述第一词向量以及各个所述第二词向量进行低通滤波处理，得到降噪第一词向量以及各个降噪第二词向量。

5.根据权利要求2所述的关键词提取方法，其特征在于，所述根据各个所述第一余弦相似度和各个所述第二余弦相似度，计算各个所述被mask的词在所述待提取文本中的重要程度，包括：

计算各个所述第一余弦相似度与各个所述第二余弦相似度之间的差值；

将计算的各个所述差值的绝对值作为各个所述被mask的词在所述待提取文本中的重要程度。

6.根据权利要求1所述的关键词提取方法，其特征在于，所述根据各个所述被mask的词的所述重要程度从所述待提取文本中提取关键词，包括：

将各个所述被mask的词的所述重要程度进行排序；

按照重要程度从大到小的顺序从各个被mask的词中选取预设数量的词作为待提取文本的关键词。

7.根据权利要求1所述的关键词提取方法，其特征在于，所述获取待提取文本，分别对所述待提取文本的各个词进行掩码mask，得到各个被mask的词对应的mask文本之前，包括：

获取基于Transformer的预训练BERT模型；

根据预设训练集对所述预训练BERT模型进行训练，以对所述预训练BERT模型的参数进行更新，得到训练好的BERT模型。