[发明专利]确定文章概念标签的方法、装置、设备及存储介质

权利要求书

1.一种确定文章概念标签的方法，其特征在于，所述方法包括：

确定的目标文章对应的至少一个关键词；

基于所述至少一个关键词、占位符以及所述目标文章，组成预训练语言模型的输入数据；

将所述输入数据输入到所述预训练语言模型，由所述预训练语言模型输出所述占位符对应的预测词；

将所述预测词以及所述至少一个关键词组成所述目标文章的概念标签。

2.根据权利要求1所述的方法，其特征在于，所述基于所述至少一个关键词、占位符以及所述目标文章，组成预训练语言模型的输入数据，包括：

在每个关键词的前后位置分别添加预设数目个占位符；

将添加所述占位符的关键词和所述目标文章的标题和正文进行拼接，得到所述预训练语言模型的输入数据。

3.根据权利要求1所述的方法，其特征在于，所述将所述输入数据输入到所述预训练语言模型之前，所述方法还包括：

获取样本文章，以及所述样本文章对应的样本概念标签；

将所述样本概念标签中除所述样本文章中关键词外的其他词替换为所述占位符，得到用于训练所述预训练语言模型的训练概念标签；

将所述训练概念标签与所述样本文章输入所述待训练的预训练语言模型，由所述待训练的预训练语言模型输出所述训练概念标签中占位符对应的预测词；

基于所述占位符对应的预测词以及所述占位符替换掉的其他词，确定训练损失值，基于所述训练损失值对所述待训练的预训练语言模型进行训练，得到训练后的预训练语言模型。

4.根据权利要求3所述的方法，其特征在于，所述获取样本文章，以及所述样本文章对应的样本概念标签，包括：

获取用户的搜索词，以及用户搜索所述搜索词后，在对应的搜索结果中点击的文章；

将用户点击的文章确定为样本文章，将所述搜索词确定为所述样本文章对应的样本概念标签。

5.一种确定文章概念标签的装置，其特征在于，所述装置包括：

确定模块，用于确定的目标文章对应的至少一个关键词；

组成模块，用于基于所述至少一个关键词、占位符以及所述目标文章，组成预训练语言模型的输入数据；

处理模块，用于将所述输入数据输入到所述预训练语言模型，由所述预训练语言模型输出所述占位符对应的预测词；

所述组成模块，用于将所述预测词以及所述至少一个关键词组成所述目标文章的概念标签。

6.根据权利要求5所述的装置，其特征在于，所述组成模块，用于：

在每个关键词的前后位置分别添加预设数目个占位符；

将添加所述占位符的关键词和所述目标文章的标题和正文进行拼接，得到所述预训练语言模型的输入数据。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括训练模块，用于：

获取样本文章，以及所述样本文章对应的样本概念标签；

将所述样本概念标签中除所述样本文章中关键词外的其他词替换为所述占位符，得到用于训练所述预训练语言模型的训练概念标签；

将所述训练概念标签与所述样本文章输入所述待训练的预训练语言模型，由所述待训练的预训练语言模型输出所述训练概念标签中占位符对应的预测词；

基于所述占位符对应的预测词以及所述占位符替换掉的其他词，确定训练损失值，基于所述训练损失值对所述待训练的预训练语言模型进行训练，得到训练后的预训练语言模型。

8.根据权利要求7所述的装置，其特征在于，所述训练模块，用于：

获取用户的搜索词，以及用户搜索所述搜索词后，在对应的搜索结果中点击的文章；

将用户点击的文章确定为样本文章，将所述搜索词确定为所述样本文章对应的样本概念标签。

9.一种计算机设备，其特征在于，所述计算机设备包括处理器和存储器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行以实现如权利要求1至权利要求4任一项所述的确定文章概念标签的方法所执行的操作。

10.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行以实现如权利要求1至权利要求4任一项所述的确定文章概念标签的方法所执行的操作。