[发明专利]模型训练方法、品牌词识别方法、装置及电子设备

说明书

本公开提供了一种模型训练方法、品牌词识别方法、装置及电子设备，涉及人工智能技术领域，尤其涉及自然语言处理技术领域。该方法包括：采用第一内容样本对第一知识增强语义表示模型进行训练得到第一品牌词识别模型；将第一品牌词识别模型作为知识蒸馏中的教师模型，将第二知识增强语义表示模型作为知识蒸馏中的学生模型，采用知识蒸馏的方法对第二知识增强语义表示模型进行训练，得到第二品牌词识别模型，第二品牌词识别模型的输出和第一品牌词识别模型的输出一致，第二知识增强语义表示模型的模型参数少于第一知识增强语义表示模型的模型参数。提高了品牌词识别的准确率。

技术领域

本公开涉及人工智能技术领域中的自然语言处理技术，尤其涉及一种模型训练方法、品牌词识别方法、装置及电子设备。

背景技术

内容投放者在互联网平台上投放内容时，往往会在内容中增加一些品牌词来达到引流的目的，然而有些情况下，内容投放者会在内容中增加未经授权的品牌词，这种行为是需要限制的侵权行为。为了降低侵权风险，平台需要在内容投放之前对其中的品牌词进行识别，以便于进一步审核是否侵权。

目前，相关技术中的品牌词识别方法通常是预先人工收集并整理品牌词，将收集的品牌词添加到品牌词库中,内容投放者提供待投放内容时，将待投放内容与品牌词库进行匹配，从而识别待投放内容中的品牌词。

然而，这种方法依赖于预先收集的品牌词库，准确率较低。

发明内容

本公开提供了一种提高了识别准确率的模型训练方法、品牌词识别方法、装置及电子设备。

根据本公开的一方面，提供了一种模型训练方法，所述方法包括：

采用第一内容样本对第一知识增强语义表示模型进行训练得到第一品牌词识别模型，所述第一品牌词识别模型的输出为所述第一内容样本中每个字的品牌词属性，所述品牌词属性为品牌词起始字、品牌词中间或结尾字、或非品牌词；

将所述第一品牌词识别模型作为知识蒸馏中的教师模型，将第二知识增强语义表示模型作为知识蒸馏中的学生模型，采用知识蒸馏的方法对所述第二知识增强语义表示模型进行训练，得到第二品牌词识别模型，所述第二品牌词识别模型的输出和所述第一品牌词识别模型的输出一致，所述第二知识增强语义表示模型的模型参数少于所述第一知识增强语义表示模型的模型参数。

根据本公开的另一方面，提供了一种品牌词识别方法，所述方法包括：

将待识别内容输入品牌词识别模型，得到所述待识别内容中每个字的品牌词属性，所述品牌词属性为品牌词起始字、品牌词中间或结尾字、或非品牌词，所述品牌词识别模型为采用权利要求1-5中任一项所述的方法训练得到的品牌词识别模型；

根据所述待识别内容中每个字的品牌词属性确定所述待识别内容中的品牌词。

根据本公开的再一方面，提供了一种模型训练装置，所述装置包括：

第一训练模块，用于采用第一内容样本对第一知识增强语义表示模型进行训练得到第一品牌词识别模型，所述第一品牌词识别模型的输出为所述第一内容样本中每个字的品牌词属性，所述品牌词属性为品牌词起始字、品牌词中间或结尾字、或非品牌词；

第二训练模块，用于将所述第一品牌词识别模型作为知识蒸馏中的教师模型，将第二知识增强语义表示模型作为知识蒸馏中的学生模型，采用知识蒸馏的方法对所述第二知识增强语义表示模型进行训练，得到第二品牌词识别模型，所述第二品牌词识别模型的输出和所述第一品牌词识别模型的输出一致，所述第二知识增强语义表示模型的模型参数少于所述第一知识增强语义表示模型的模型参数。

根据本公开的再一方面，提供了一种品牌词识别装置，所述装置包括：