[发明专利]一种实体识别模型训练方法及装置

说明书

本公开的实施例提供了一种实体识别模型训练方法及装置。所述方法包括：获取模型训练文本；基于多领域知识库，获取所述模型训练文本中每个字对应的领域词；获取所述模型训练文本中每个字的字类别标签，及每个字对应的领域词的词类别标签；基于所述模型训练文本中每个字、每个字对应的领域词、每个字的字类别标签和每个字对应的领域词的词类别标签，对初始实体识别模型进行训练，得到目标实体识别模型。本公开的实施例可以提高实体识别模型在不同场景下的实体识别效果。

技术领域

本公开的实施例涉及模型训练技术领域，尤其涉及一种实体识别模型训练方法及装置。

背景技术

命名实体识别(Named Entity Recognition，NER)，旨在识别文本中具有特定意义的实体(主要包括人名、地名、机构名、专有名词等)；是信息提取、问答系统、句法分析、机器翻译等应用领域的重要基础工具，在自然语言处理(Natural Language Processing，NLP)技术中占有重要的地位。在美团搜索场景下，NER是深度查询理解(Deep QueryUnderstanding，DQU)服务的基础信号，主要应用于搜索召回、用户意图识别、实体链接等环节，NER信号的质量直接影响到用户的搜索体验。

在搜索场景下的NER任务具有以下两方面特点：1、需要识别大量领域相关实体，识别依赖领域相关知识，单独依靠通用的语义特征难以达到较好的识别效果。例如“鱼划水”基于知识可以识别为菜品成分，但仅从语义特征出发，则很难正确识别其分类；2、需要支持很多不同业务场景，各业务场景的知识、识别模式有较大的差别。例如“金百万烤鸭望京店”在到店搜索场景下应被识别为商家名成分，而在酒店搜索场景下则应被识别为地标成分。

前沿方法主要依赖BERT(Bidirectional Encoder Representations fromTransformers)等预训练语言模型捕捉文本的语义特征，结合深度神经网络帮助提升识别效果。面对多业务场景、依赖大量领域相关知识的NER任务，前沿方法难以很好地利用领域知识，导致神经网络在不同场景下的实体识别效果较差。例如，用户在美团搜索“洗个头发”，要查询名为“Mr.JUDY洗个头发”的连锁商家；仅基于语义的NER模型会容易将其误识别为商家品类成分，导致其他品牌的洗发商家排序靠前；而通过融合商家名称领域知识，NER模型可以将“洗个头发”识别为商家名核心成分，使该连锁品牌的商家可以被准确召回并排序靠前，能更好地满足用户需求。

发明内容

本公开的实施例提供一种实体识别模型训练方法及装置，用以提高实体识别模型在不同场景下的实体识别效果。

根据本公开的实施例的第一方面，提供了一种实体识别模型训练方法，包括：

获取模型训练文本；

基于多领域知识库，获取所述模型训练文本中每个字对应的领域词；

获取所述模型训练文本中每个字的字类别标签，及每个字对应的领域词的词类别标签；

基于所述模型训练文本中每个字、每个字对应的领域词、每个字的字类别标签和每个字对应的领域词的词类别标签，对初始实体识别模型进行训练，得到目标实体识别模型。

可选地，所述基于多领域知识库，获取所述模型训练文本中每个字对应的领域词，包括：

基于所述多领域知识库，获取以所述模型训练文本中每个字为首部位置的第一领域词、以所述模型训练文本中每个字为中间位置的第二领域词和以所述模型训练文本中每个字为尾部位置的第三领域词；

将所述第一领域词、所述第二领域词和所述第三领域词作为所述模型训练文本中每个字对应的领域词。

可选地，所述基于所述模型训练文本中每个字、每个字对应的领域词、每个字的字类别标签和每个字对应的领域词的词类别标签，对初始实体识别模型进行训练，得到目标实体识别模型，包括：