[发明专利]一种实体识别模型训练方法及装置

权利要求书

1.一种实体识别模型训练方法，其特征在于，包括：

获取模型训练文本；

基于多领域知识库，获取所述模型训练文本中每个字对应的领域词；

获取所述模型训练文本中每个字的字类别标签，及每个字对应的领域词的词类别标签；

基于所述模型训练文本中每个字、每个字对应的领域词、每个字的字类别标签和每个字对应的领域词的词类别标签，对初始实体识别模型进行训练，得到目标实体识别模型。

2.根据权利要求1所述的方法，其特征在于，所述基于多领域知识库，获取所述模型训练文本中每个字对应的领域词，包括：

基于所述多领域知识库，获取以所述模型训练文本中每个字为首部位置的第一领域词、以所述模型训练文本中每个字为中间位置的第二领域词和以所述模型训练文本中每个字为尾部位置的第三领域词；

将所述第一领域词、所述第二领域词和所述第三领域词作为所述模型训练文本中每个字对应的领域词。

3.根据权利要求1所述的方法，其特征在于，所述基于所述模型训练文本中每个字、每个字对应的领域词、每个字的字类别标签和每个字对应的领域词的词类别标签，对初始实体识别模型进行训练，得到目标实体识别模型，包括：

获取所述模型训练文本中每个字的字向量、每个字对应的领域词的词向量、每个字的字类别标签的字标签向量和每个字对应的领域词的词类别标签的词标签向量；

基于所述模型训练文本中每个字的字向量、每个字对应的领域词的词向量、每个字的字类别标签的字标签向量和每个字对应的领域词的词类别标签的词标签向量对所述初始实体识别模型进行训练，得到所述目标实体识别模型。

4.根据权利要求3所述的方法，其特征在于，所述获取所述模型训练文本中每个字的字向量、每个字对应的领域词的词向量、每个字的字类别标签的字标签向量和每个字对应的领域词的词类别标签的词标签向量，包括：

调用预训练模型对所述模型训练文本中每个字和每个字对应的领域词进行处理，生成每个字的字向量和每个字对应的领域词的词向量；

调用多层神经网络对每个字的字类别标签和每个字对应的领域词的词类别标签进行处理，生成每个字类别标签的字标签向量和每个词类别标签的词标签向量。

5.根据权利要求3所述的方法，其特征在于，所述初始实体识别模型包括：多头注意力机制层、特征融合层、双向长短时记忆网络层和解码层，所述模型训练样本对应于初始类别标签序列，其中，

所述基于所述模型训练文本中每个字的字向量、每个字对应的领域词的词向量、每个字的字类别标签的字标签向量和每个字对应的领域词的词类别标签的词标签向量对所述初始实体识别模型进行训练，得到所述目标实体识别模型，包括：

将所述模型训练文本中每个字的字向量、每个字对应的领域词的词向量、每个字的字类别标签的字标签向量和每个字对应的领域词的词类别标签的词标签向量输入至所述初始实体识别模型；

调用所述多头注意力机制层对所述字向量、所述词向量、所述字标签向量和所述词标签向量进行注意力分布处理，得到所述字向量、所述词向量、所述字标签向量和所述词标签向量分别对应的注意力增强的目标字向量、目标词向量、目标字标签向量和目标词标签向量；

调用所述特征融合层对所述目标字向量、所述目标词向量、所述目标字标签向量和目标词标签向量进行拼接处理，得到拼接向量；

调用所述双向长短时记忆网络层对所述拼接向量进行处理，得到所述模型训练文本中每个字对应的字编码向量；

调用所述解码层对所述字编码向量进行解码处理，得到所述模型训练文本对应的预测类别标签序列；

基于所述初始类别标签序列和所述预测类别标签序列，计算得到所述初始实体识别模型对应的损失值；

在所述损失值处于预设范围内的情况下，将训练后的初始实体识别模型作为所述目标实体识别模型。