[发明专利]中医药古籍命名实体识别方法、装置、电子设备及存储器

权利要求书

1.一种中医药古籍命名实体识别方法，其特征在于，所述方法包括：

获取中医药古籍文本，并对所述中医药古籍文本进行预处理得到中医药古籍文本序列；

构建中医药古籍的命名实体识别模型，所述命名实体识别模型包括依次连接的embedding层、ELECTRA模块、BiLSTM模块以及CRF模块；

在预训练阶段，将ELECTRA模块中新增关键字掩码机制；所述关键字掩码机制是采用半固定随机掩码的方式，在预设关键字表中随机选择关键字进行掩码；

采用所述中医药古籍文本序列对embedding层和新增关键字掩码机制后的ELECTRA模块进行预训练，得到预训练后的ELECTRA模块；

在微调阶段，在所述命名实体识别模型的嵌入编码模块新增字的偏旁部首特征输入，得到新的embedding层；

将获取的有标记的中医药古籍文本序列作为微调训练样本；

采用所述微调训练样本对微调阶段的命名实体识别模型进行微调训练，得到训练好的命名实体识别模型；微调阶段的命名实体识别模型包括新的embedding层、预训练后的ELECTRA模块、BiLSTM模块以及CRF模块；

采用训练好的命名实体识别模型对中医药古籍命名实体进行识别。

2.根据权利要求1所述的方法，其特征在于，采用所述中医药古籍文本序列对embedding层和新增关键字掩码机制后的ELECTRA模块进行预训练，得到预训练后的ELECTRA模块，包括：

设置预训练步数分割参数；

根据所述预训练步数分割参数将预训练总步数分割为采用常规训练方式训练的步数和采用关键字掩码机制的训练步数；

根据将所述中医药古籍文本序列输入到embedding层中得到的编码，采用ELECTRA模块的随机掩码机制对ELECTRA模块进行训练，直到训练的步数达到采用常规训练方式训练的步数，得到常规训练后的ELECTRA模块；

根据将所述中医药古籍文本序列输入到embedding层中得到的编码，采用关键字掩码机制对常规训练后的ELECTRA模块继续进行训练，直到训练的步数达到采用关键字掩码机制的训练步数，得到预训练后的ELECTRA模块；所述关键字掩码机制采用随机掩码15％令牌的方式，所述令牌是属于预设关键字表中的关键字。

3.根据权利要求1所述的方法，其特征在于，预设关键字表的构建步骤包括：

提取中医药古籍中的方剂实体、中药实体、疾病实体、证型实体以及症候表现实体的关键字特征，确定各类实体应的关键字；

从属于词典中提取出现频次大于等于1的字作为术语词典的关键字；

根据所述术语词典的关键字和各类实体应的关键字，构建预设关键字表。

4.根据权利要求1所述的方法，其特征在于，采用所述微调训练样本对微调阶段的命名实体识别模型进行微调训练，得到训练好的命名实体识别模型，包括：

将所述微调训练样本输入到微调阶段的命名实体识别模型的新的embedding层中，采用look up操作获取字嵌入信息、字的位置信息、字所在句子的编码信息，根据汉字-偏旁索引look up获取汉字的偏旁编码；

将所述字嵌入信息、所述字的位置信息、所述字所在句子的编码信息以及所述汉字的偏旁编码输入到微调阶段的命名实体识别模型的预训练后的ELECTRA模块中，得到字的嵌入表示，

将所述字的嵌入表示输入到微调阶段的命名实体识别模型的BiLSTM模块中进行特征提取，将提取得到的特征输入到CRF模块中进行解码，得到预测的标签序列；

根据所述预测的标签序列与对应的令牌，确定微调阶段的模型损失，根据所述微调阶段的模型损失和微调训练样本的标注对微调阶段的命名实体识别模型进行微调训练，得到训练好的命名实体识别模型。