[发明专利]一种细粒度中文命名实体识别方法

说明书

本发明公开了一种细粒度中文命名实体识别方法，基于无标注语料训练BERT，得到训练好的BERT预训练模型；获取中文细粒度命名实体的语料数据，得到中文细粒度命名实体识别数据集；将中文细粒度命名实体识别数据集代入训练好的BERT中文预训练模型中，提取各batch数据的Embedding词向量；获取特征向量之间深层特征；获取长文本之间依赖的离散特征；获取全局最优命名实体序列；获取模型综合损失，得到训练好的综合模型；利用综合模型对中文细粒度命名实体文本进行命名实体识别，得到识别结果。本发明用以解决现有的命名实体识别技术在细粒度命名实体识别时容易丢失中文长文本之间的信息依赖的缺陷，实现避免长文本的信息依赖丢失、更好提取长文本特征的目的。

技术领域

本发明涉及细粒度命名实体识别领域，具体涉及一种细粒度中文命名实体识别方法。

背景技术

命名实体识别是自然语言处理中的信息抽取任务之一，其目的是对文本中特定类别的实体进行定位和分类。大多数命名实体识别任务只识别人名、组织、地点等实体类别，识别的实体类别少，并且类别划分的比较宽泛，因此，传统的命名实体识别方法主要针对于实体类别较少的粗粒度数据。细粒度命名实体识别更符合现实世界的知识体系，它在常见类别的基础上做了近一步的类别划分，需要识别的实体种类远多于一般的命名实体识别。但是，现有的命名实体识别模型只能提取文本短距离之间的关系，容易丢失中文长文本之间的信息依赖，从而无法更加深层的提取到细粒度实体文本数据的特征，导致识别准确率较低。

发明内容

本发明提供一种细粒度中文命名实体识别方法，解决的技术问题之一是现有的命名实体识别技术在细粒度命名实体识别时容易丢失中文长文本之间的信息依赖，实现避免长文本的信息依赖丢失、更好提取长文本特征的目的。

本发明通过下述技术方案实现：

一种细粒度中文命名实体识别方法，其特征在于，包括：

S1、基于无标注语料训练BERT中文模型，得到训练好的BERT中文预训练模型；

S2、获取中文细粒度命名实体的语料数据，对所述语料数据做预处理操作后进行命名实体标注，得到中文细粒度命名实体识别数据集；

S3、将所述中文细粒度命名实体识别数据集代入训练好的BERT中文预训练模型中，提取各batch数据的Embedding词向量；

S4、获取特征向量之间深层特征；

S5、获取长文本之间依赖的离散特征；

S6、获取全局最优命名实体序列；

S7、获取模型综合损失，得到训练好的综合模型；

S8、利用训练好的综合模型，对中文细粒度命名实体文本进行命名实体识别，得到识别结果。

针对现有技术中的命名实体识别技术在细粒度命名实体识别时，容易丢失中文长文本之间的信息依赖的问题，本发明提出一种细粒度中文命名实体识别方法，本方法首先通过BERT中文模型对无标注语料数据进行预训练，得到训练好的BERT中文预训练模型。本领域技术人员应当理解，用于预训练的无标注语料数据量越大，得到的预训练模型越准确。BERT中文模型为现有模型，本申请实质上是通过在其所有层的双向上下文上共同进行条件化来预训练无标注语料的深层双向表示。同时，获取中文细粒度命名实体的语料数据，对所述语料数据做预处理操作后进行命名实体标注，得到中文细粒度命名实体识别数据集，用于后续的模型训练使用。之后，将中文细粒度命名实体识别数据集代入训练好的BERT中文预训练模型中，提取各batch数据的Embedding词向量作为特征向量，获取特征向量之间深层特征，以提高特征提取的准确率。然后获取长文本之间依赖的离散特征、获取全局最优命名实体序列、获取模型综合损失，得到训练好的综合模型。最后，以该综合模型对中文细粒度命名实体文本进行命名实体识别，得到识别结果。