[发明专利]实体识别模型训练方法、装置、设备及实体识别方法

说明书

本申请涉及一种实体识别模型训练方法、装置、设备及实体识别方法。该方法包括：利用第一训练样本训练初始模型，得到预训练模型，其中预训练模型用于自然语言处理；根据预训练模型建立初始多任务模型，初始多任务模型用于执行分词任务和实体识别任务；通过目标损失函数与第二训练样本对初始多任务模型进行训练得到目标多任务模型，目标损失函数用于联合分词任务和实体识别任务；将目标训练样本输入目标多任务模型，得到目标多任务模型输出的分词表示向量，以及目标多任务模型中的预训练模型输出的字向量和位置表示向量；利用分词表示向量、字向量和位置表示向量训练实体识别模型，得到目标模型。本申请解决了中文字词的实体识别准确度较低的问题。

技术领域

本申请涉及智能识别技术领域，尤其涉及一种实体识别模型训练方法、装置、设备及实 体识别方法。

背景技术

相关技术的实体识别方法，无法解决中文字词边界模糊的问题，中文与英文的边界标 识不相同，英文有明显的空格和一些独特的形式标志，例如首字母大写等作为英文的边界 标识，但是，中文字词没有像英文那样明显的切分标志，导致中文字词的前后边界模糊不 容易确定，分词不准确。因为，分词任务与实体识别任务是相互影响的，而相关技术中没 有考虑到分词任务与实体识别任务之间的关系，导致影响实体识别模型对中文字词进行实 体识别的准确度。

发明内容

本申请提供了一种实体识别模型训练方法、装置、设备及计算机可读存储介质，以解决 相关技术中没有考虑到分词任务与实体识别任务之间的关系，导致影响实体识别模型对中文 字词进行实体识别的准确度的问题。

第一方面，本申请提供了一种实体识别模型训练方法，利用第一训练样本训练初始模型， 得到预训练模型，其中预训练模型用于自然语言处理；根据预训练模型建立初始多任务模型， 初始多任务模型用于执行分词任务和实体识别任务；通过目标损失函数与第二训练样本对初 始多任务模型进行训练，得到目标多任务模型；将目标训练样本输入目标多任务模型，得到 目标多任务模型输出的分词表示向量，以及目标多任务模型中的预训练模型输出的字向量和 位置表示向量；利用分词表示向量、字向量和位置表示向量训练实体识别模型，得到目标模 型。

第二方面，本申请提供一种实体识别方法，实体识别方法包括：通过第一方面任一实施 例的实体识别模型训练方法得到的目标模型对目标样本进行实体识别。

第三方面，本申请提供了一种实体识别模型训练装置，第一训练模块，利用第一训练样 本训练初始模型，得到预训练模型；第二训练模块，根据预训练模型建立初始多任务模型， 初始多任务模型用于执行分词任务和实体识别任务；第三训练模块，通过目标损失函数与第 二训练样本对初始多任务模型进行训练，得到目标多任务模型；第四训练模块，将目标训练 样本输入目标多任务模型，得到目标多任务模型输出的分词表示向量，以及目标多任务模型 中的预训练模型输出的字向量和位置表示向量；第五训练模块，利用分词表示向量、字向量 和位置表示向量训练实体识别模型，得到目标模型。

第四方面，本申请提供了一种电子设备，包括处理器、通信接口、存储器和通信总线， 其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现第一方面任一项实施例的实体识别模 型训练方法的步骤。

第五方面，提供了一种计算机可读存储介质，计算机可读存储介质内存储有计算机程序， 计算机程序被处理器执行时实现第一方面任一项实施例的实体识别模型训练方法的步骤。

本申请实施例提供的上述技术方案与现有技术相比具有如下优点：