[发明专利]一种面向知识图谱构建的实体关系抽取方法及系统

权利要求书

1.一种面向知识图谱构建的实体关系抽取方法，其特征在于，包括以下步骤：

步骤1：获取领域中非结构化文本，并进行数据预处理，标注文本中出现的实体、实体类型和实体之间的关系，得到训练数据；

步骤2：构建神经网络模型；

所述神经网络模型，由依次连接的prompt层、预训练语言模型PLM和类集中化分类器组成；

所述prompt层，用于在原始句子后面加上一个带空缺的后缀，将原始句子转化为一个带空缺的句子；

所述预训练语言模型PLM，最前一层是词嵌入层，用于将原始句子逐词转为词向量；包括把每一个空缺的词当作特殊字符，也转化为词向量；

所述类集中化分类器，输入层连接预训练语言模型PLM，输出词向量属于每个类的概率；

步骤3：将步骤1中的训练数据输入步骤2中的神经网络模型进行训练，分别训练成为实体类型分类模型，实体关系分类模型；

步骤4：将实体类型分类模型和实体关系分类模型关联起来整体运作，对新数据先鉴定实体类型再在此基础上抽取实体关系。

2.根据权利要求1所述的面向知识图谱构建的实体关系抽取方法，其特征在于，步骤1中所述进行数据预处理，是在非结构化文本中标注出实体、实体类型和实体关系；令原始文本序列为x＝{x₁，x₂，...x_|x|)，设x包含一对具有某种关系的实体，记为主语s_x和宾语o_x，其中主语和宾语都是x的子序列，主语属于的实体类型记为t(s_x)，宾语属于的实体类型记为t(o_x)，他们之间的关系记为r(s_x，o_x)；然后根据原始数据确定所有可能出现的主语实体类型宾语实体类型和所有实体关系类型R＝{r₁，r₂，...}，...属于t(s_x)，...属于t(o_x)；

将数据按照不同的主语宾语实体类型对p＝{t(s_x)，t(o_x)}进行划分，在数据集中出现的所有主语宾语实体类型对记为P＝{p₁，p₂，...}；对于每种主语宾语实体类型对，都有特定而有限的实体类型并且R(p_k)∈R。

3.根据权利要求1所述的面向知识图谱构建的实体关系抽取方法，其特征在于，步骤3的具体实现包括以下子步骤：

步骤3.1：将步骤1中的训练数据输入步骤2中的神经网络模型的prompt层添加后缀，实体类型分类模型训练过程中的prompt层添加后缀为“即[实体]是_”；实体关系分类模型中的prompt层添加后缀为“即[主语]_[宾语]”；

步骤3.2：prompt层将带空缺词的句子输入预训练语言模型PLM，预训练语言模型PLM输出空缺词的预测词向量，再把预测词向量输入类集中化分类器；

步骤3.3：类集中化分类器将空缺词的预测词向量与每个类别的标准词向量作对比，根据空缺词向量与哪个标准词向量更接近，判断词向量属于哪个类；

步骤3.4：类集中化分类器比对预训练语言模型PLM输出的空缺词的预测词向量v，和每个类的标准词向量c，计算它们的相似度；

步骤3.5：在迭代预定的轮次之后，得到训练完成的模型。

4.根据权利要求3所述的面向知识图谱构建的实体关系抽取方法，其特征在于，步骤3.2中，预训练语言模型PLM输出空缺词的预测词向量，是从原始句子到高维向量空间的映射f_θ：x→V，其中θ是预训练语言模型PLM中包含的所有可训练的参数。

5.根据权利要求3所述的面向知识图谱构建的实体关系抽取方法，其特征在于，步骤3.3中，所述标准词向量，是在词嵌入空间随机生成张量，即用与空缺词的预测词向量相同维度的随机向量作为标注词向量的初始值，然后在后续训练过程中逐步调整标准词向量；实体类别分类模型抽取主语类型时有标准词向量集合：实体类别分类模型抽取宾语类型时有标准词向量对每个主语类型-宾语类型对p_k有标准词向量