[发明专利]遥监督关系抽取模型的训练方法及相关装置

权利要求书

1.一种遥监督关系抽取模型的训练方法，其特征在于，所述遥监督关系抽取模型包括词嵌入层、特征提取层和输出层，所述特征提取层包括循环层和卷积层，所述输出层包括袋级最大池层和softmax层，所述训练方法包括：

对于每个实体关系，将与其对应的正样本打包成至少一个句袋，并将与其对应的负样本打包成至少一个句袋；

对于每个句袋，对所述句袋中的每个句子加入实体定位符，并进行分词和向量化，得到句袋索引向量；

将所述句袋索引向量输入到所述词嵌入层，得到所述词嵌入层输出的句袋词向量；

将所述句袋词向量输入到所述特征提取层，得到所述特征提取层输出的语义特征；

将所述语义特征输入到所述输出层，得到所述输出层输出的实体关系的预测概率；

比较所述预测概率与句袋代表的实体关系，并计算损失以及更新模型参数。

2.根据权利要求1所述的遥监督关系抽取模型的训练方法，其特征在于，所述循环层，具体为：

长短期记忆人工神经网络。

3.根据权利要求1所述的遥监督关系抽取模型的训练方法，其特征在于，在所述将正样本按照实体关系类别打包成代表各实体关系的句袋，并将负样本依照大小分成若干句袋之前，还包括：

从知识库中提取实体关系；

对于每个所述实体关系，从样本中抽取包含所述实体关系的实体对的句子作为所述实体关系的正样本；

对于每个所述实体关系，从样本中抽取未包含所述实体关系的实体对的句子作为所述实体关系的负样本。

4.根据权利要求1所述的遥监督关系抽取模型的训练方法，其特征在于，还包括：

利用测试集，对遥监督关系抽取模型进行测试的过程。

5.一种遥监督关系抽取模型的训练装置，其特征在于，所述遥监督关系抽取模型包括词嵌入层、特征提取层和输出层，所述特征提取层包括循环层和卷积层，所述输出层包括袋级最大池层和softmax层，所述训练装置包括：

句袋生成单元，用于对于每个实体关系，将与其对应的正样本打包成至少一个句袋，并将与其对应的负样本打包成至少一个句袋；

句袋索引向量单元，用于对于每个句袋，对所述句袋中的每个句子加入实体定位符，并进行分词和向量化，得到句袋索引向量；

矩阵形成单元，用于将所述句袋索引向量输入到所述词嵌入层，得到所述词嵌入层输出的句袋词向量；

语义特征提取单元，用于将所述句袋词向量输入到所述特征提取层，得到所述特征提取层输出的语义特征；

预测单元，用于将所述语义特征输入到所述输出层，得到所述输出层输出的实体关系的预测概率；

更新单元，用于比较所述预测概率与句袋代表的实体关系，并计算损失以及更新模型参数。

6.根据权利要求5所述的遥监督关系抽取模型的训练装置，其特征在于，所述循环层，具体为：

长短期记忆人工神经网络。

7.根据权利要求5所述的遥监督关系抽取模型的训练装置，其特征在于，还包括：

实体关系提取单元，用于从知识库中提取实体关系；

正样本单元，用于对于每个所述实体关系，从样本中抽取包含所述实体关系的实体对的句子作为所述实体关系的正样本；

负样本单元，用于对于每个所述实体关系，从样本中抽取未包含所述实体关系的实体对的句子作为所述实体关系的负样本。

8.根据权利要求5所述的遥监督关系抽取模型的训练装置，其特征在于，还包括：

模型测试单元，用于利用测试集，对遥监督关系抽取模型进行测试。

9.一种可读存储介质，其上存储有程序，其特征在于，所述程序被处理器执行时，实现如权利要求1～4中任一项所述的遥监督关系抽取模型的训练方法的各个步骤。

10.一种遥监督关系抽取模型的训练设备，包括存储器和处理器，其特征在于，所述存储器，用于存储程序；

所述处理器，用于执行所述程序，实现如权利要求1～4中任一项所述的遥监督关系抽取模型的训练方法的各个步骤。