[发明专利]面向海量非结构化文本的知识图谱自动构建方法及系统

权利要求书

1.一种面向海量非结构化文本的知识图谱自动构建方法，其特征在于，所述面向海量非结构化文本的知识图谱自动构建方法将命名实体识别问题抽象为一个序列标注问题：给定一个句子，为句子序列中的每一个字做标注；根据训练数据设计有效的特征，学习各类分类模型，使用训练好的分类器预测关系；链接多个现有知识，从顶层创建一个大规模的统一的知识网络；从三大在线百科、开放网站、相关知识库或搜索引擎日志中抓取实体信息并进行整合；

所述将命名实体识别问题抽象为一个序列标注问题：给定一个句子，为句子序列中的每一个字做标注具体包括：将命名实体识别问题视为一个序列标注问题，使用序列标注问题中通用的BIO标注集，B-PER、I-PER分别代表人名首字、人名非首字，B-LOC、I-LOC分别代表地名首字、地名非首字，B-ORG、I-ORG分别代表组织机构名首字、组织机构名非首字，O代表该字不属于命名实体的一部分。

2.如权利要求1所述的面向海量非结构化文本的知识图谱自动构建方法，其特征在于，进一步包括：

(1)利用预训练或随机初始化的embedding矩阵将句子中的每个字xi由one-hot向量映射为低维稠密的字向量xi∈Rd，d是embedding的维度，在输入下一层之前，设置dropout以缓解过拟合；

(2)自动提取句子特征，将一个句子的各个字的char embedding序列(x1，x2，...，xn)作为双向LSTM的输入，再将正向LSTM输出的隐状态序列(h1→，h2→，...，hn→)与反向LSTM的(h1←，h2←，...，hn←)在各个位置输出的隐状态进行按位置拼接ht＝[ht→；ht←]∈Rm，得到完整的隐状态序列：

(h1，h2，...，hn)∈Rn×m；

(3)将隐状态向量从m维映射到k维，k是标注集的标签数，得到自动提取的句子特征，记作矩阵＝(p1，p2，...，pn)∈Rn×k；把pi∈Rk的每一维pij都视作将字xi分类到第j个标签的打分值，再对P进行Softmax，相当于对各个位置独立进行k类分类；

(4)进行句子级的序列标注，CRF层的参数是一个(k+2)×(k+2)的矩阵A，Aij表示的是从第i个标签到第j个标签的转移得分，在为一个位置进行标注的时候可以利用此前已经标注过的标签；一个长度等于句子长度的标签序列y＝(y1，y2，...，yn)，模型对于句子x的标签等于y的打分为：

score(x，y)＝∑i＝1nPi，yi+∑i＝1n+1Ayi-1，yi；

利用Softmax得到归一化后的概率：

P(y|x)＝exp(score(x，y))∑y′exp(score(x，y′))；

模型在预测过程时使用动态规划的Viterbi算法来求解最优路径：

y*＝argmaxy′score(x，y′)。

3.如权利要求1所述的面向海量非结构化文本的知识图谱自动构建方法，其特征在于，所述根据训练数据设计有效的特征，学习各类分类模型，使用训练好的分类器预测关系进一步包括：找到具有确定关系的实体对，再去获取该实体对共同出现的语句作为正样本；负样本则从实体库中随机产生没有关系的实体对，再去获取这样实体对共同出现的语句。

4.如权利要求1所述的面向海量非结构化文本的知识图谱自动构建方法，其特征在于，所述链接多个现有知识，从顶层创建一个大规模的统一的知识网络；从三大在线百科、开放网站、相关知识库或搜索引擎日志中抓取实体信息并进行整合进一步包括：

(1)根据字典选择k个两两不指向同一物理对象的实体作为初始簇中心；

(2)计算图谱内各实体与簇中心之间的距离；

(3)将各实体划分到与它们距离最近的实体；

(4)比较聚类前各个簇与聚类后簇内情况，若各个簇发生变化，重复步骤(2)-步骤(4)；

(5)设置阈值t，计算簇内各个实体与簇中心的距离，若距离小于阈值，将实体从簇内排除；簇内剩余实体为对齐至同一物理对象的实体，算法结束。