[发明专利]一种非结构化数据中的特定实体关系的提取方法

权利要求书

1.一种非结构化数据中的特定实体关系的提取方法，其特征是，所述方法首先限定实体关系类型，然后从语料文本中筛选出仅包含该关系类型的语料，并只对一定大小的特征窗口中的语料进行特征识别、组合和提取，同时对实体对进行关系标记，得到实体对的上下文特征以及实体对所包含关系的标记，之后对该标记数据进行学习，得到判断模型，并通过模型准确度的计算，将特征窗口的大小调整到最优，最后利用判断模型从非结构化文本中提取某一特定类型关系的实体对；

所述方法包括以下步骤：

步骤A、数据预处理

具体过程为：

A1.设定实体对的类型，也即设定实体对中第一实体类型E₁和第二实体类型E₂；设定实体对中两实体关系类型r；

A2.收集语料，从互联网上或文档库中获取若干条文本；

A3.语料预标识，首先对每一条语料文本进行句子分割、分词/词干化，分词为中文，词干化为英文，标识每个词在文本中的位置，即每个词在文本中的顺序数，然后对其进行命名实体标注；

A4.筛选语料，从语料中筛选出那些同时包含属于第一实体类型E₁的实体和属于第二实体类型E₂的实体的语料；

步骤B、训练基于朴素贝叶斯的关系判断模型

具体步骤为：

B1.生成训练集和测试集

包括2个步骤，具体为：

B11.设置训练集占语料的百分比；

B12.对筛选出的每条语料随机生成一个位于区间[0，1]中的浮点数，如果该数大于步骤B11中所设定的百分比，将该语料归入测试集，否则归为训练集；

B2.关系标识

对训练集和测试集中的每一条语料文本用人工进行关系标注，当某个第一实体类型E₁的实体和某个第二实体类型E₂的实体之间存在实体关系r时，标注它们之间存在实体关系r；

B3.拟合实体关系的存在情况与距离之间的关系函数

包括4个步骤，具体为：

B31.从训练集和测试集的每一条语料文本中提取每一对符合实体对类型的实体对；

B32.分别用a和b表示实体对中的两个实体，对步骤B31中得到的每个实体对，使用下式计算两实体之间的距离：

d(a，b)＝position_b-position_a

其中d(a，b)表示实体a和实体b之间的距离，position_a是实体a在语料文本中的位置，position_b是实体b在语料文本中的位置；

B33.统计训练集语料中存在实体关系r的实体对之间的距离出现的次数，以及不存在实体关系r的实体对之间的距离出现的次数；

B34.设存在实体关系r的实体对之间的距离d与其出现的次数之间的关系可以用下式表示：

其中f_p(d)为存在实体关系r的实体对之间的距离d与d出现的次数之间的关系函数，w_pi为多项式中指数为i的项的参数；m为自然数，一般可设为3；

利用B33中得到的存在实体关系r的实体对之间的距离出现的次数和距离，使用最小二乘法进行拟合，得到其参数w_p1，...，w_pm；

设不存在实体关系r的实体对之间的距离出现的次数和距离之间的关系可以用下式表示：

其中f_n(d)为不存在关系r的实体对之间的距离d与d出现的次数之间的关系函数，w_ni为多项式中指数为i的项的参数，m为自然数，一般可设为3；

利用B33中得到的不存在实体关系r的实体对之间的距离出现的次数和距离，使用最小二乘法进行拟合，得到其参数w_n1，...，w_nm；

B4.生成属性候选集

包括3个步骤，具体为：

B41.列出所能标注的属性，组成一个属性集S；

B42.列出属性集S的所有子集，构成一个属性集S′；

B43.列出S′的所有子集，构成一个属性集S″；

B5.筛选属性候选集

包括3个步骤，具体为：

B51.对训练集和测试集中的每一条文本中的每个词标注S里的每个属性；

B52.对B43所生成的属性集S″中的每个元素，进行以下5个操作：

B521.对训练集中的每个文本语料中的每个实体对，即实体a-实体b，进行以下3个操作：

B5211.设置w_s和w_e均为0；

B5212.设置该实体对的特征窗口位置为从位置较小的实体的位置减去w_s开始到位置较大的实体的位置加上w_e结束，如果位置较小的实体的位置减去w_s小于0，那么特征窗口从0开始，如果位置较大的实体的位置加上w_e大于文本中最后一个词的位置，那么特征窗口到文本中最后一个词结束，特征窗口中的每个词都是该实体对的特征词；

B5213.对特征窗口中的每个词提取子集S″中的所有属性，组成该实体对的每个词的特征；

B522.计算实体关系r存在的先验概率p(r)和r不存在的先验概率以及存在关系r时关于特征f_i的条件概率p′(f_i|r)，和不存在r时关于特征f_i的条件概率

包括3个步骤，具体为：

B5221.在训练集中，统计实体a和实体b存在关系r的情况的数量|r|，以及在存在关系r的情况下每个特征f₁，...，f_n出现的次数|(f₁，r)1，...，|(f_n，r)|；

同时也统计实体a和实体b虽然出现在语料中，但实体a和实体b不存在关系r的情况的数量以及该情况下特征f₁，...，f_n出现的次数

B5222.计算实体a和实体b存在关系r时的先验概率p(r)，和实体a和实体b不存在关系r时的先验概率

B5223.对所有f_i，其中i∈[1，n]，计算实体a和实体b存在关系r时的关于特征f_i的条件概率p′(f_i|r)并保存：

对所有f_i，其中i∈[1，n]，计算实体a和实体b不存在关系r时的关于特征f_i的条件概率并保存：

B523.对测试集中的每个文本语料c中的每个实体对，即实体a-实体b，使用B5211，B5212，B5213中的方法，提取特征窗口中的每个词的特征f_ci；

B524.计算测试集中的每个文本语料中的每个实体对是否包含实体关系r，包括2个步骤，具体是：

B5241.在步骤B5223保存的p′(f_i|r)和中查询由步骤B523提取的特征f_ci，如果特征f_ci出现在步骤B5223保存的p′(f_i|r)的f_i中，那么

p(f_ci|r)＝p′(f_i|r)

否则p(f_ci|r)为所有p′(f_i|r)中的最小值min(p′(f_i|r))，即：

p(f_ci|r)＝min(p′(f_i|r))

如果特征f_ci出现在步骤B5223保存的的f_i中，那么

否则为所有中的最小值即：

B5242.计算语料c中实体a和实体b存在关系r的概率p_c(r|x；(a，b))：

当p_c(r|x；(a，b))的值大于0时，表示实体a和实体b之间存在关系r；

B525.计算测试集中的参数F1_score：

其中TP是在测试集的每个语料中实体a和实体b标记为拥有关系r时，计算得到的p_c(r|x；(a，b))大于0的实体对的数量；FP是在测试集的每个语料中实体a和实体b标记为不拥有关系r时，计算得到的p_c(r|x；(a，b))大于0的实体对的数量；FN是在测试集的每个语料中实体a和实体b标记为拥有关系r，计算得到的p_c(r|x；(a，b))不大于0的实体对的数量；

B53.对于属性集S″中的每个子集所对应的参数F1_Score，保存其中最大的F1_Score所对应的子集，以及对应的p(r)，和所有的p(f_i|r)，

B6.优化特征窗口大小

包括5个步骤，具体为：

B61.设置特征窗口位置为以实体a的位置和实体b的位置中较小的为初始开始位置ps，并包括该位置；较大的为初始结束位置pe，并包括该位置；设置初始F1_Score′为0，设置初始F1_Score的提高增量x_i为区间(0，1)中某一小于设定值的数，设置窗口增量t为0；

B62.重复执行下列步骤，直到前后2次的F1_Score的提高增量ΔF1小于x_i，ΔF1的计算公式如下：

ΔF1＝F1_Score′-F1_Score

B621.特征窗口的开始位置等于初始开始位置减去窗口增量t，即：

ps＝ps-t

对测试集执行步骤B523、步骤B524和步骤B525的操作，得到本次的F1_Score，计算ΔF1，如果ΔF1＜x_i，转至步骤B63，否则执行B622；

B622.更新t、F1_Score的值：

t＝t+1

F1_Score＝F1_Score′

转至步骤B621；

B63.保存窗口开始位置的增量，即w_s＝t，设置窗口增量t＝1；

B64.重复执行下列步骤，直到前后2次的F1_Score的提高增量ΔF1小于x_i：

B641.特征窗口的结束位置等于初始结束位置加上窗口增量t，即：

ps＝ps+t

对测试集执行步骤B523、步骤B524和步骤B525的操作，得到本次的F1_Score，计算ΔF1，如果ΔF1＜x_i，转至步骤B65，否则执行B642；

B642.安装步骤B622的方法更新F1_Score、t的值，转至步骤B641；

B65.保存窗口结束位置的增量，即w_e＝t；

步骤C、关系提取

包括2个步骤，具体为：

C1.对于要提取关系的文本c，首先进行步骤A3，然后标注步骤B53所得到的子集中涉及的每个属性；

C2.计算关系r是否存在

包括3个步骤，具体为：

C21.根据步骤A1所设置的第一实体类型E₁和第二实体类型E₂，提取文本c中的所有实体对；

C22.按照步骤B6得到的w_s和w_e设置特征窗口，并按照B53所得到的子集使用步骤B5212和B5213的方法提取特征；

C23.按照步骤B5242的方法计算p_c(r|x；(a，b))，当其值大于0时，表示文本c中实体a和实体b之间存在实体关系r。

2.根据权利要求1所述的一种非结构化数据中的特定实体关系的提取方法，其特征是，所述训练集占所筛选语料的百分比设为90％。