[发明专利]一种基于Bert的实体链接方法

权利要求书

1.一种基于Bert的实体链接方法，其特征在于，包括以下步骤：

S1、知识库包括很多实体，每个实体的信息包括一个唯一的实体id、别名以及实体相关的属性和属性值；

S2、数据分析和处理；

S3、实体识别；

S4、实体消歧：实体消歧的实现是基于二分类，训练时选取连接到的实体作为正例，在候选实体里选取两个负例。

2.如权利要求1所述的一种基于Bert的实体链接方法，其特征在于，所述步骤S2具体步骤如下：

S201、数据清洗，处理特殊符号、标点；

S202、统计短文本长度，统一做归一化；

S203、构造若干字典，包括entity-id(key：实体名字value：kb_id列表),id-entity(key:kb_id value:实体名称),id-text(key：kb_id value:实体描述文本)。

3.如权利要求2所述的一种基于Bert的实体链接方法，其特征在于，所述步骤S3包括如下步骤：

S301、实体正向最大匹配：采用字典树结构以及正向最大匹配实体思路，去匹配文本中实体，首先需要的数据为S203中的entity_id字典，将里面的key也就是实体名字插入到字典树中；

S302、模型：短文本经过BERT层，得到BERT的输出向量，将BERT的输出经过CRF层，获得短文本中的候选实体，将短文本中的候选实体与知识库中的候选实体相比较，如果前者的完全被后者覆盖，则选取后者中的长度最大实体。

4.如权利要求3所述的一种基于Bert的实体链接方法，其特征在于，所述步骤S4包括如下步骤：

实体名字嵌入：将每个实体文本描述输入到BERT模型，在[CLS]位置处得到每个实体的输出向量；

实体消歧：将短文本以及待消歧实体的描述文本连在一起，输入到BERT模型，取CLS位置向量输出，以及候选实体对应开始和结束位置对应的特征向量，三个向量连接，经过全连接层，最后sigmoid激活得到候选实体的概率得分，对所有候选实体的概率得分进行排序，选择概率最高的为正确实体。