[发明专利]基于多层标注策略的跨境民族文化实体关系抽取方法及装置

说明书

本发明涉及基于多层标注策略的跨境民族文化实体关系抽取方法及装置，属于自然语言处理技术领域。跨境民族文化领域文本中实体关系特征主要体现在单个实体重叠关系、实体对重叠关系以及多个实体对关系，在文本中还存在大量的领域词语问题，本发明提出了一种多层标注策略的跨境民族文化实体关系抽取方法，包括跨境民族文化实体关系数据标注和处理、基于多层标注的实体关系标注策略方法、基于多层标注策略的跨境民族文化实体关系抽取模型构成。根据这三个功能模块化制成基于多层标注策略的跨境民族文化实体关系抽取装置，对输入的句子进行实体关系联合抽取，本发明解决了跨境民族文化中重叠实体关系的问题。

技术领域

本发明涉及基于多层标注策略的跨境民族文化实体关系抽取方法及装置，属于自然语言处理技术领域。

背景技术

实体关系抽取任务是从非结构化的自然语言文本中抽取出预定义的头实体、尾实体以及实体对之间的关系并构成{头实体，关系，尾实体}三元组，实体关系抽取任务是信息抽取技术的研究热点。跨境民族文化领域实体关系抽取任务是提取出跨境民族、饮食、文艺、建筑、节日、活动等实体和它们之间的关联关系。针对非结构化文本“坐夏节是掸族的传统节会”，通过实体关系抽取模型抽取出“坐夏节”和“掸族”两个实体，以及“民族节日”的关系，并最终得到{坐夏节，民族节日，掸族}实体关系三元组。

发明内容

本发明提供了基于多层标注策略的跨境民族文化实体关系抽取方法及装置，以用于提高对跨境民族文化实体边界模糊的实体识别和增强融入词集合信息的跨境民族文化文本表示。

本发明的技术方案是：第一方面，提供基于多层标注策略的跨境民族文化实体关系抽取方法，所述基于多层标注策略的跨境民族文化实体关系抽取的具体步骤如下：

Step1、由于缺少跨境民族文化领域上的实体关系抽取数据集，本发明结合跨境民族文化领域特点定义了17种关系类型，包括跨境节日、宗教信仰、活动、别名等关系，设计了{头实体，关系，尾实体}的标注格式标注句子中的实体对及对应的关系，通过人工方式标注了8000条带有实体关系三元组的数据并通过远程监督的思想构建了1万条数据，该数据集为实体关系抽取模型训练起到了很好的支撑作用；

Step2、采用融入领域词典信息的方法增强预训练模型表征后的字符向量，跨境民族文化文本种通常包含许多的领域词汇，使用常规的分词方法会错误切分领域词汇造成上下文语义信息缺失，因此本发明通过领域词典对跨境民族文化语料进行分词并训练得到领域词向量，提出利用卷积神经网络编码提取输入文本中的领域信息并将其融入到预训练模型输出的字符向量中；

Step3、跨境民族文化实体关系抽取需要先识别出文本中所有的头实体确保后续在所有关系条件下的尾实体识别，因此双层标注方式分别对头实体的开始位置和结束位置进行标注；

Step4、针对跨境民族文化实体关系抽取中所存在的实体关系重叠问题，采用多层标注策略标注提取实体关系三元组，多层标注方式针对每一种预先定义的关系类型下实体进行标注预测，通过符号“0”和“1”分别标注预测出每一种关系下对应尾实体的开始和结尾位置。在关系条件下通过多层标注策略标注尾实体能够很好地解决跨境民族文化领域中实体关系抽取中存在的实体关系重叠问题。

作为本发明的优选方案，所述Step1的具体步骤为：

Step1.1、目前的跨境民族文化关系抽取面临的问题是训练数据不足，相比通用领域的实体关系抽取任务，跨境民族文化实体关系的标注更加困难，需要标注者掌握相应的领域知识。

通过百科词条和跨境民族相关网站获取跨境民族文化数据，数据进行去重、过滤特殊字符等预处理操作，然后标注了18000条实体关系三元组的跨境民族文化句子，关系类型包含包括跨境节日、民族歌舞、宗教信仰、建筑特色、民族歌舞、民族乐器、制作材料、跨境民族、包含、民族婚姻、民族节日、伴奏乐器、民族艺术、活动、别名、民族服饰、位置、特色饮食以及民族习俗。