[发明专利]一种基于注意力机制的Bi-LSTM和关键词策略的专利术语关系抽取方法

说明书

本发明涉及一种基于注意力机制的Bi‑LSTM和关键词策略的专利术语关系抽取方法，包括以下步骤：步骤1)：对专利文本进行预处理，识别出术语特征，同时加入位置信息，并通过改进的TextRank算法获得类别关键词特征，并将其组成向量矩阵；步骤2)：将向量矩阵导入Bi‑LSTM模型中，采用注意力机制获得文本信息的整体特征；步骤3)：利用最大池化层选择每个句子的关键特征作为局部特征；步骤4)：将整体特征和局部特征融合；步骤5)：使用softmax分类器输出分类结果。本发明以专利术语关系抽取为基础，针对传统深度学习方法中存在的长距离依赖问题，本发明提出一种基于注意力机制的Bi‑LSTM和关键词策略的专利术语关系抽取方法。通过各种实验对比，本发明的效果优于已有的方法，可以很好地满足实际应用的需要。

技术领域

本发明属于专利术语关系抽取技术领域，具体涉及一种基于注意力机制的Bi-LSTM和关键词策略的专利术语关系抽取方法。

背景技术

随着社会发展和科技进步，人们对科研成果的保护意识逐渐增加，专利申请数量也逐年上升，为了更加有效的分析专利之间的联系，优化专利的检索，专利术语关系自动抽取的研究受到越来越多学者的重视，以往靠人工收集和非监督学习算法的抽取已经远远不能满足人们的需求，利用计算机自动抽取专利术语关系已经成为必然。专利术语关系自动抽取对于专利信息检索、专利相似度检测、专利领域本体构建、专利知识图谱构建以及潜在语义分析等工作有着重要的作用。

目前，关系抽取主要研究方法包括基于模式匹配的方法、基于词典驱动的方法、基于统计的机器学习方法和基于多方法混合的方法，但这些方法都需要人工提取特征，如词性、依存关系、语义角色等；或者在一定程度上依赖自然语言处理工具，如词性标注、句法分析等，然而不同工具的处理结果会存在一定的差异，从而影响最终的抽取结果。

近年来，利用深度学习的方法进行实体关系抽取成为主流，可以自动的学习并获取有效的文本特征，这种方法在不使用基础自然语言处理工具的情况下，在多个自然语言处理任务中取得了超过传统方法的性能，但这种方法在表征句子的局部特征及全局特征仍有不足。

发明内容

针对上述现有技术中存在的问题，本发明的目的在于提供一种可避免出现上述技术缺陷的基于注意力机制的Bi-LSTM和关键词策略的专利术语关系抽取方法。

为了实现上述发明目的，本发明采用的技术方案如下：

一种基于注意力机制的Bi-LSTM和关键词策略的专利术语关系抽取方法，包括以下步骤：

步骤1)：对专利文本进行预处理，识别出术语特征，同时加入位置信息，并通过改进的TextRank算法获得类别关键词特征，并将其组成向量矩阵；

步骤2)：将向量矩阵导入Bi-LSTM模型中，采用注意力机制获得文本信息的整体特征；

步骤3)：利用最大池化层选择每个句子的关键特征作为局部特征；

步骤4)：将整体特征和局部特征融合；

步骤5)：使用softmax分类器输出分类结果。

进一步地，所述步骤1)中改进的TextRank算法具体为：

步骤A：输入待处理的专利文本信息集S＝{s₁，s₂，s₃，...，s_n}，并设定参数：阻尼系数d、滑动窗口大小w、最大迭代次数I、迭代停止阈值

步骤B：将专利文本信息集S中对应的每个文本s_i进行分词、词性标注，过滤掉停用词并只保留指定词性的词语(动词、形容词、名词)，这些词形成最终候选的类别特征关键词；

步骤C：通过TF-IDF算法计算专利文本信息集S中每个词语的TF-IDF值；