[发明专利]基于语义相关性的文本分类方法

说明书

本发明公开了一种基于语义相关性的文本分类方法，对有标签文本数据进行预处理，从而获取有标签文本数据中的文本监督器，所述文本监督器为文本中与文本类别语义密切相关的一系列词；通过文本关联结构信息，构建文本监督器识别子模型，获取无标签文本中的文本监督器；根据文本监督器和文本类别之间的强关联性，将标注有文本监督的文本数据作为输入，采用经典的双向长短时记忆网络模型，提取原始文本的语义特征，利用特征增强机制获取基于文本监督器增强表示的文本特征，采用拼接的方式将原始文本的语义特征和基于文本监督器增强表示的文本特征进行融合，将融合结果经SoftMax函数，进而获取文本分类结果。

技术领域

本发明涉及自然语言处理索领域，具体涉及一种基于语义相关性的文本分类方法。

背景技术

随着互联网和大数据时代的到来，文本数据海量增长，文本分类成为了人们处理海量数据的关键性技术，对于数据挖掘与信息检索至关重要，并在情感分析、话题检测、垃圾邮件过滤、网页分类等等领域得到广泛应用。

传统的文本分类技术只关注了文本中某个或者几个目标词来实现文本分类问题，这样存在的缺陷是对有上下文语义联系的短语将会将会出现判断错误。随着深度学习的发展，利用神经网络方法使用大量人工标注数据集能够针对特定数据训练得到高性能的文本分类模型，并取得不错的效果，至今已经有很多优秀的算法被提出，Tang等人利用递归神经网络(RecurrentNeural Network,RNN)可以学习到词序信息，在文档建模方面取得了很好的成果；基于RNN的变体如LSTM网络引入“门控”来控制信息的累计速度从而解决了RNN网络中存在的长距离依赖问题；双向长短时记忆网络是LSTM网络的进一步扩展，通过将前向隐状态和后向隐状态结合向下一个网络层中传递，增强文本上下文之间的联系，更好解决文本分类问题，Liu等人提出一种基于自注意力机制的BILSTM神经网络模型，能够学习句子内部更加丰富的语义信息，在长句子的文本分类中取得突破性进展。这些方法都是利用现有的只标注文本类别的数据集训练模型，高质量文本分类模型需要大量的人工标注数据，然而海量数据下的本类型复杂多样，使得用人工标注的方法标注大量训练数据变得异常困难，耗时、耗力且代价昂贵，已经无法满足用户需求，因此如何经济高效地从海量文本数据中获取更多有效的监督数据进行文本分类已经成为自然语言处理中的重点研究问题。

发明内容

本发明提供了一种基于语义相关性的文本分类方法，本发明通过文本信息的语义相关性经济高效地获取文本监督器，有效减少人工标注成本，并利用文本监督器和文本类别之间的语义关系，进而提升文本分类的准确率，详见下文描述：

对有标签文本数据进行预处理，从而获取有标签文本数据中的文本监督器，所述文本监督器为文本中与文本类别语义密切相关的一系列词；

通过文本关联结构信息，构建文本监督器识别子模型，获取无标签文本中的文本监督器；

根据文本监督器和文本类别之间的强关联性，将标注有文本监督的文本数据作为输入，采用经典的双向长短时记忆网络(Bi-directional Long Short-Term Memory,BILSTM)模型，提取原始文本的语义特征；

利用特征增强机制获取基于文本监督器增强表示的文本特征，采用拼接的方式将原始文本的语义特征和基于文本监督器增强表示的文本特征进行融合；

将融合结果经SoftMax函数，进而获取文本分类结果。

进一步地，所述对有标签文本数据进行预处理，从而获取有标签文本数据中的文本监督器包括：