[发明专利]一种基于句向量的多标签公司描述文本分类方法

说明书

技术领域

本发明涉及处理文本分类的多标签领域，尤其涉及一种基于句向量的多标签公司描述文本分类方法。

背景技术

文本分类或基于文本的其他分类问题，一直是语义处理的重点问题，尤其是多分类的问题^[1][2][3]。

自动文本分类，是指计算机将一篇文章归于预先给定的某一类或某几类主题的过程，这个工作过程通过计算机可以高效地完成。文本分类是文本挖掘的一种重要内容，它是许多数据管理任务的重要组成部分^[4][5][6]。

文本分类在传统上需要先对句子或段落进行词包或者词频逆文本处理，但是对于深层语意结构并没有很好的体现，所以对深层语意结构的探究是十分有必要的，构建句向量是基础^[7][8][9]。

另外，文本属于单一类别的应用虽然简单，但是并不常见，所以基于多标签的文本分类的应用更贴近实际，但面对的挑战也更多^[10]。

发明内容

本发明提供了一种基于句向量的多标签公司描述文本分类方法，本发明收集数据库，对描述公司的文本进行处理，然后根据多标签训练，最后进行自动公司分类，详见下文描述：

一种基于句向量的多标签公司描述文本分类方法，所述方法包括以下步骤：

通过爬虫技术获取供应类公司、流通类公司、服务链类公司的公司官网描述，描述文字中只保留字母和英文字符，获取TXT格式文件；

对TXT格式文件依次进行词向量训练、句向量训练和PCA降维；

将处理后的特征向量和标签对应出来，得到数据集，将训练集输入，进行多标签朴素贝叶斯分类训练，获取训练模型；

将训练模型应用在测试数据集或未标注数据集上，实现对多标签公司的文本分类。

其中，所述将处理后的特征向量和标签对应出来，得到数据集，将训练集输入，进行多标签朴素贝叶斯分类训练具体为：

通过句向量转化后的向量特征的先验信息和标签，通过目标函数，计算出在朴素贝叶斯条件下相应标签的分类。

其中，所述目标函数具体为：

其中，t是样本，l∈Y，Y是所有标签的集合，P(*)是概率函数，代表该样本是否属于第l个标签，当b为1时属于该标签，当b为0时不属于该标签，b为是否属于该标签的标记，P(t)为数据t出现的概率，t_k为第k个特征出现的概率，d为特征总数。

进一步地，所述方法还包括：

采用Hamming loss的方式进行效果估计：

其中，h()表示预测出的标签向量，x_i为该样本特征，Yi表示真实的标签向量，共有Q个标签，p个样本。

本发明提供的技术方案的有益效果是：

1、本发明提出句向量结合朴素贝叶斯多标签文本分类的方法，利用句向量和朴素贝叶斯思想有效应用在文本上，并可应用在实际问题中(如公司分类)；

2、本发明收集数据(三个类公司的文本描述)并验证上述想法，并解决问题(对公司进行分类，并进行推荐)，具有理想的效果。

附图说明

图1为一种基于句向量的多标签公司描述文本分类方法的流程图；

图2为PCA(主成分分析)效果说明图；

图3为特征维度说明图；

图4为结果示例图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面对本发明实施方式作进一步地详细描述。

实施例1

一种基于句向量的多标签公司描述文本分类方法，参见图1，该方法包括以下步骤：

101：通过爬虫技术获取供应类公司、流通类公司、服务链类公司的公司官网描述，描述文字中只保留字母和英文字符，获取TXT格式文件；

102：对TXT格式文件依次进行词向量训练、句向量训练和PCA降维；

103：将处理后的特征向量和标签对应出来，得到数据集，将训练集输入，进行多标签朴素贝叶斯分类训练，获取训练模型；

104：将训练模型应用在测试数据集或未标注数据集上，实现对多标签公司的文本分类。

其中，步骤103中的将处理后的特征向量和标签对应出来，得到数据集，将训练集输入，进行多标签朴素贝叶斯分类训练具体为：

通过句向量转化后的向量特征的先验信息和标签，通过目标函数，计算出在朴素贝叶斯条件下相应标签的分类。