[发明专利]一种基于Word2Vec和句法依存树的文本特征构造方法

说明书

本发明涉及一种基于Word2Vec和句法依存树的文本特征构造方法，包括以下步骤：S1：对语料库中的文本数据进行预处理，并对句子进行句法分析得到句法依存树；S2：根据句法依存树合并依存词组；S3：对完成合并后的数据，利用Word2Vec训练词向量；S4：构造TF‑IDF特征向量；S5：对特征向量进行近义词拓展，根据近义词拓展情况对TF‑IDF特征向量进行特征值更新，完成文本特征的构造，用于输入机器学习模型，与现有技术相比，本发明具有避免重要特征丢失、提高文本特征表征能力等优点。

技术领域

本发明涉及自然语言处理领域，尤其是涉及一种基于Word2Vec和句法依存树的文本特征构造方法。

背景技术

当今互联网产业蓬勃发展，网络社交平台已经渗透到了人们生活的方方面面，曾经作为主流信息获取、交流的电视、广播、报纸杂志等传统媒体逐步被数字媒体所替代。随着微博、抖音等信息流媒体平台的崛起，越来越多的用户在这些平台上发布文字内容，这些内容又以短文本为主。

将短文本信息进行分类获得了非常广阔的应用场景，例如通过对新闻评论区进行情感分类可以进行舆情分析，对文章进行分类有助于快速对文章进行查找和推荐。但是随着网络技术的高速发展与广泛应用，电子文本信息呈级数增长，用人工方式对文本进行分类将是一项繁重的工作，因此需要借助计算机对文本进行自动分类。越来越多的学者和企业开始将机器学习算法用于文本自动分类，主要的机器学习算法有决策树、持向量机、朴素贝叶斯等。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于Word2Vec和句法依存树的文本特征构造方法，从语义和句法两个角度对传统TF-IDF特征向量进行调整，最终得到的特征向量避免了重要特征的丢失，并具有更好的表征能力，有助于提升下游的机器学习模型的效果。

本发明的目的可以通过以下技术方案来实现：

一种基于Word2Vec和句法依存树的文本特征构造方法，包括以下步骤：

S1：对语料库中的文本数据进行预处理，并对句子进行句法分析得到句法依存树；

S2：根据句法依存树合并依存词组；

S3：对完成合并后的数据，利用Word2Vec训练词向量；

S4：构造TF-IDF特征向量；

S5：对特征向量进行近义词拓展，根据近义词拓展情况对TF-IDF特征向量进行特征值更新，完成文本特征的构造，用于输入机器学习模型。

进一步地，所述的预处理包括中文分词、去除乱码和去除标点符号。

进一步地，步骤S2具体包括：遍历句法依存树，对每个词语，检查其父节点以及该词语与其父节点之间的依存关系，当符合设定规则时，将两者合并。

更进一步地，所述的设定规则根据具体任务通过人为设定，包括：

合并位置相邻、依存关系为“状中关系”的词语；

合并位置相邻、依存关系为“定中关系”的词语；

合并依存关系为“动补关系”的词语。

进一步地，步骤S3中，训练方法选用Hierarchical-Softmax，所述的词向量的维度根据语料库大小设定。

更进一步地，步骤S3中，通过查找近义词的方法判断词向量的训练效果，并通过修改迭代次数提高训练效果。

进一步地，步骤S4中，构造TF-IDF特征向量具体为：

首先为语料库中的每条文本都生成一个n维向量；

然后依次计算每条文本中每个词语的TF-IDF权重；