[发明专利]一种基于Word2Vec和句法依存树的文本特征构造方法

权利要求书

1.一种基于Word2Vec和句法依存树的文本特征构造方法，其特征在于，包括以下步骤：

S1：对语料库中的文本数据进行预处理，并对句子进行句法分析得到句法依存树；

S2：根据句法依存树合并依存词组；

S3：对完成合并后的数据，利用Word2Vec训练词向量；

S4：构造TF-IDF特征向量；

S5：对特征向量进行近义词拓展，根据近义词拓展情况对TF-IDF特征向量进行特征值更新，完成文本特征的构造，用于输入机器学习模型；

步骤S2具体包括：遍历句法依存树，对每个词语，检查其父节点以及该词语与其父节点之间的依存关系，当符合设定规则时，将两者合并；

所述的设定规则根据具体任务通过人为设定，包括：

合并位置相邻、依存关系为“状中关系”的词语；

合并位置相邻、依存关系为“定中关系”的词语；

合并依存关系为“动补关系”的词语；

步骤S4中，构造TF-IDF特征向量具体为：

首先为语料库中的每条文本都生成一个n维向量；

然后依次计算每条文本中每个词语的TF-IDF权重；

最后将各词语的TF-IDF权重，分别填入对应文本的n维向量中，作为各词语对应维度的特征值，得到每条文本对应的TF-IDF特征向量；

其中，n为语料库去停用词后的词语总数；

步骤S5具体包括：

首先对于每个词语，用Word2Vec搜索语义最相近的前K个近义词；

然后判断各词语的每个近义词是否对应着文本特征中的一个维度，若是，则对TF-IDF特征向量中该近义词对应维度的特征值进行更新；

搜索语义最相近的前K个近义词时，两个词语的相似度通过两者词向量的余弦相似度计算，其表达式为：

对TF-IDF特征向量中该词语对应维度的特征值进行更新的表达式为：

其中，w为文本中的词语，w_i为词语w对应的第i个近义词。

2.根据权利要求1所述的一种基于Word2Vec和句法依存树的文本特征构造方法，其特征在于，所述的预处理包括中文分词、去除乱码和去除标点符号。

3.根据权利要求1所述的一种基于Word2Vec和句法依存树的文本特征构造方法，其特征在于，步骤S3中，训练方法选用Hierarchical-Softmax，所述的词向量的维度根据语料库大小设定。

4.根据权利要求3所述的一种基于Word2Vec和句法依存树的文本特征构造方法，其特征在于，步骤S3中，通过查找近义词的方法判断词向量的训练效果，并通过修改迭代次数提高训练效果。

5.根据权利要求1所述的一种基于Word2Vec和句法依存树的文本特征构造方法，其特征在于，所述的TF-IDF权重的计算公式为：

TfIdf(w)＝TF_w×IDF_w

其中，TF_w为词语w的词频，IDF_w为词语w的逆向文件频率，n_w为词语w在文本d中的出现次数，∑_kn_k为在文本d中所有字词的出现次数之和，D为语料库中的文件总数，∑{d:w∈d}为包含词语w的文件数目。