[发明专利]一种结合Doc2vec和卷积神经网络的情感分类方法

说明书

本发明请求保护一种结合Doc2vec和卷积神经网络的情感分类方法，该方法将Doc2vec和CNN进行有效的结合。该结合方法对于特征的表示，不但考虑到了词与词之间的语义关系，并且解决了维数灾难，还考虑到了词与词之间的顺序问题。CNN可以通过学习一种深层的非线性的网络结构来弥补浅层特征学习方法的不足，采用分布式表示输入数据的表征，展现了强大的特征学习能力，特征提取和模式分类可以同时进行，CNN模型的稀疏连接和权重共享两个特点可以减少网络的训练参数，使神经网络结构变得更简单，适应性更强。结合Doc2vec和CNN来处理情感分类问题可显著提高情感分类的准确率。

技术领域

本发明属于涉及情感分类方法领域，尤其涉及一种结合Doc2vec和卷积神经网络的情感分类方法。

背景技术

情感分析是一种常见的自然语言处理(NLP)方法的应用，特别是在以提取文本的情感内容为目标的分类方法中。情感分类已经有很多有用的实践，比如企业分析消费者对产品的反馈信息，或者检测在线评论中的差评信息。常见的情感分类方法主要有支持向量机，最大熵以及随机游走等浅层学习方法。这些方法在建模的过程中使用的函数简单，计算方法也比较简单，容易实现而且计算量较小，在有限的样本和计算单元的条件下导致其对复杂函数的表达能力受到限制，同时对于复杂的分类问题，这些方法的泛化能力也在一定程度上受到制约。卷积神经网络(CNN)属于深层网络，深层网络可以通过学习一种深层的非线性的网络结构来弥补这一约束，深层网络采用分布式表示输入数据的表征，与此同时，深层网络也展现了它强大的特征学习能力，即其可以从少量的样本集中抓取到数据的本质特征。CNN不仅包含了深层网络的这些优点，并且可以特征提取和模式分类同时进行，而且CNN的模型有稀疏连接和权重共享这两个特点，可以减少网络的训练参数，使神经网络结构变得更简单，适应性更强。

情感文本的向量表示一般有两种表达方式，One-hot Representation和Distributed Representation。One-hot Representation最大的问题是无法分析词与词之间的语义关系，此外这种方法还容易发生维数灾难。Distributed Representation方法则很好地克服了这些缺点，其中word2vec就是Distributed Representation的典型代表。虽然word2vec很好的分析了词与词之间的语义关系并且解决了维数灾难问题，但是没有考虑到词与词之间的顺序问题，因此不同的句子可能会有相同的表示，从而导致误判率较高。Doc2vec跟word2vec很相似，Doc2vec在word2vec的模型的基础上增加了一个段落向量(Paragraph Id)。Doc2vec不但考虑到了词与词之间的语义关系，并且解决了维数灾难，还考虑到了词与词之间的顺序问题。所以，相对于其它方法，结合Doc2vec和卷积神经网络来处理情感分类问题可显著提高情感分类的准确率。

发明内容

针对以上现有技术的不足，提出了一种可以减少网络的训练参数，使神经网络结构变得更简单，适应性更强、可显著提高情感分类的准确率的结合Doc2vec和卷积神经网络的情感分类方法。。本发明的技术方案如下：一种结合Doc2vec和卷积神经网络的情感分类方法，，其包括以下步骤：

步骤1：从网上搜集情感文本语料集，标记类别，将文本里的数据表示成一个句子，并将情感文本语料分为训练集语料和测试集语料；

步骤2：从网上搜集情感词典，并采用基于词典逆向最大匹配算法和统计分词策略相结合的中文分词算法对步骤1中的训练集语料和测试集语料进行分词处理，然后去除停用词；

步骤3：采用Doc2vec对步骤2中分词处理并去除停用词后的训练集语料和测试集语料训练出词向量模型并得到文本向量；

步骤4：将步骤3中的语料中的训练集语料的文本向量输入卷积神经网络CNN训练出情感分类模型；