[发明专利]一种基于深度学习的中文文本情感分析方法

说明书

本发明公开了一种基于深度学习的中文文本情感分析方法，属于自然语言处理技术领域。解决基于英文的无监督情感分析方法的不足之处。本发明将获取语料文本转换为拼音后，预训练构建好的语言模型，得到预训练后的语言模型；将获取与语料文本同领域的、少量带情感类别的文本数据，同样将文本数据中的文本转换为拼音后，基于预训练后的语言模型，训练构建好的情感分类模型，得到训练好的情感分析模型；利用训练好的情感分析模型，对未标注文本进行情感分类，得到对应的情感类别标签。本发明用于对中文文本情感分析。

技术领域

一种基于深度学习的中文文本情感分析方法，用于对中文文本情感分析，属于自然语言处理技术领域。

背景技术

文本情感分析是指判断文本的情感倾向。

语言模型是用来计算一个句子的概率，判断一个句子是否合理。

RNN是循环神经网络，一种用于处理序列数据的神经网络。

LSTM是长短期记忆网络，是RNN特殊的类型，可以学习长期依赖信息。

GRU是门控循环单元，LSTM变体，简化了LSTM模型结构。

在现有的中文文本情感分析中，大多采用中文字符进行文本分类，通过中文字符进行分类，情感分类预测准确率低；而所采用的方法大多是基于词典或机器学习的分类方法，需要耗费大量的人工构建词典或标注数据，而与本提案最接近的方法，是基于英文的无监督情感分析方法，文献为“Alec Radford,Rafal Jozefowicz,Ilya Sutskever.Learningto Generate Reviews and Discovering Sentiment”，该方法首先预训练基于LSTM的字符级语言模型，然后进行迁移学习，即利用预训练的语言模型得到文本特征，每句文本的特征，即句向量是采用该句最后一个字符的向量表示，然后在此基础上添加Softmax分类器，进行情感分类。但存在如下不足之处：

1)首先该方法无法在中文上实现情感分析；

2)其次该语言模型训练耗时，模型网络参数较多，预训练语言模型需要耗费大量时间；

3)最后该方法只利用每句文本的最后一个字符作为该句文本的特征表示，而最后一个字符的字向量并不能代表整句文本，会降低对每句文本的情感分类准确率。

发明内容

针对上述研究的问题，本发明的目的在于提供一种基于深度学习的中文文本情感分析方法，解决现有技术中基于英文的无监督情感分析方法的不足之处：(1)该方法无法在中文上实现情感分析；(2)该方法中语言模型训练耗时，模型网络参数较多，预训练语言模型需要耗费大量时间；(3)该方法只利用每句文本的最后一个字符作为该句文本的特征表示，而最后一个字符的字向量并不能代表整句文本，会降低对每句文本的情感分类准确率。

为了达到上述目的，本发明采用如下技术方案：

一种基于深度学习的中文文本情感分析方法，其特征在于，如下步骤：

步骤1、将获取语料文本转换为拼音后,预训练构建好的语言模型,得到预训练后的语言模型；

步骤2、获取与语料文本同领域的、少量带情感类别标签的文本数据，将文本数据中的文本转换为拼音后，基于预训练后的语言模型，训练构建好的情感分析模型，得到训练好的情感分析模型；

步骤3、利用训练好的情感分析模型，对未标注文本进行情感分类，得到对应的情感类别标签。

进一步，所述步骤1中构建好的语言模型采用RNN网络结构，包含输入层、嵌入层、GRU网络层以及输出层四层，其中嵌入层将每个数字表示的字符映射为嵌入大小维度的字向量,然后将得到的字向量输入GRU网络层，得到文本序列编码，最后输入到输出层，利用激活函数softmax,预测下一个字符。