[发明专利]一种基于深度学习的中文文本情感分析方法

权利要求书

1.一种基于深度学习的中文文本情感分析方法，其特征在于，如下步骤：

步骤1、将获取语料文本转换为拼音后,预训练构建好的语言模型,得到预训练后的语言模型；

步骤1.1、数据获取

爬取语料文本；

步骤1.2、数据预处理

将语料文本中的中文文字转换为拼音，并以字符为粒度，先去掉语料文本中的低频字符，去掉低频字符后将剩余的字符去重，并映射为数字索引，得到字符与数字索引的映射字典，再利用映射字典将语料文本表示为数字形式，得到预处理后的文本数据,文本字符数为n；

步骤1.3、以步长为1，从预处理后的文本数据的开始将语料文本进行划分，划分后得到多个包含K个字符的序列长度文本,序列长度文本的前K-1个字符作为模型输入x，最后一个字符作为该模型输出y，得到整个输入样本X和输出样本Y，输入样本数为n-K+1，n为语料文本字符数；

步骤1.4、对于输入样本X与输出样本Y，按照比例0.1-0.5，划分为训练集和验证集，然后按照分批的大小划分训练集，分批作为构建好的语言模型的输入，同时采用多类交叉熵作为构建好的语言模型的损失函数，Adam作为构建好的语言模型优化器,迭代多次，直到验证集损失小于1.0，得到预训练后的语言模型；

步骤2、获取与语料文本同领域的、少量带情感类别标签的文本数据，将文本数据中的文本转换为拼音后，基于预训练后的语言模型，训练构建好的情感分析模型，得到训练好的情感分析模型；

步骤3、利用训练好的情感分析模型，对未标注文本进行情感分类，得到对应的情感类别标签。

2.根据权利要求1所述的一种基于深度学习的中文文本情感分析方法，其特征在于，所述步骤1中构建好的语言模型采用RNN网络结构，包含输入层、嵌入层、GRU网络层以及输出层四层，其中嵌入层将每个数字表示的字符映射为嵌入大小维度的字向量,然后将得到的字向量输入GRU网络层，得到文本序列编码，最后输入到输出层，利用激活函数softmax,预测下一个字符。

3.根据权利要求1所述的一种基于深度学习的中文文本情感分析方法，其特征在于，所述步骤2中构建好的情感分析模型采用RNN网络结构，包含输入层、嵌入层、GRU网络层以及输出层，网络前三层的模型参数采用预训练后的语言模型的网络参数，即可通过网络前三层得到每个字符的编码，对于每条文本，对其所有字符编码求平均得到平均编码、求最大值得到最大编码、以及该条文本中最后一个字符的编码,作为该条文本的向量表示，然后输入到输出层，利用激活函数sigmoid，得到情感二分类模型，即构建好的情感分析模型。

4.根据权利要求3所述的一种基于深度学习的中文文本情感分析方法，其特征在于，所述步骤2的具体步骤为：

步骤2.1、数据获取

获取与语料文本同领域的文本数据，标记文本数据的情感类别，得到标记数据,样本数为m,包含文本与文本所对应的情感类别标签两列，其中情感类别为正面和负面；

步骤2.2、数据清洗

对于标记数据中的文本,首先将文本转换为拼音，然后根据预训练后的语言模型中的映射字典,将拼音字符映射为数字索引，然后计算每条文本的长度，取其最大值，再将所有长度小于最大值的长度的文本以0填补，使得所有文本长度相同；

步骤2.3、将数据清洗后的文本作为输入样本X’，标记数据中的情感类别标签作为输出样本Y’；

步骤2.4、对于输入样本X’与输出样本Y’,按照0.1-0.5的比例，将其划分为训练集与验证集，然后按照分批的大小划分训练集，分批作为模型输入，同时采用二分类交叉熵作为构建好的情感分析模型的损失函数，Adam作为构建好的情感分析模型的优化器,迭代多次，验证集损失小于0.5，得到训练好的情感分析模型。

5.根据权利要求4所述的一种基于深度学习的中文文本情感分析方法，其特征在于，所述步骤3的具体步骤为：

步骤3.1、对于未标记的文本数据，只包含一列文本,将其中的中文字符转化为拼音，作为输入J；

步骤3.2：输入J到训练好的情感分析模型，进行情感分类的预测,得到情感类别标签。