[发明专利]基于Transformer实现细粒度情感分析的方法、装置、处理器及其存储介质

权利要求书

1.一种基于Transformer实现细粒度情感分析的方法，其特征在于，所述的方法包括以下步骤：

(1)获取Sem-Eval 2014Task 4的Laptop和Restaurant两个领域的数据集进行模型验证；

(2)对获取到的相应数据集进行数据解析以及转换处理；

(3)基于正文文本、主体以及主体情感类别进行情感分析模型的构建；

(4)加入预设的初始参数进行情感分析模型的模型训练；

(5)获取模型训练得到的细粒度情感分析输出结果。

2.根据权利要求1所述的基于Transformer实现细粒度情感分析的方法，其特征在于，所述的步骤(1)包括以下步骤：

(1.1)获取Sem-Eval 2014Task 4数据源包含的Laptop和Restaurant两个领域的数据集，且各个数据集均为文件格式为.xml，包含训练数据以及测试数据的数据集；

(1.2)将Laptop和Restaurant两个领域的数据集进行情感标签确定的准确率作为评估指标进行有效性的验证。

3.根据权利要求2所述的基于Transformer实现细粒度情感分析的方法，其特征在于，所述的情感标签的分布情况具体包括：

Laptop和Restaurant两个领域的数据集中正面标签在训练集和测试集中的分布情况；

Laptop和Restaurant两个领域的数据集中中性标签在训练集和测试集中的分布情况；以及

Laptop和Restaurant两个领域的数据集中负面标签在训练集和测试集中的分布情况。

4.根据权利要求3所述的基于Transformer实现细粒度情感分析的方法，其特征在于，所述的步骤(2)具体包括以下步骤：

(2.1)针对所述的Laptop和Restaurant数据集中的训练集数据以及测试集数据分别进行.xml数据的解析，提取包含正文文本信息数据、主体信息数据以及主体情感类别信息数据；

(2.2)将所述的正文文本信息数据、主体信息数据以及主体情感类别信息数据统一转为UTF-8编码；

(2.3)将所述的正文文本信息数据依据BERT预训练模型的数据要求进行数据转换。

5.根据权利要求4所述的基于Transformer实现细粒度情感分析的方法，其特征在于，所述的步骤(3)具体包括以下步骤：

(3.1)对所述的正文文本进行编码以符合所述的BERT预训练模型的数据要求；

(3.2)依据所述的主体在正文文本中的位置信息，构建位置编码向量；

(3.3)利用替换字符将所述的正文文本中的主体信息进行隐藏；

(3.4)将经过编码处理后的正文文本输入到所述的BERT预训练模型中，得到最后一层隐含层信息；

(3.5)将BERT隐含层信息与主体的位置编码向量进行相乘，得到所述的主体在BERT隐含层中信息；

(3.6)将所述的主体在BERT隐含层中的信息经过一个线性层进行处理，输出最终的情感类别。

6.根据权利要求5所述的基于Transformer实现细粒度情感分析的方法，其特征在于，所述的步骤(4)具体为：

采用经验值对初始参数的预设值进行设定，并将各个初始参数采用网格搜索方法进行优化调整，同时利用Adam优化算法计算最小化交叉熵损失函数，以获取所述的线性层包括但不限于权重和偏置的训练参数的最优值，从而完成情感分析模型的训练。

7.一种基于Transformer实现细粒度情感分析的装置，其特征在于，所述的装置包括：

处理器，被配置成执行计算机可执行指令；

存储器，存储一个或多个计算机可执行指令，所述计算机可执行指令被所述处理器执行时，实现权利要求1至6中任一项所述的基于Transformer实现细粒度情感分析的方法的各个步骤。