[发明专利]一种基于多任务学习的方面级别文本情感转换方法

权利要求书

1.一种基于多任务学习的方面级别文本情感转换方法，包括以下步骤：

对于包含多个方面情感表述的文本，构建方面级别的文本转换学习任务并构建方面级别的情感分类学习任务；

以所述方面级别的文本转换学习任务作为主任务，以所述方面级别的情感分类学习任务作为辅助任务，通过联合训练所述主任务和所述辅助任务实现方面级别的文本情感转换。

2.根据权利要求1所述的方法，其特征在于，对于文本的一个句子，所述联合训练包括：

将该句子和该句子的给定方面表述用词嵌入表示；

将该句子的词嵌入表示和所述给定方面表述的词嵌入表示输入到由长短期记忆网络和注意力层构成的模型进行学习，获得注意力权重分布，其中所述注意力权重分布反映不同词在所述方面级别的文本情感分类学习任务中的重要性；

在所述辅助任务中，将基于所述注意力权重分布得到的文档建模后的句子，利用分类器获得给定方面的情感分类标签；

在所述主任务中，基于所述注意力权重分布实现方面级别的文本情感转换。

3.根据权利要求2所述的方法，其特征在于，所述主任务执行以下子步骤：

基于所述注意力权重分布检测给定方面的情感词并且对于所检测出的情感词执行掩码操作，获得转换后的句子；

以所述转换后的句子作为输入，利用序列到序列模型实现方面级别的文本情感转换。

4.根据权利要求3所述的方法，其特征在于，对于一个词i，所述掩码操作包括：

计算该词被掩掉的概率p_i，表示为：

其中是所述注意力权重分布的平均值，μ是控制sigmoid输出结果的超参数；

通过线性变换计算修改后的句子的词嵌入表示e′(x_i)：

e′(x_i)＝(1-p_i)e(x_i)+p_ie(S)

其中，e(S)是句子X中基于给定方面表述的情感标签S的词嵌入表示。

5.根据权利要求3所述的方法，其特征在于，所述序列到序列模型包括编码器、上下文注意力模块、情感注意力模块、情感记忆模块、门控模块和解码器，其中：

所述编码器用于对修改后的句子的词嵌入表示进行编码；

所述上下文注意力模块用于计算修改的句子的内容向量，获得上下表示；

所述情感注意力模块用于从所述情感记忆模块抽取上下文相关的情感信息，获得情感表示；

所述门控模块用于基于所述上下文表示和所述情感表示，预测下一词时动态选择内容信息和情感信息，并且所述门控模块的输出向量用于生成预测词并更新所述解码器在下一时间步的隐层状态向量。

6.根据权利要求5所述的方法，其特征在于，所述编码器和解码器是长短时记忆网络。

7.根据权利要求1所述的方法，其特征在于，在所述联合训练中，优化目标是最小化所述主任务和所述辅助任务的总交叉熵：

L＝λ₁L₁+λ₂L₂

其中，L₁是辅助任务的交叉熵，L₂是主任务的交叉熵，λ₁和λ₂是超参数。

8.根据权利要求2所述的方法，其中，所述注意力权重分布表示为：

其中，L表示长短期记忆网络的层数，{u₁,u₂,...,u_L}是可学习的参数。

9.一种计算机可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现根据权利要求1至8中任一项所述方法的步骤。

10.一种电子设备，包括存储器和处理器，在所述存储器上存储有能够在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至8中任一项所述的方法的步骤。