[发明专利]一种基于深度网络的自然语言情感分析方法

摘要

本发明提供的基于深度网络的自然语言情感分析方法，在记忆网络的基础上，语义依存信息引入来引导注意力机制的执行，包含了句子整体情感信息的上下文矩信息也被用来为当前分析对象词提供背景信息。整个模型包括嵌入模块、记忆序列构建模块、语义依存掩码注意力模块、上下文矩情感学习模块以及输出模块。在模型中，根据依存句法树得到的对象词和上下文的语义依存关系信息将引入到记忆网络中，使得每一个层的记忆序列都是动态生成的，从而引导记忆网络的多层模块中的注意力机制的执行。另外，为了引入句子的整体情感信息，即同一句子中所有对象词之间的关系信息，我们提出了一个基于上下文矩的学习任务，通过多任务学习来辅助特定对象词的情感分析。

主权项

1.一种基于深度网络的自然语言情感分析方法，其特征在于，包括嵌入模块、记忆序列构建模块、语义依存掩码注意力模块、上下文矩情感学习模块以及输出模块；所述的嵌入模块使用一个通过无监督方法预训练得到的嵌入查找表，将语料中的词转换为对应的词向量；对于不存在于查找表中的非词典词，采用了高斯分布随机初始化将其随机转换成一个低维度的词嵌入；所述的记忆序列构建模块通过双向长短时记忆单元将嵌入模块得到的嵌入序列转换为记忆序列，转换后的记忆序列可表示其中n为序列长度；所述的语义依存掩码注意力模块根据句子的依存句法树，抽取语义依存信息，然后根据语义依存信息来动态选择记忆序列的不同部分，引导注意力机制的执行，得到对象词情感分类损失；同时所述的上下文矩情感学习模块通过对上下文矩回归任务的协同学习来构建上下文记忆序列，并计算上下文矩回归损失；所述的输出模块通过同时最小化对象词情感分类损失和上下文矩回归损失来进行训练，从而预测对象词的情感极性。