[发明专利]一种词向量获取方法、装置及存储介质

权利要求书

1.一种词向量获取方法，其特征在于：包括以下步骤：

收集带有情感标签的用户语料，获取用户语料中词语的情感分布信息；

根据所述词语的情感分布信息计算词语为设定情感标签的概率，基于Glove模型，以所述词语为设定情感标签的概率作为模型参数，构建情感词嵌入模型；

根据收集到的用户语料，调用所述情感词嵌入模型将用户语料中的词语映射到向量空间，获取词向量；

根据所述词语的情感分布信息计算词语为设定情感标签的概率，基于Glove模型，以所述词语为设定情感标签的概率作为模型参数，构建情感词嵌入模型的步骤包括：

在Glov e模型基础上，考虑情感二分类，利用词语积极情感概率的比值反映词语的情感差异性，构建函数F：

其中，B_i表示词W_i的情感标签是积极的概率，将1-B_i表示词W_i的情感标签是消极的概率，B_j表示词W_j的情感标签是积极的概率，将1-B_j表示词W_j的情感标签是消极的概率，w_i、w_j分别为词W_i、W_j的词向量，s_i、s_j分别为词W_i、W_j对应的情感偏置向量；

根据所述函数F满足群和群之间的群同态，构建词嵌入模型，其中，所述词嵌入模型的损失函数为：

其中，w_i为中心词对应的词向量，为上下文词对应的词向量，s_i为词W_i对应的情感偏置向量，P_ik表示在词语W_i的上下文中词语W_k出现的概率，B_i表示词W_i的情感标签是积极的概率，V表示词汇表中词语的个数。

2.根据权利要求1所述的词向量获取方法，其特征在于：所述获取用户语料中的词语的情感分布信息的步骤包括：

对所述带有情感标签的用户语料进行包括分词处理、停用词处理的预处理；

统计用户语料中的词的词频信息，并给每个词标号，形成该语料对应的词典；

根据所述预处理后的用户语料与该语料对应的词典，统计词与词的共现频数信息，获取每个词语的情感分布信息；其中，所述词语的情感分布信息包括含有该词且情感标签为积极的文本数和包含该词且情感标签为消极的文本数。

3.根据权利要求1所述的词向量获取方法，其特征在于：所述情感词嵌入模型利用极大似然估计获取所述情感词嵌入模型中模型参数的估计值，将所述估计值代入所述情感词嵌入模型，获得基于极大似然估计的情感词嵌入模型，其中，所述基于极大似然估计的情感词嵌入模型的损失函数为：

其中，w_i为中心词对应的词向量，为上下文词对应的词向量，s_i为词W_i对应的情感偏置向量，x_ik表示在词语W_i的上下文中词语W_k出现的频数，x_i表示在词语W_i的上下文中所有词语出现的频数，t_i1表示含有词W_i且情感标签为积极的文本数，t_i表示含有词W_i的文本数，V表示词汇表中词语的个数。