[发明专利]一种用于情感分析模型的优化方法在审
申请号: | 202210753407.6 | 申请日: | 2022-06-29 |
公开(公告)号: | CN115034228A | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 宋彦;田元贺;李世鹏 | 申请(专利权)人: | 苏州思萃人工智能研究所有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/211;G06F40/126;G06F16/35;G06K9/62;G06N3/08 |
代理公司: | 深圳市智享知识产权代理有限公司 44361 | 代理人: | 王琴 |
地址: | 215000 江苏省苏州市相城*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 情感 分析 模型 优化 方法 | ||
本发明涉及自然语言处理技术领域,特别涉及一种用于情感分析模型的优化方法,通过任务无关编码器获取输入语句,并对语句进行编码,得到每个词的隐向量;将隐向量输入补充学习编码器,得到补充学习隐向量,并将补充学习隐向量通过向量算法计算得到方面词的向量表征;将隐向量与方面词的向量表征输入情感分析编码器,得到情感极性损失;将方面词的向量表征输入句子复原模块,得到中间结果以及补充学习损失;将隐向量以及中间结果输入判别器,得到判别器损失;对情感极性损失、补充学习损失以及判别器损失依据计算得到整体损失;通过整体损失对情感分析模型进行初步优化。本发明提供的优化方法提升了模型在处理情感分析任务上的性能。
【技术领域】
本发明涉及自然语言处理技术领域,其特别涉及一种用于情感分析模型的优化方法。
【背景技术】
基于方面的情感分析任务旨在预测针对特定方面词(aspect term)的情感极性。其中,对方面词本身意义的理解对情感的预测十分重要。然而,现有的方法往往忽视对方面词本身的建模。
【发明内容】
为了解决现有的方法往往忽视对方面词本身的建模的问题,本发明提供一种用于情感分析模型的优化方法。
本发明为解决上述技术问题,提供如下的技术方案:一种用于情感分析模型的优化方法,所述情感分析模型包括主模型、句子复原模块和判别器,所述主模型包括任务无关编码器、情感分析编码器和补充学习编码器,其特征在于:所述方法包括以下步骤:通过所述任务无关编码器获取输入语句,并对所述语句进行编码,得到所述语句中每个词的隐向量;将所述隐向量输入所述补充学习编码器,得到补充学习隐向量,并将所述补充学习隐向量通过向量算法计算得到方面词的向量表征;将所述隐向量与所述方面词的向量表征输入所述情感分析编码器,得到情感极性损失;将所述方面词的向量表征输入所述句子复原模块,得到中间结果以及补充学习损失;将所述隐向量以及所述中间结果输入所述判别器,得到判别器损失;对所述情感极性损失、补充学习损失以及判别器损失依据预设的第一算法计算得到整体损失;通过所述整体损失对所述情感分析模型进行初步优化。
优选地,得到情感极性损失包括以下步骤:将所述隐向量与所述方面词的向量表征输入所述情感分析编码器,得到词汇的情感分析向量表征以及方面词的情感分析向量表征;对所述隐向量、词汇的情感分析向量表征以及方面词情感分析向量表征依据预设的第二算法进行计算,得到所述情感极性损失。
优选地,所述预设的第二算法包括以下步骤:对所述隐向量依据预设的向量算法计算得到任务无关的句子表征;对所述词汇的情感分析向量表征以及方面词的情感分析向量表征依据预设的向量算法计算得到情感分析句子表征;将所述任务无关的句子表征与情感分析句子表征串联得到中间向量;将所述中间向量输入预设的第一全连接层,并将所述第一全连接层的输出结果输入预设的SoftMax分类器,得到预测的情感极性;将所述预测的情感极性与预设的标准进行对比计算得到所述情感极性损失。
优选地,所述句子复原模块包括补充学习解码器,得到所述补充学习损失包括以下步骤:将所述补充学习隐向量输入所述补充学习解码器重构所述输入语句,得到预测的词汇;将所述预测的词汇与所述输入语句中的词汇进行对比得到所述中间结果,并根据预设的第三算法计算得到补充学习损失。
优选地,所述预设的第三算法包括以下步骤:计算某个位置的词的负对数自然损失,并将所有位置的词的负对数自然损失的词求和,得到所述补充学习损失。
优选地,得到所述判别器损失还包括以下步骤:依据所述中间结果,得到判别器的目标输出;对所述目标输出依据预设的第四算法进行计算,得到所述判别器损失。
优选地,所述目标输出的取值为0或1,所述预设的第四算法包括以下步骤:将所述补充学习隐向量输入预设的第二全连接层,并将所述第二全连接层的输出结果输入到预设的第二SoftMax分类器,针对每个词得到一个2维向量,所述2维向量的每个的维度对应所述目标输出在0和1上的分布概率;依据所述分布概率得到所述判别器损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州思萃人工智能研究所有限公司,未经苏州思萃人工智能研究所有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210753407.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种有机电致发光材料组合物及其应用
- 下一篇:一种机械加工用钻孔设备