[发明专利]基于多提示学习的评语数据增强与方面级情感分析方法在审
申请号: | 202310340273.X | 申请日: | 2023-03-31 |
公开(公告)号: | CN116361420A | 公开(公告)日: | 2023-06-30 |
发明(设计)人: | 朱新华;旷中洁 | 申请(专利权)人: | 广西师范大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/289;G06F40/30;G06N3/04;G06N3/08;G06F17/16 |
代理公司: | 南宁东智知识产权代理事务所(特殊普通合伙) 45117 | 代理人: | 汪治兴 |
地址: | 541004 广*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 提示 学习 评语 数据 增强 方面 情感 分析 方法 | ||
本发明公开了一种基于多提示学习的评语数据增强与方面级情感分析方法,涉及人工智能中的自然语言识别处理领域。首先,提出一种由输入槽、方面槽、极性答案槽、情感关键词槽和提示模式组成的提示模板结构,并以此为基础,提出一种基于BERT模型的提示模板自动生成方法。其次,使用所提出的提示模板自动生成方法,为指定的方面级情感分析数据集生成优化的提示模板,并通过所生成的优化的提示模板,对方面级情感分析数据集的训练集进行数据增强。最后,使用所数据增强的方面级情感分析数据集的训练集,对BERT模型进行多提示学习的微调,得到一个基于多提示学习的方面级情感分析BERT模型,以更有效的方法解决方面级情感分析问题。
技术领域
本发明涉及自然语言识别处理领域中的情感分析,具体是一种基于多提示学习的评语数据增强与方面级情感分析方法,可广泛应用于各个领域的方面级情感分析任务中。
背景技术
方面级情感分类的目的是预测方面词在句子或者文档中的极性,它是一项细粒度情感分析的任务,与传统的情感分析任务不同,它是在方面词上做情感极性分析(一般为积极、消极、中性三个分类)。方面级情感分类常用在评论人的评论句子中,如:商场购物评论、餐饮评论、电影评论等。方面级情感分类,通常在一个句子中有多个方面词及其相关的情感极性。
随着人工神经网络技术的不断发展,各种神经网络如Long Short-TermMemory(LSTM)、Deep Memory Network和Google AI Language提出的Bidirectional EncoderRepresentations from Transformers(BERT)神经网络语言模型被应用于方面极性分类,从而为其提供端到端的分类方法,而无需任何特征工程工作。然而,当句子中有多个目标时,方面极性分类任务需要区分不同方面的情绪。因此,与句子级情感分析中只有一个整体情感类别相比,方面极性分类任务更加复杂,虽然可以通过预训练神经网络语言模型对评语进行深入理解,但仍需要较多的语料进行微调。然而非常不幸地是,由于方面极性分类标注更费时费力,通常方面级情感分析的语料比较小,而且在不同极性上的语料分布不均衡。为解决这一问题,本发明提出一种基于多提示学习的评语数据增强与方面级情感分析方法。
提示符是指附加在原始输入上的提问、完形填空、解释或演示,它是随着预训练神经网络语言模型的广泛应用而出现的一种新的学习技术,其目的是探索预训练模型学习的知识类型。本发明通过定义合理的提示模板结构,并以预训练的BERT神经网络模型为基础,提出了一种提示模板自动生成方法,为不同数据集生成优化的模板模式序列,进而提出了一种基于多提示学习的评语数据增强与方面级情感分析方法。
发明内容
本发明公开了一种基于多提示学习的评语数据增强与方面级情感分析方法,其特征在于包括以下步骤:
S1.将方面级情感分析的提示模板的结构定义成由输入槽、方面槽、极性答案槽、情感关键词槽和提示模式所组成;
S2.以步骤S1所定义的提示模板的结构为基础,提出一种基于BERT模型的提示模板自动生成方法;
S3.使用步骤S2所提出的基于BERT模型的提示模板自动生成方法,为指定的方面级情感分析数据集Ψ生成优化的提示模板;
S4.使用步骤S3所生成的优化的提示模板,对方面级情感分析数据集Ψ的训练集进行数据增强;
S5.使用步骤S4所数据增强的方面级情感分析数据集Ψ的训练集,对BERT模型进行多提示学习的微调,得到一个基于多提示学习的方面级情感分析BERT模型;
S6.使用步骤S5微调的BERT模型,对方面级情感分析数据集Ψ的测试集中的方面目标进行情感预测;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西师范大学,未经广西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310340273.X/2.html,转载请声明来源钻瓜专利网。