[发明专利]终身学习框架下基于GCN的跨领域情感分析方法

说明书

本发明提供终身学习框架下基于GCN的跨领域情感分析方法，涉及自然语言处理中的跨领域情感分类领域，本发明中终身学习框架下基于GCN的跨领域情感分析方法，由如下过程所实现：提出基于图卷积神经网络的跨领域情感分类算法，即CDS‑GCN，在提出CDS‑GCN的基础上，结合终身学习思想提出终身学习框架下基于图卷积神经网络的跨领域情感分类算法，即LLCDS‑GCN，这些特征使终身学习不同于迁移学习或者多任务学习等相关的学习任务，它打破孤立学习的限制，并缓解人工标注数据费时费力带来的影响，这些特点与跨领域情感分类任务的初衷不谋而合。

技术领域

本发明涉及自然语言处理中的跨领域情感分类领域，尤其涉及终身学习框架下基于GCN的跨领域情感分析方法。

背景技术

网络的普及为商家带来了更大的用户群体，也带来了更多的用户反馈信息，用户可以在互联网上方便的表达他们对于所用产品或接受服务的看法和意见，例如大量的产品评论可以被在豆瓣(电影评论)、亚马逊(书籍评论)、美团(餐饮评论)等网站上被轻松获取，文档级别情感分类是指根据评论作者所表达的情感对给定评论进行分类，这一任务十分重要，首先对于商家来说，消费者对商品的评价反映了对产品质量或服务的好恶，其次未购买某产品的消费者因为没有使用产品的经历，查看已购买者对于该产品的反馈是一个宝贵的了解产品质量的机会，作为自然语言处理中的基础研究问题，情感分类已被广泛应用于意见挖掘、意见总结、上下文广告和市场分析等诸多领域。

存在的问题：传统的监督学习算法已经被证明在处理情感分类问题上是有效的，并且被广泛用于预测给定域评论的情感极性任务上。然而监督学习算法表现能力的强弱极大的依赖于标注语料库的质量和大小，而随着时间的不断增长，情感分类的研究领域已经从最初的电影评论领域比如IMDB扩展到许多新领域比如股票信息和国会的辩论，并且在现实网络数据中，已标注文本的分布是不平均的，在一些传统领域或受到广泛关注的领域，有很多研究人员已经标注了大量数据，在某些其他领域则没有任何标注数据。为每一个需要执行情感分类任务的领域标注高质量的数据需要消耗大量的时间、人力、物力、更不要说评论中的具体描述还可能随时间的增加而产生变化，比如产品的品质退化、功能的更新等等。因此，在少量域上标注语料库，在这些语料库上训练分类器，然后将这个分类器应用到其他领域的分类任务上的想法便应运而生，这也就是跨领域情感分类，然而在实际生活中，由于人们倾向于在不同的领域中用不同的表达方式来表达相同的情感，因此在某一领域进行训练后得到的分类器无法被应用到其他领域，所以研究和提出有效的跨领域情感极性分类方法具有重要的理论和实际应用价值。

卷积神经网络：卷积神经网络在处理网格类型数据时具有整合特征的能力，这是由于它包含两种机制，一是卷积核(kernel)的参数共享，二是加权平均。卷积其实是加权求和的过程，卷积核中的的参数就对应了不同位置的要加权的权重值，而同一个卷积核对于每一个神经元来说参数共享。虽然卷积神经网络已经在很多自然语言处理任务上取得了优秀的成绩，但卷积神经网络的使用是建立在它所处理的数据类型必须为矩阵形式的基础上的，而它无法处理图结构的。这是因为卷积神经网络需要数据具有平移不变性，也就是说图上一个位置的特征在经过卷积等一系列运算后将仍然出现在被卷积后的图的相对位置上。但图结构不同于矩阵结构，每一个节点附近的情况都可能互不相同，因此它不具有平移不变性。图结构在实际生活中并不少见，自然语言处理领域中的社交网络就是典型的图结构。这种非欧式结构(Non Euclidean Structure)也就是图论中的图。包括DeepWalk、node2vec等算法的操作对象都是图结构数据，GCN也是其中之一。简单的来说，图卷积网络可以被看作是一个特征提取的工具，因为它可以为每一个节点生成新的特征表示，而这个新的特征向量正是整合了邻居节点特征之后产生的结果，这也可以被称为节点的嵌入。之前的关于跨领域情感分类任务的研究工作使用的大多是使用迁移学习的思想将目标域的特征通过某种方式迁移到源域上，让许多原本只出现在目标域上的特征借此出现在源域训练集中，然后再使用机器学习分类算法对特征向量进行分类。利用特征携带情感的特点，本文将文本与特征当作节点建模成图，使用图卷积网络对图中节点进行分类。

发明内容