[发明专利]融入观点句特征的汉越双语新闻情感分类方法有效
申请号: | 201910635891.0 | 申请日: | 2019-07-15 |
公开(公告)号: | CN110347836B | 公开(公告)日: | 2021-07-09 |
发明(设计)人: | 余正涛;刘权;相艳;线岩团;林思琦;赖华;王振晗 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/953;G06N3/04 |
代理公司: | 昆明人从众知识产权代理有限公司 53204 | 代理人: | 李晓亚 |
地址: | 650093 云*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 融入 观点 特征 双语 新闻 情感 分类 方法 | ||
1.融入观点句特征的汉越双语新闻情感分类方法,其特征在于:具体步骤如下:
Step1、收集汉语、越南语的新闻文本和汉越平行句对;
Step2、使用人工标注的方式对汉语、越南语的新闻文本进行观点句和情感极性的标注;
Step3、使用标注好的汉语和越南语的新闻文本以及汉越平行句对来训练汉越双语词嵌入模型;
Step4、使用步骤Step3得到的汉越双语词嵌入模型将汉语和越南语标注文本的词映射到一个语义空间中,然后将汉语或越南语标注文本中的双语词向量输入到双向LSTM网络中,对新闻文本进行建模,输出每一时刻的隐藏状态;
Step5、使用卷积神经网络抽取观点句特征,并且使用门控网络将观点句特征融入到隐藏状态中;
Step6、使用层次注意力机制对情感信息进行关注:使用层次注意力机制分别从词级和句子级对情感相关的信息赋予不同的权重,并得到新闻文本的向量化表征;
Step7、使用softmax分类器对新闻的情感极性进行分类;
所述步骤Step5中,使用卷积神经网络抽取观点句特征的具体步骤如下:
Step5.1.1、对于标注好的汉语和越南语文本中的每个句子,将前向LSTM网络和反向LSTM网络输出的最后一个隐状态进行拼接,得到该句子的向量表征si,具体公式为其中表示第i句第Si个词的前向LSTM网络输出的隐藏状态,表示第i句第1个词后向LSTM网络输出的隐藏状态;
Step5.1.2、由于新闻文档中有多个表达观点的句子,因此将文档中标记为观点句的句子的向量表征组成一个矩阵,然后通过多个不同大小的卷积核对该矩阵进行卷积来抽取出观点句特征s′;
所述步骤Step5中,使用门控网络将观点句特征融入到隐藏状态中的具体步骤如下:
Step5.2.1、将标注后的汉语和越南语文本中每个句子的向量表征si和观点句特征s′输入到多层感知机中,得到门控向量sGatei;具体公式为:sGatei=σ(Wssi+Uss′+b);
其中,Ws和Us是权重矩阵,b是偏置项,σ是sigmoid激活函数;
Step5.2.2、将Step4输出的隐藏状态hi,j和门控向量sGatei相乘,得到了融入观点句特征后隐藏状态h′i,j;具体公式为:h′i,j=hi,j⊙sGatei;其中,⊙表示向量对应元素相乘。
2.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step3中,分别使用标注好的汉语和越南语的新闻文本分别训练汉语和越南语的词嵌入模型,然后使用汉越平行句对词嵌入模型联合训练得到汉越双语词向量。
3.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step4中,将汉语或越南语标注文本中的双语词向量输入到双向LSTM网络中,得到文档中第i句话中第j个词的隐藏状态;具体公式为:其中,表示前向LSTM网络输出的隐藏状态,表示后向LSTM网络输出的隐藏状态,其中,汉越双语词嵌入模型将汉语、越南语新闻的词编码为双语词向量。
4.根据权利要求1所述的融入观点句特征的汉越双语新闻情感分类方法,其特征在于:所述步骤Step5中,使用观点句特征来增强新闻文本的情感表达;通过多个不同大小的卷积核来抽取不同粒度的观点句特征,然后使用选择性门控网络将观点句特征融入模型的隐藏层中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910635891.0/1.html,转载请声明来源钻瓜专利网。