[发明专利]一种文本分类方法及装置有效
申请号: | 201910149829.0 | 申请日: | 2019-02-28 |
公开(公告)号: | CN109948149B | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 王兴光;牛成 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 郭润湘;李娟 |
地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,包括:
获取当前层语义模块输入的文本的分词结果中各分词的特征向量;
分别确定所述各分词的相邻分词之间的连接概率,并记录连接概率为0的索引位置;
根据确定的各连接概率和记录的索引位置,基于循环神经网络,确定所述文本的新的分词结果,具体包括:将各分词的特征向量和确定的各连接概率,输入到循环神经网络中,获得循环神经网络基于各特征向量和各连接概率输出的向量表示;根据记录的索引位置,分别获取所述循环神经网络的相应位置输出的向量表示,并将获取到的各向量表示,作为所述文本的新的分词结果;
将所述文本的新的分词结果作为下一层语义模块的输入;或者,
确认当前层为预设层次时,根据所述新的分词结果,以及分类模型,获得所述文本的类别。
2.如权利要求1所述的方法,其特征在于,第一层语义模块输入的文本的分词结果为所述文本的各分字的集合。
3.如权利要求1所述的方法,其特征在于,分别确定所述各分词的相邻分词之间的连接概率,具体包括:
分别将各分词的特征向量输入到预先训练的卷积网络中,获得所述卷积网络对各特征向量进行特征提取后输出的各特征向量对应的卷积特征;
分别将所述各分词中每两个相邻分词的卷积特征,输入到预先训练的全连接网络;
基于所述全连接网络,分别将每两个相邻分词的卷积特征映射到预设向量空间,获得所述全连接网络输出的各一维向量,并将输出的各一维向量,分别作为相应的每两个相邻分词之间的关系权重;
根据各关系权重,基于预设激活函数,确定相应的每两个相邻分词之间的连接概率。
4.如权利要求3所述的方法,其特征在于,所述预设激活函数包括第一激活函数和第二激活函数,则根据各关系权重,基于预设激活函数,确定相应的每两个相邻分词之间的连接概率,具体包括:
将各关系权重,输入到第一激活函数中,通过第一激活函数将各关系权重变换到预设取值范围内;
将各变换后的关系权重,输入到第二激活函数中,若确定任意一个变换后的关系权重的取值小于0,则将取值小于0的变换后的关系权重调整为0,若确定变换后的关系权重的取值不小于0,则不进行调整;
将经过第二激活函数调整后的关系权重的取值,作为相应的每两个相邻分词之间的连接概率。
5.一种文本分类装置,其特征在于,包括:
获取模块,用于获取当前层语义模块输入的文本的分词结果中各分词的特征向量;
确定模块,用于分别确定所述各分词的相邻分词之间的连接概率,并记录连接概率为0的索引位置;
获得模块,用于根据确定的各连接概率和记录的索引位置,基于循环神经网络,确定所述文本的新的分词结果,具体用于:将各分词的特征向量和确定的各连接概率,输入到循环神经网络中,获得循环神经网络基于各特征向量和各连接概率输出的向量表示;根据记录的索引位置,分别获取所述循环神经网络的相应位置输出的向量表示,并将获取到的各向量表示,作为所述文本的新的分词结果;
循环处理模块,用于将所述文本的新的分词结果作为下一层语义模块的输入;或者,
分类模块,用于确认当前层为预设层次时,根据所述新的分词结果,以及分类模型,获得所述文本的类别。
6.如权利要求5所述的装置,其特征在于,分别确定所述各分词的相邻分词之间的连接概率时,确定模块具体包括:
分别将各分词的特征向量输入到预先训练的卷积网络中,获得所述卷积网络对各特征向量进行特征提取后输出的各特征向量对应的卷积特征;
分别将所述各分词中每两个相邻分词的卷积特征,输入到预先训练的全连接网络;
基于所述全连接网络,分别将每两个相邻分词的卷积特征映射到预设向量空间,获得所述全连接网络输出的各一维向量,并将输出的各一维向量,分别作为相应的每两个相邻分词之间的关系权重;
根据各关系权重,基于预设激活函数,确定相应的每两个相邻分词之间的连接概率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910149829.0/1.html,转载请声明来源钻瓜专利网。