[发明专利]一种文本分类方法及装置有效
| 申请号: | 201710906486.9 | 申请日: | 2017-09-29 |
| 公开(公告)号: | CN110019784B | 公开(公告)日: | 2021-10-15 |
| 发明(设计)人: | 王天祎 | 申请(专利权)人: | 北京国双科技有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/289;G06F40/30 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
| 地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,包括:
获取待分析文本;
基于所述待分析文本的分字结果、所述待分析文本的文本长度以及样本数据库中存储的各个字对应的子向量,生成表征所述待分析文本在预设空间分布情况的向量矩阵;所述样本数据库中存储有非低频常尾字的字向量;所述向量矩阵包括所述待分析文本的分字结果中,存在于所述样本数据库的字对应的字向量、以及未存在于所述样本数据库中的字对应的设定的第一预设向量;
根据所述待分析文本对应的向量矩阵以及预设神经网络模型,分析得到所述待分析文本的类别;所述预设神经网络模型为(Bi-LSTM)-ATTENTION-CNN模型;
其中,所述预设神经网络模型的生成过程包括:
获取第二文本数据库;其中,所述第二文本数据库中包括多个文本样本以及每个所述文本样本的类别;
生成每个所述文本样本对应的表征所述文本样本在预设空间分布情况的向量矩阵;
根据每个所述文本样本的向量矩阵以及每个文本样本的类别,对初始神经网络模型进行修正,得到所述预设神经网络模型;
其中,根据每个所述文本样本的向量矩阵以及每个文本样本的类别,对初始神经网络模型进行修正,得到所述预设神经网络模型,具体包括:
每个文本样本的向量矩阵为初始神经网络模型的底层特征,使用Bi-LSTM对每个文本样本的向量矩阵进行一次序列关系的网络表征sentence-embedding,结合ATTENTION机制归一化,赋予每个字位置以不同的权重,得到特征向量V1;
然后,使用CNN和max-pooling作用于sentence-embedding,获取特征向量V2,其中,卷积神经网络的好处是可以达到合并多个连续字的作用,起到等同于自适应分词的效果;
接着,合并V1、V2成一个长向量,结合softmax层进行分类输出,网络构建完成后,以网络输出的类别分布,与人工标注的类别分布的交叉熵为损失函数,训练过程中,伴随优化上述交叉熵损失函数,所有向量的参数都会更新,最终得到预设神经网络模型,所述预设神经网络模型既包含了大量的外部字向量信息,又用到了序列结构语义信息,结合了注意力机制的效果,使得模型更精准。
2.根据权利要求1所述的文本分类方法,其特征在于,基于所述待分析文本的分字结果、所述待分析文本的文本长度以及样本数据库中存储的各个字对应的子向量,生成表征所述待分析文本在预设空间分布情况的向量矩阵,包括:
当所述文本长度不小于预设长度时,从样本数据库中获取得到所述分字结果中的前预设数量的字中存在于所述样本数据库的字对应的字向量;其中,所述样本数据库中保存有不同的字对应的字向量,字向量表示字在预设空间分布的位置;
将所述分字结果中的前预设数量的字中未存在于所述样本数据库中的字对应的字向量设置为第一预设向量;
根据所述分字结果中的前预设数量的每个字对应的字向量,生成所述待分析文本对应的向量矩阵。
3.根据权利要求1所述的文本分类方法,其特征在于,基于所述待分析文本的分字结果、所述待分析文本的文本长度以及样本数据库中存储的各个字对应的子向量,生成表征所述待分析文本在预设空间分布情况的向量矩阵,包括:
当所述文本长度小于预设长度时,从样本数据库中获取得到所述分字结果中存在于所述样本数据库的字对应的字向量;其中,所述样本数据库中保存有不同的字对应的字向量,字向量表示字在预设空间分布的位置;
将所述分字结果中未存在于所述样本数据库中的字对应的字向量设置为第一预设向量;
确定所述文本长度与所述预设长度之间的字数差,生成所述字数差数量的第二预设向量;
根据所述分字结果中的每个字对应的字向量以及生成的至少一个所述第二预设向量,生成所述待分析文本对应的向量矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710906486.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:属性词聚类方法及装置
- 下一篇:一种文本分类方法及装置





