[发明专利]用于文本层级分类的方法、电子设备和存储介质有效
| 申请号: | 202011251117.9 | 申请日: | 2020-11-11 |
| 公开(公告)号: | CN112069321B | 公开(公告)日: | 2021-02-12 |
| 发明(设计)人: | 王东;陈广顺 | 申请(专利权)人: | 震坤行网络技术(南京)有限公司;震坤行工业超市(上海)有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/247;G06N3/04 |
| 代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 王茂华 |
| 地址: | 210000 江苏省南*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 文本 层级 分类 方法 电子设备 存储 介质 | ||
1.一种用于文本层级分类的方法,包括:
对文本数据集合中的每项文本数据生成多个层级类目作为标签数据,以得到标签数据集合;
基于所述文本数据集合和所述标签数据集合,生成训练样本集合和验证样本集合;
对所述训练样本集合中与相同层级中的不同类目相关联的样本数量进行排序,以得到与多个层级相关联的多个排序结果;
基于所述训练样本集合中与相同层级中的不同类目相关联的样本数量在对应排序结果中的位置,确定与所述多个层级类目相关联的多个权重;
S1:基于所述训练样本集合中的文本数据子集合和多标签分类神经网络模型,生成多标签分类结果集合;
S2:基于所述多标签分类结果集合、所述多个权重、所述训练样本集合中的标签数据子集合和预定损失函数,确定损失值;
S3:基于所述损失值和梯度下降算法,更新所述多标签分类神经网络模型中的参数;以及
重复S1-S3,直至所述损失值小于预定值以及所述验证样本集合的准确率达到预定准确率,以得到经训练的多标签分类神经网络模型;
其中确定所述多个权重包括:对于所述多个排序结果中的每一个排序结果执行以下步骤:
确定所述排序结果中与第一预定分位数对应的第一样本数量和与第二预定分位数相对应的第二样本数量,所述第一预定分位数小于所述第二预定分位数;
对于样本数量小于所述第一样本数量的层级类目,基于训练样本集合的样本总量、所述层级类目所属层级中的类目数量以及所述第一样本数量,确定所述层级类目的权重;
对于样本数量大于所述第二样本数量的层级类目,基于训练样本集合的样本总量、所述层级类目所属层级中的类目数量以及所述第二样本数量,确定所述层级类目的权重;以及
对于所述排序结果中大于或等于所述第一样本数量且小于或等于所述第二样本数量的层级类目,基于训练样本集合的样本总量、所述层级类目所属层级中的类目数量以及所述训练样本集合中与所述层级类目相关联的样本数量,确定所述层级类目的权重。
2.根据权利要求1所述的方法,其中生成所述多标签分类结果集合包括对于所述文本数据子集合中的每项文本数据执行以下步骤:
将所述文本数据输入所述多标签分类神经网络模型中的双向长短记忆模型,以得到双向时序特征;
将所述双向时序特征分别输入所述多标签分类神经网络模型中的自注意力层和全局平均池化层,以得到关键词特征和词语特征;
将所述关键词特征和所述词语特征进行拼接,以得到文本特征;
将所述文本特征输入所述多标签分类神经网络模型中的全连接层,以得到全连接结果;以及
将所述全连接结果输入到所述多标签分类神经网络模型中的输出层,以得到多标签分类结果。
3.根据权利要求2所述的方法,其中所述输出层包括层级类目总数量个神经元节点。
4.根据权利要求1所述的方法,其中确定所述多个权重还包括:
基于与多个层级相关联的多个权重调节因子,调节与所述多个层级类目相关联的多个权重。
5.根据权利要求1所述的方法,还包括:
对初始文本数据集合进行以下操作中的至少一项,以得到所述文本数据集合:
小写转大写、分词、去停用词和近义词随机替换。
6.根据权利要求1所述的方法,还包括:
获取目标文本;
基于经训练的所述多标签分类神经网络模型,确定用于目标文本的多个层级类目;以及
提示确定的所述多个层级类目。
7.根据权利要求1所述的方法,其中所述文本数据集合中的每项文本数据的长度不超过预定长度。
8.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7任一项所述的方法。
9.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于震坤行网络技术(南京)有限公司;震坤行工业超市(上海)有限公司,未经震坤行网络技术(南京)有限公司;震坤行工业超市(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011251117.9/1.html,转载请声明来源钻瓜专利网。





