[发明专利]一种数据分类方法、装置和电子设备有效
申请号: | 202111231704.6 | 申请日: | 2021-10-22 |
公开(公告)号: | CN113934848B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 李长林;蒋宁;王洪斌;吴海英;权佳成;曹磊 | 申请(专利权)人: | 马上消费金融股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/23;G06F18/241 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 朱文杰 |
地址: | 404100 重庆市渝北区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 分类 方法 装置 电子设备 | ||
1.一种数据分类方法,其特征在于,包括:
获取特定应用场景的第一待分类数据;
将所述第一待分类数据与K个分类词表进行匹配,得到与所述K个分类词表对应的K个频次,其中,一个所述分类词表对应一个类别标签,所述分类词表包括至少一个关键词,所述K为大于1的整数;所述K个分类词表中每个所述分类词表对应的类别标签均为所述特定应用场景下预先确定的分类标签;目标标签对应的分类词表通过如下方式获取:
获取待分类数据集,所述待分类数据集包括至少两条第二待分类数据;对所述第二待分类数据进行分词处理,得到与所述目标标签对应的关键词集合;计算所述关键词集合中,每个关键词的词频率文本概率值;获取第一关键词,所述第一关键词为所述目标标签对应的关键词集合中,所述词频率文本概率值小于或等于预设阈值的关键词;在所述第一关键词为目标关键词集合之外的关键词情况下,将所述第一关键词确定为所述目标标签对应的分类词表中的关键词;所述目标关键词集合为:所述K个类别标签中,除目标标签之外的K-1个类别标签对应的K-1个关键词集合的并集;
在所述K个频次中的最大频次与次大频次之间的差值小于或等于预设值的情况下,基于预设规则在所述K个分类词表对应的K个类别标签中确定所述第一待分类数据的类别标签;
所述基于预设规则在所述K个分类词表对应的K个类别标签中确定所述第一待分类数据的类别标签,包括:
计算所述第一待分类数据与每个所述分类词表之间的相似度;
将所述K个分类词表中,与所述第一待分类数据的相似度最高的分类词表所对应的类别标签,确定为所述第一待分类数据的类别标签。
2.根据权利要求1所述的方法,其特征在于,所述计算所述第一待分类数据与每个所述分类词表之间的相似度,包括:
确定所述第一待分类数据的第一文本向量,以及,确定与所述K个分类词表对应的K个第二文本向量,其中,所述第二文本向量为所述第二文本向量对应的分类词表中所有关键词的文本向量的平均值;
基于所述第一文本向量与每个所述第二文本向量之间的向量距离,确定所述第一待分类数据与每个所述分类词表之间的相似度。
3.根据权利要求1所述的方法,其特征在于,所述分类词表的构建方法包括:
获取待分类数据集,所述待分类数据集包括至少两条第二待分类数据;
对所述待分类数据集中的第二待分类数据进行聚类处理,得到与每个所述类别标签对应的第二待分类数据;
基于每个类别标签对应的第二待分类数据,确定每个类别标签对应的分类词表。
4.根据权利要求3所述的方法,其特征在于,所述基于每个类别标签对应的第二待分类数据,确定每个类别标签对应的分类词表,包括:
在目标标签对应的第二待分类数据中,确定与所述目标标签相似度较高的前n条第二待分类数据,所述目标标签为所述K个类别标签中的任意类别标签,所述n为大于零的整数;
对所述n条第二待分类数据进行分词处理,得到与所述目标标签对应的关键词集合;
基于所述关键词集合,生成所述目标标签对应的分类词表。
5.根据权利要求4所述的方法,其特征在于,所述基于所述关键词集合,生成所述目标标签对应的分类词表,包括:
计算所述关键词集合中,每个关键词的词频率文本概率值;
基于所述关键词集合获取所述目标标签对应的分类词表,所述目标标签对应的分类词表包括:所述关键词集合中,所述词频率文本概率值大于预设阈值的关键词;以及,所述关键词集合中,所述词频率文本概率值小于或等于所述预设阈值,且满足预设条件的关键词。
6.根据权利要求5所述的方法,其特征在于,所述基于所述关键词集合获取所述目标标签对应的分类词表,包括:
获取所述第一关键词,所述第一关键词为所述关键词集合中,所述词频率文本概率值小于或等于所述预设阈值的关键词;
在所述第一关键词为所述目标关键词集合之外的关键词情况下,将所述第一关键词确定为所述目标标签对应的分类词表中的关键词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111231704.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置