[发明专利]关系型数据的标签清洗方法、装置、设备及存储介质在审
| 申请号: | 201911329468.4 | 申请日: | 2019-12-20 |
| 公开(公告)号: | CN111177132A | 公开(公告)日: | 2020-05-19 |
| 发明(设计)人: | 黄移军 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
| 主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/28 |
| 代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 阳开亮 |
| 地址: | 518000 广东省深圳市福田*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 关系 数据 标签 清洗 方法 装置 设备 存储 介质 | ||
本发明公开了一种关系型数据的标签清洗方法、装置、设备及存储介质,通过从关系型数据库中提取目标关系型数据,计算关系型特征标签集的数据饱和度,将关系型特征标签集中数据饱和度小于饱和度阈值的关系型特征标签剔除;计算关系型特征标签集中的异常占比值,提取出异常占比值小于异常占比阈值的关系型特征标签;计算关系型特征标签集的信息量值,提取出信息量值大于信息量阈值的关系型特征标签;采用预设的决策树模型确定关系型特征标签集的重要性度量值,提取出重要性度量值大于重要性度量阈值的关系型特征标签;最后根据预设策略对生成的关系型特征标签进行整合处理;从而提高了对目标关系型数据进行标签筛选的准确性。
技术领域
本发明涉及数据处理领域,尤其涉及一种关系型数据的标签清洗方法、装置、设备及存储介质。
背景技术
随着计算机技术的日益发展,各种类型的数据库随之不断发展。目前比较常见的数据库主要包括有关系型数据库和非关系型数据库。不同类型的数据库具有不同的优势,虽然非关系数据库因具有灵活的可扩展性,且允许创建许多不同类型的非结构化的或任意格式的字段等优势,越来越受到开发者的欢迎,但也由于技术的不成熟,存在事务处理能力弱、没有完整性约束,且对于复杂业务场景支持较差等缺陷。因此很多技术开发者在处理数据时依旧会选择传统的关系型数据库。传统的关系型数据库具有查询灵活、容易保持数据的一致性的优点,但是对关系型数据进行标签筛选时大部分都是采用大量的专家经验对数据标签进行分析,业务专家结合自己的经验筛选出符合要求的目标关系型数据。然而,采用专家经验进行标签筛选往往对人工依赖过多,且当关系型数据量较大时人工处理速度有限,对关系型数据进行标签筛选的准确性较低。
发明内容
本发明实施例提供一种关系型数据的标签清洗方法、装置、计算机设备及存储介质,以解决对关系型数据进行标签筛选的准确性较低问题。
一种关系型数据的标签清洗方法,包括:
从关系型数据库中提取目标关系型数据的特征标签,生成关系型特征标签集;
计算所述关系型特征标签集中每一关系型特征标签的数据饱和度,将所述关系型特征标签集中所述数据饱和度小于饱和度阈值的关系型特征标签剔除,得到第一特征标签集;
计算所述关系型特征标签集中每一关系型特征标签的异常占比值,提取出所述异常占比值小于异常占比阈值的关系型特征标签,组成第二特征标签集;
计算所述关系型特征标签集中每一关系型特征标签的信息量值,提取出所述信息量值大于信息量阈值的关系型特征标签,组成第三特征标签集;
采用预设的决策树模型确定所述关系型特征标签集中每一关系型特征标签的重要性度量值,提取出所述重要性度量值大于重要性度量阈值的关系型特征标签,组成第四特征标签集;
根据预设策略对所述第一特征标签集、所述第二特征标签集、所述第三特征标签集和所述第四特征标签集进行整合处理,得到目标关系型标签集。
一种关系型数据的标签清洗装置,包括:
第一提取模块,用于从关系型数据库中提取目标关系型数据的特征标签,生成关系型特征标签集;
第一数据饱和度计算模块,用于计算所述关系型特征标签集中每一关系型特征标签的数据饱和度,将所述关系型特征标签集中所述数据饱和度小于饱和度阈值的关系型特征标签剔除,得到第一特征标签集;
第一异常占比值计算模块,用于计算所述关系型特征标签集中每一关系型特征标签的异常占比值,提取出所述异常占比值小于异常占比阈值的关系型特征标签,组成第二特征标签集;
第一信息量值计算模块,用于计算所述关系型特征标签集中每一关系型特征标签的信息量值,提取出所述信息量值大于信息量阈值的关系型特征标签,组成第三特征标签集;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911329468.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





