[发明专利]数据质量检测方法、装置及存储介质在审
申请号: | 201811373534.3 | 申请日: | 2018-11-19 |
公开(公告)号: | CN109656812A | 公开(公告)日: | 2019-04-19 |
发明(设计)人: | 袁泉 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F11/36 | 分类号: | G06F11/36;G06F16/215 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据质量检测 待检测数据 检测 匹配 计算机可读存储介质 存储介质 内容数据 匹配规则 时间成本 预先建立 大数据 规则库 数据源 元数据 预设 自动化 | ||
1.一种数据质量检测方法,应用于电子装置,其特征在于,该方法包括:
获取步骤:从数据源中获取至少一条待检测数据,其中,每条待检测数据包括内容数据和元数据;
匹配步骤:根据预设的匹配规则在预先建立的检测规则库中为所述每条待检测数据匹配至少一条检测规则;及
检测步骤:利用匹配的检测规则对所述待检测数据进行检测,得到数据质量检测结果。
2.如权利要求1所述的数据质量检测方法,其特征在于,所述元数据包括该条待检测数据的重要程度、默认值、时间戳、所属字段以及该字段的数据类型中的一种或多种。
3.如权利要求2所述的数据质量检测方法,其特征在于,该方法还包括:
将属于同一字段的待检测数据归为一个待检测数据组,为每个待检测数据组中的待检测数据统一匹配检测规则。
4.如权利要求1所述的数据质量检测方法,其特征在于,所述检测规则为基于MapReduce的并行化检测规则,每个检测规则包括规则名称、规则描述和预期结果。
5.如权利要求1所述的数据质量检测方法,其特征在于,所述检测步骤还包括:
若所述数据质量检测结果为异常且数据异常率大于预设告警阈值,则以预设方式对异常问题发出警示。
6.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中包括数据质量检测程序,该数据质量检测程序被所述处理器执行时实现如下步骤:
获取步骤:从数据源中获取至少一条待检测数据,其中,每条待检测数据包括内容数据和元数据;
匹配步骤:根据预设的匹配规则在预先建立的检测规则库中为所述每条待检测数据匹配至少一条检测规则;及
检测步骤:利用匹配的检测规则对所述待检测数据进行检测,得到数据质量检测结果。
7.如权利要求6所述的电子装置,其特征在于,所述元数据包括该条待检测数据的重要程度、默认值、时间戳、所属字段以及该字段的数据类型中的一种或多种。
8.如权利要求6所述的电子装置,其特征在于,所述数据质量检测程序被所述处理器执行时还实现如下步骤:
将属于同一字段的待检测数据归为一个待检测数据组,为每个待检测数据组中的待检测数据统一匹配检测规则。
9.如权利要求6至8中任意一项所述的电子装置,其特征在于,所述检测规则为基于MapReduce的并行化检测规则,每个检测规则包括规则名称、规则描述和预期结果。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中包括数据质量检测程序,该数据质量检测程序被处理器执行时实现如权利要求1至5中任意一项所述的数据质量检测方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811373534.3/1.html,转载请声明来源钻瓜专利网。