[发明专利]数据质量的检测方法、装置、计算机设备和存储介质在审
| 申请号: | 201910185400.7 | 申请日: | 2019-03-12 |
| 公开(公告)号: | CN110008204A | 公开(公告)日: | 2019-07-12 |
| 发明(设计)人: | 谭翔;王军;肖壮锋 | 申请(专利权)人: | 平安信托有限责任公司 |
| 主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/16 |
| 代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 李文渊;王宁 |
| 地址: | 518048 广东省深圳市福田区福田街道益田路5033号平安金融中心27层(东北*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据检测 待检测数据 检测文件 计算机设备 初始数据 存储介质 目标参数 目标数据 检测 自动化测试工具 检测结果 模式标识 人工手动 质量问题 自动生成 携带 配置 申请 | ||
1.一种数据质量的检测方法,所述方法包括:
获取待检测数据;所述待检测数据携带目标参数和数据检测模式,所述数据检测模式标识所述待检测数据的质量问题类型;
获取与所述数据检测模式对应的初始数据检测文件;
根据所述目标参数对所述初始数据检测文件进行配置,生成目标数据检测文件;
根据生成的所述目标数据检测文件对所述待检测数据的数据质量进行检测,得到对应的检测结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述目标参数对所述初始数据检测文件进行配置,生成目标数据检测文件,包括:
分别获取各个所述目标参数在所述初始数据检测文件中的位置标识符;
按照位置标识符,分别将各个所述目标参数导入至所述初始数据检测文件中对应的参数位置,生成目标数据检测文件。
3.根据权利要求1所述的方法,其特征在于,所述根据生成的所述目标数据检测文件对所述待检测数据的数据质量进行检测,得到对应的检测结果,包括:
获取所述目标数据检测文件对应的检测规则;
确定所述待检测数据中与所述目标参数对应的字段;
根据所述检测规则对所述字段进行检测,得到对应的检测结果。
4.根据权利要求3所述的方法,其特征在于,在根据生成的所述目标数据检测文件对所述待检测数据的数据质量进行检测,得到对应的检测结果之后,还包括:
获取所述检测规则的预期结果;
若所述检测规则的预期结果与所述检测结果匹配,则确定所述待检测数据中的所述字段正常;
若所述检测规则的预期结果与所述检测结果不匹配,则确定所述待检测数据中的所述字段异常,将所述检测结果进行存储。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
获取存储的各个所述检测结果以及对应的待检测数据的质量问题类型;
将获取的各个所述检测结果和对应的待检测数据的质量问题类型,按照预设顺序加载至数据检测报告模板中,生成对应的数据检测报告;
将所述数据检测报告发送至目标终端进行展示。
6.根据权利要求5所述的方法,其特征在于,在获取存储的各个所述检测结果以及对应的待检测数据的质量问题类型之后,还包括:
分别获取与各个所述质量问题类型对应的安全修复策略;
根据所述安全修复策略,对对应的待检测数据进行修复。
7.根据权利要求1至6任意一项所述的方法,其特征在于,在获取待检测数据之前,还包括:
接收上传的多个历史数据;所述历史数据为携带数据质量问题的数据;
分别获取与各个所述数据质量问题对应的初始数据检测文件;
对所述数据质量问题添加对应的数据检测模式,以得到多个与数据检测模式对应的初始数据检测文件;
将多个与数据检测模式对应的初始数据检测文件存储至数据库中。
8.一种数据质量的检测装置,其特征在于,所述装置包括:
数据获取模块,用于获取待检测数据;所述待检测数据携带目标参数和数据检测模式,所述数据检测模式标识所述待检测数据的质量问题类型;
文件获取模块,用于获取与所述数据检测模式对应的初始数据检测文件;
文件生成模块,用于根据所述目标参数对所述初始数据检测文件进行配置,生成目标数据检测文件;
数据检测模块,用于根据生成的所述目标数据检测文件对所述待检测数据的数据质量进行检测,得到对应的检测结果。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安信托有限责任公司,未经平安信托有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910185400.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据清除方法、装置及设备
- 下一篇:一种监控系统冗余数据清洗方法





