[发明专利]一种数据质量检测方法、系统、电子设备及存储介质在审
申请号: | 202011509203.5 | 申请日: | 2020-12-18 |
公开(公告)号: | CN112632048A | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 董歌 | 申请(专利权)人: | 恩亿科(北京)数据科技有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06Q30/06 |
代理公司: | 青岛清泰联信知识产权代理有限公司 37256 | 代理人: | 赵燕 |
地址: | 100192 北京市海淀区西小口路66*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 质量 检测 方法 系统 电子设备 存储 介质 | ||
本申请公开了一种数据质量检测方法、系统、电子设备及存储介质。数据质量检测方法包括:触发步骤:触发脚本;数据拉取步骤:将阿里查询接口、Dataservice、业务数据库中分别拉取数据;数据验证步骤:将所述数据存放在csv文件下,验证所述数据准确性。本发明提出一种数据质量检测方法、系统、电子设备及存储介质,为提高多平台连通数据测试过程中测试校验的及时性、准确性、完整性,通过结合自动化脚本的形式来提高在数据量较大的情况下数据验证效率,并自动输出测试报告。
技术领域
本申请涉及数据质量检测领域,尤其涉及一种数据质量检测方法、系统、电子设备及存储介质。
背景技术
在现如今电商崛起时代,电商品牌主结合不同节日活动和主推商品,在各大电商平台有不同的商品投放策略。目前电商六大媒体平台有阿里的直通车,超级推荐和钻展以及京东的快车、触电和展位;而电商媒体自动化投放工具即将六大媒体平台一站式整合到一个工具下,积累投放数据和经验。用户在电商平台的行为数据成为电商品牌方分析商品在电商平台投放效果及用户转化率等指标的重要数据,电商媒体自动化投放工具会间接拉取电商平台的数据,根据数据做算法相关处理来指导投手商品投放。因此,针对拉取数据的完整性和准确性校验就显得尤为重要。
因此,针对以上现状,本发明提出一种数据质量检测方法、系统、电子设备及存储介质,为提高多平台连通数据测试过程中测试校验的及时性、准确性、完整性,通过结合自动化脚本的形式来提高在数据量较大的情况下数据验证效率,并自动输出测试报告。
发明内容
本申请实施例提供了一种数据质量检测方法、系统、电子设备及存储介质,以至少解决相关技术中主观因素影响的问题。
本发明提供了一种数据质量检测方法,包括:
触发步骤:触发脚本;
数据拉取步骤:从阿里查询接口、Dataservice及业务数据库中分别拉取数据;
数据验证步骤:将所述数据存放在csv文件下,验证所述数据准确性。
上述的数据质量检测方法,所述触发步骤包括,以输入参数的形式触发所述脚本。
上述的数据质量检测方法,所述数据拉取步骤包括,根据所述输入参数调用封装的所述阿里查询接口,从所述阿里查询接口、所述 Dataservice及所述业务数据库中分别拉取每个计划、单元、关键词、人群在对应店铺下产生的分时分日的数据。
上述的数据质量检测方法,所述数据验证步骤包括,将所述数据存储在excel中,并存放在csv文件下后,比对数据gap值来验证所述数据的准确性,并通过所述数据的代码自动生成Echarts趋势图。
本发明提供数据质量检测系统,其特征在于,适用于上述所述的数据质量检测方法,包括:
触发单元:触发脚本;
数据拉取单元:从阿里查询接口、Dataservice及业务数据库中分别拉取数据;
数据验证单元:将所述数据存放在csv文件下,验证所述数据准确性。
上述的数据质量检测系统,所述触发单元包括,以输入参数的形式触发所述脚本。
上述的数据质量检测系统,所述数据拉取单元包括,根据所述输入参数调用封装的所述阿里查询接口,从所述阿里查询接口、所述 Dataservice及所述业务数据库中分别拉取每个计划、单元、关键词、人群在对应店铺下产生的分时分日的数据。
上述的数据质量检测系统,所述数据验证单元包括,将所述数据存储在excel中,并存放在csv文件下后,比对数据gap值来验证所述数据的准确性,并通过所述数据的代码自动生成Echarts趋势图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于恩亿科(北京)数据科技有限公司,未经恩亿科(北京)数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011509203.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置