[发明专利]数据存储方法、装置及电子设备有效

专利信息
申请号: 201810505103.1 申请日: 2018-05-24
公开(公告)号: CN108959374B 公开(公告)日: 2020-12-29
发明(设计)人: 魏建钟;刘强;杨冬冬 申请(专利权)人: 北京三快在线科技有限公司
主分类号: G06F16/25 分类号: G06F16/25;G06F16/28
代理公司: 北京曼威知识产权代理有限公司 11709 代理人: 方志炜
地址: 100080 北京市海*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 存储 方法 装置 电子设备
【说明书】:

本申请提供一种数据存储方法、装置及电子设备,所述方法的一具体实施方式包括:获取目标源数据表中待存储的目标数据;对所述目标数据进行检测,得到检测结果;若所述检测结果指示所述目标数据异常,针对所述目标数据执行预设的修复操作;若所述检测结果指示所述目标数据正常,将所述目标数据存储至数据仓库。该实施方式能够对待存储的目标数据进行检测,在该目标数据正常时,才将该目标数据存入数据仓库,在该目标数据异常时,需要对该目标数据进行修复,避免了将异常的数据加载到数据仓库中,提高了数据仓库的数据质量。

技术领域

本申请涉及数据仓库技术领域,特别涉及一种数据存储方法、装置及电子设备。

背景技术

随着大数据技术的不断发展,数据仓库的建设也变得越来越重要。目前来说,在进行数据仓库建设的过程中,首先将业务系统的数据经过抽取、清洗转换之后加载到目标系统中,以便将分散、零乱、标准不统一的数据整合到一起进行数据仓库的建设。但是,可能会将异常的数据加载到数据仓库中,从而影响了整个数据仓库的数据质量。

发明内容

为了解决上述技术问题之一,本申请提供一种数据存储方法、装置及电子设备。

根据本申请实施例的第一方面,提供一种数据存储方法,包括:

获取目标源数据表中待存储的目标数据;

对所述目标数据进行检测,得到检测结果;

若所述检测结果指示所述目标数据异常,针对所述目标数据执行预设的修复操作;

若所述检测结果指示所述目标数据正常,将所述目标数据存储至数据仓库。

可选的,所述对所述目标数据进行检测,包括:

获取所述目标源数据表对应的验证规则;

基于所述验证规则对所述目标数据进行检测。

可选的,所述验证规则与所述目标源数据表对应的业务类型相匹配。

可选的,所述对所述目标数据进行检测,包括:

确定与所述目标源数据表有业务关联的参考源数据表;

获取与所述目标源数据表及所述参考源数据表匹配的业务关联规则;

基于所述目标数据及所述参考源数据表中的数据获取针对所述业务关联规则的目标指标;

按照所述业务关联规则验证所述目标指标,以对所述目标数据进行检测。

可选的,所述针对所述目标数据执行预设的修复操作,包括:

向所述目标源数据表对应的业务端发送数据修复请求,以请求修复所述目标数据。

可选的,若所述检测结果指示所述目标数据异常,所述方法还包括:

将所述目标数据存储至预设的第一临时数据表,并对所述目标数据进行异常标记。

可选的,所述将所述目标数据存储至数据仓库,包括:

若基于所述第一临时数据表中经过异常标记的数据,确定所述目标数据与所述第一临时数据表无关联,则将所述目标数据存储至预设的第二临时数据表;

若基于所述第一临时数据表中经过异常标记的数据,确定所述目标数据与所述第一临时数据表有关联,则将所述目标数据存储至所述第一临时数据表,并对所述目标数据进行正常标记;

在预设的触发时刻,将存储于所述第二临时数据表中的所述目标数据存储至数据仓库,或者,将存储于所述第一临时数据表中且经过正常标记的所述目标数据存储至数据仓库。

根据本申请实施例的第二方面,提供一种数据存储装置,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810505103.1/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top