[发明专利]数据存储方法、装置及电子设备有效
| 申请号: | 201810505103.1 | 申请日: | 2018-05-24 |
| 公开(公告)号: | CN108959374B | 公开(公告)日: | 2020-12-29 |
| 发明(设计)人: | 魏建钟;刘强;杨冬冬 | 申请(专利权)人: | 北京三快在线科技有限公司 |
| 主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/28 |
| 代理公司: | 北京曼威知识产权代理有限公司 11709 | 代理人: | 方志炜 |
| 地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 存储 方法 装置 电子设备 | ||
本申请提供一种数据存储方法、装置及电子设备,所述方法的一具体实施方式包括:获取目标源数据表中待存储的目标数据;对所述目标数据进行检测,得到检测结果;若所述检测结果指示所述目标数据异常,针对所述目标数据执行预设的修复操作;若所述检测结果指示所述目标数据正常,将所述目标数据存储至数据仓库。该实施方式能够对待存储的目标数据进行检测,在该目标数据正常时,才将该目标数据存入数据仓库,在该目标数据异常时,需要对该目标数据进行修复,避免了将异常的数据加载到数据仓库中,提高了数据仓库的数据质量。
技术领域
本申请涉及数据仓库技术领域,特别涉及一种数据存储方法、装置及电子设备。
背景技术
随着大数据技术的不断发展,数据仓库的建设也变得越来越重要。目前来说,在进行数据仓库建设的过程中,首先将业务系统的数据经过抽取、清洗转换之后加载到目标系统中,以便将分散、零乱、标准不统一的数据整合到一起进行数据仓库的建设。但是,可能会将异常的数据加载到数据仓库中,从而影响了整个数据仓库的数据质量。
发明内容
为了解决上述技术问题之一,本申请提供一种数据存储方法、装置及电子设备。
根据本申请实施例的第一方面,提供一种数据存储方法,包括:
获取目标源数据表中待存储的目标数据;
对所述目标数据进行检测,得到检测结果;
若所述检测结果指示所述目标数据异常,针对所述目标数据执行预设的修复操作;
若所述检测结果指示所述目标数据正常,将所述目标数据存储至数据仓库。
可选的,所述对所述目标数据进行检测,包括:
获取所述目标源数据表对应的验证规则;
基于所述验证规则对所述目标数据进行检测。
可选的,所述验证规则与所述目标源数据表对应的业务类型相匹配。
可选的,所述对所述目标数据进行检测,包括:
确定与所述目标源数据表有业务关联的参考源数据表;
获取与所述目标源数据表及所述参考源数据表匹配的业务关联规则;
基于所述目标数据及所述参考源数据表中的数据获取针对所述业务关联规则的目标指标;
按照所述业务关联规则验证所述目标指标,以对所述目标数据进行检测。
可选的,所述针对所述目标数据执行预设的修复操作,包括:
向所述目标源数据表对应的业务端发送数据修复请求,以请求修复所述目标数据。
可选的,若所述检测结果指示所述目标数据异常,所述方法还包括:
将所述目标数据存储至预设的第一临时数据表,并对所述目标数据进行异常标记。
可选的,所述将所述目标数据存储至数据仓库,包括:
若基于所述第一临时数据表中经过异常标记的数据,确定所述目标数据与所述第一临时数据表无关联,则将所述目标数据存储至预设的第二临时数据表;
若基于所述第一临时数据表中经过异常标记的数据,确定所述目标数据与所述第一临时数据表有关联,则将所述目标数据存储至所述第一临时数据表,并对所述目标数据进行正常标记;
在预设的触发时刻,将存储于所述第二临时数据表中的所述目标数据存储至数据仓库,或者,将存储于所述第一临时数据表中且经过正常标记的所述目标数据存储至数据仓库。
根据本申请实施例的第二方面,提供一种数据存储装置,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810505103.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:足迹点生成方法及装置
- 下一篇:一种基于规则与深度学习的知识抽取方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





