[发明专利]一种数据同步方法、装置、电子设备及介质在审

专利信息
申请号: 202010622997.X 申请日: 2020-06-30
公开(公告)号: CN111782728A 公开(公告)日: 2020-10-16
发明(设计)人: 王颖 申请(专利权)人: 北京金山云网络技术有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F16/28
代理公司: 北京柏杉松知识产权代理事务所(普通合伙) 11413 代理人: 高莺然;马敬
地址: 100085 北京*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 同步 方法 装置 电子设备 介质
【权利要求书】:

1.一种数据同步方法,其特征在于,包括:

读取源数据库的源端数据表中的数据,得到待同步数据集;

针对所述待同步数据集中的每条数据,检测该数据的指定字段是否符合所述指定字段对应的检核规则,其中,所述检核规则是预先设置的;

若不符合所述指定字段对应的检核规则,则确定该数据为异常数据;

确定所述待同步数据集中的异常数据数量;

根据所述异常数据数量,对所述待同步数据集进行同步处理操作。

2.根据权利要求1所述的方法,其特征在于,所述根据所述异常数据数量,对所述待同步数据集进行同步处理操作,包括:

若所述异常数据数量小于或者等于告警阈值,则将所述待同步数据集同步至目标数据库中。

3.根据权利要求1或2所述的方法,其特征在于,所述根据所述异常数据数量,对所述待同步数据集进行同步处理操作,包括:

若所述异常数据小于或者等于告警阈值,则对所述异常数据进行处理,以更新待同步数据集,得到更新后的待同步数据集;

将更新后的待同步数据集同步至目标数据库中。

4.根据权利要求1所述的方法,其特征在于,所述检核规则通过以下步骤设置得到:

展示用于编辑检核规则的设置页面;

接收用户在所述设置页面的编辑信息,所述编辑信息用于生成所述检核规则;

通过预设交互接口,获取生成的所述检核规则,以执行所述针对所述待同步数据集中的每条数据,检测该数据的指定字段是否符合所述指定字段对应的检核规则的步骤。

5.根据权利要求3所述的方法,其特征在于,所述对所述异常数据进行处理,包括:

若所述异常数据的第一指定字段存在乱码字符,则将所述乱码字符替换为第一预设字符,所述第一指定字段为字符串类型的字段;和/或,

若所述异常数据的第二指定字段存在转义字符,则将所述转义字符替换为第二预设字符,所述第二指定字段为字符串类型的字段;和/或,

若所述异常数据的第三指定字段的长度大于预设长度阈值,则过滤所述异常数据,所述第三指定字段为字符串类型、整型或浮点数类型的字段;和/或,

若所述异常数据的第四指定字段包括除指定形式的内容以外的内容,则过滤所述异常数据,所述第四指定字段为字符串类型的字段;和/或,

若所述异常数据的第五指定字段不符合预定义格式,则过滤所述异常数据,所述第五指定字段为具有所述预定义格式的字段。

6.根据权利要求3所述的方法,其特征在于,在对所述异常数据进行处理之后,所述方法还包括:

记录所述异常数据的异常明细信息,所述异常明细信息包括所述异常数据的异常字段内容和各异常字段内容的异常原因。

7.根据权利要求6所述的方法,其特征在于,在得到更新后的待同步数据集之后,所述方法还包括:

接收检核结果查询请求;

响应于所述检核结果查询请求,反馈所述待同步数据集中的异常数据以及各异常数据的异常明细信息。

8.根据权利要求1所述的方法,其特征在于,在确定所述待同步数据集中的异常数据量之后,所述方法还包括:

若所述异常数据数量大于所述告警阈值,则终止数据同步过程,基于指定告警方式向指定告警对象发送告警消息。

9.一种数据同步装置,其特征在于,包括:

获取模块,用于读取源数据库的源端数据表中的数据,得到待同步数据集;

检核模块,用于针对所述待同步数据集中的每条数据,检测该数据的指定字段是否符合所述指定字段对应的检核规则,其中,所述检核规则是预先设置的;若不符合所述指定字段对应的检核规则,则确定该数据为异常数据;

确定模块,用于确定所述待同步数据集中的异常数据数量;

同步模块,用于根据所述异常数据数量,对所述待同步数据集进行同步处理操作。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010622997.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top