[发明专利]一种数据同步校验方法、装置、计算设备和存储介质在审

专利信息
申请号: 202210536895.5 申请日: 2022-05-17
公开(公告)号: CN114880400A 公开(公告)日: 2022-08-09
发明(设计)人: 何少华 申请(专利权)人: 咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F16/23;G06F16/22
代理公司: 北京市浩天知识产权代理事务所(普通合伙) 11276 代理人: 梁倩
地址: 310018 浙江省杭*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 同步 校验 方法 装置 计算 设备 存储 介质
【权利要求书】:

1.一种数据同步校验方法,包括:

在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合;其中,所述布谷鸟过滤器集合中存储有所述目标对象的指纹数据;

并发遍历所述源哈希映射表中的源对象,针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据,根据查找结果确定数据同步校验结果。

2.根据权利要求1所述的方法,其特征在于,所述在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合进一步包括:

从源数据库中读取源数据,对所述源数据进行数据转换处理,生成与源数据对应的源对象以及目标对象;

将所述源对象添加至源消息队列,消费所述源消息队列构建源哈希映射表;

将所述目标对象添加至目标消息队列,将所述目标对象写入至目标数据库中,消费所述目标消息队列构建布谷鸟过滤器集合。

3.根据权利要求2所述的方法,其特征在于,所述消费所述源消息队列构建源哈希映射表进一步包括:

消费所述源消息队列中的源对象,对所述源对象进行序列化存储,并设置哈希算法;

采用链表以及红黑树模型,对序列化存储后的源对象进行处理,构建源哈希映射表。

4.根据权利要求2所述的方法,其特征在于,所述消费所述目标消息队列构建布谷鸟过滤器集合进一步包括:

消费所述目标消息队列中的目标对象,将所述目标对象的哈希值中预设比特位数的数据作为所述目标对象的指纹数据,将所述指纹数据写入至布谷鸟过滤器集合中。

5.根据权利要求1-4任一项所述的方法,其特征在于,所述针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据进一步包括:

计算该源对象的指纹数据;

利用第一哈希算法对该源对象进行哈希处理,得到第一桶地址;

利用第二哈希算法对该源对象的指纹数据进行哈希处理,得到指纹哈希值;

对所述第一桶地址和所述指纹哈希值进行异或处理,得到第二桶地址;

在所述布谷鸟过滤器集合中,查找第一桶地址对应的桶中或者第二桶地址对应的桶中是否存储有该源对象的指纹数据。

6.根据权利要求1-5任一项所述的方法,其特征在于,所述根据查找结果确定数据同步校验结果进一步包括:

若查找到该源对象的指纹数据,则确定该源对象对应的源数据的数据同步校验结果为正常结果,继续遍历所述源哈希映射表中的其他源对象;

若未查找到该源对象的指纹数据,则确定该源对象对应的源数据的数据同步校验结果为异常结果,并将该源对象对应的源数据作为异常数据进行存储。

7.根据权利要求6所述的方法,其特征在于,所述方法还包括:

按照预设异常处理方案对异常数据进行处理。

8.一种数据同步校验装置,包括:同步模块和校验模块;其中,

所述同步模块,用于在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合;其中,所述布谷鸟过滤器集合中存储有所述目标对象的指纹数据;

所述校验模块,用于并发遍历所述源哈希映射表中的源对象,针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据,根据查找结果确定数据同步校验结果。

9.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;

所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的数据同步校验方法对应的操作。

10.一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-7中任一项所述的数据同步校验方法对应的操作。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司,未经咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210536895.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top