[发明专利]一种数据同步校验方法、装置、计算设备和存储介质在审
申请号: | 202210536895.5 | 申请日: | 2022-05-17 |
公开(公告)号: | CN114880400A | 公开(公告)日: | 2022-08-09 |
发明(设计)人: | 何少华 | 申请(专利权)人: | 咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23;G06F16/22 |
代理公司: | 北京市浩天知识产权代理事务所(普通合伙) 11276 | 代理人: | 梁倩 |
地址: | 310018 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 同步 校验 方法 装置 计算 设备 存储 介质 | ||
1.一种数据同步校验方法,包括:
在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合;其中,所述布谷鸟过滤器集合中存储有所述目标对象的指纹数据;
并发遍历所述源哈希映射表中的源对象,针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据,根据查找结果确定数据同步校验结果。
2.根据权利要求1所述的方法,其特征在于,所述在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合进一步包括:
从源数据库中读取源数据,对所述源数据进行数据转换处理,生成与源数据对应的源对象以及目标对象;
将所述源对象添加至源消息队列,消费所述源消息队列构建源哈希映射表;
将所述目标对象添加至目标消息队列,将所述目标对象写入至目标数据库中,消费所述目标消息队列构建布谷鸟过滤器集合。
3.根据权利要求2所述的方法,其特征在于,所述消费所述源消息队列构建源哈希映射表进一步包括:
消费所述源消息队列中的源对象,对所述源对象进行序列化存储,并设置哈希算法;
采用链表以及红黑树模型,对序列化存储后的源对象进行处理,构建源哈希映射表。
4.根据权利要求2所述的方法,其特征在于,所述消费所述目标消息队列构建布谷鸟过滤器集合进一步包括:
消费所述目标消息队列中的目标对象,将所述目标对象的哈希值中预设比特位数的数据作为所述目标对象的指纹数据,将所述指纹数据写入至布谷鸟过滤器集合中。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据进一步包括:
计算该源对象的指纹数据;
利用第一哈希算法对该源对象进行哈希处理,得到第一桶地址;
利用第二哈希算法对该源对象的指纹数据进行哈希处理,得到指纹哈希值;
对所述第一桶地址和所述指纹哈希值进行异或处理,得到第二桶地址;
在所述布谷鸟过滤器集合中,查找第一桶地址对应的桶中或者第二桶地址对应的桶中是否存储有该源对象的指纹数据。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述根据查找结果确定数据同步校验结果进一步包括:
若查找到该源对象的指纹数据,则确定该源对象对应的源数据的数据同步校验结果为正常结果,继续遍历所述源哈希映射表中的其他源对象;
若未查找到该源对象的指纹数据,则确定该源对象对应的源数据的数据同步校验结果为异常结果,并将该源对象对应的源数据作为异常数据进行存储。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
按照预设异常处理方案对异常数据进行处理。
8.一种数据同步校验装置,包括:同步模块和校验模块;其中,
所述同步模块,用于在将源数据从源数据库同步至目标数据库的过程中,生成与源数据对应的源对象以及目标对象,并根据所述源对象构建源哈希映射表,根据所述目标对象构建布谷鸟过滤器集合;其中,所述布谷鸟过滤器集合中存储有所述目标对象的指纹数据;
所述校验模块,用于并发遍历所述源哈希映射表中的源对象,针对所述源哈希映射表中的每个源对象,在所述布谷鸟过滤器集合中查找该源对象的指纹数据,根据查找结果确定数据同步校验结果。
9.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的数据同步校验方法对应的操作。
10.一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-7中任一项所述的数据同步校验方法对应的操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司,未经咪咕数字传媒有限公司;咪咕文化科技有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210536895.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:显示面板及显示装置
- 下一篇:多芯光纤桥纤及连接方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置