[发明专利]数据同步方法、装置、电子设备及存储介质在审

专利信息
申请号: 202110183047.6 申请日: 2021-02-08
公开(公告)号: CN114911790A 公开(公告)日: 2022-08-16
发明(设计)人: 张雨 申请(专利权)人: 北京金山云网络技术有限公司
主分类号: G06F16/22 分类号: G06F16/22;G06F16/23;G06F16/27
代理公司: 北京华夏泰和知识产权代理有限公司 11662 代理人: 曾军;卢万腾
地址: 100085 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 同步 方法 装置 电子设备 存储 介质
【权利要求书】:

1.一种数据同步方法,其特征在于,所述方法包括:

从源数据库的二进制日志中确定对所述源数据库中的单张源表执行数据批量插入操作时产生的多个插入行事件;

依次针对每一所述插入行事件,对所述插入行事件进行解析,得到与所述插入行事件对应的解析结果,以及根据所述解析结果构建与所述插入行事件对应的增量迁移数据,将所述增量迁移数据存入指定存储介质;

当确定满足设定的数据批量同步条件时,基于所述指定存储介质中已存的所述增量迁移数据构造批量插入SQL语句;

对目标数据库中与所述源表对应的目标表执行所述批量插入SQL语句。

2.根据权利要求1所述的方法,其特征在于,所述增量迁移数据包括:所述数据批量插入操作对应的插入行事件总数、对应的所述插入行事件的序号;在所述根据所述解析结果构建与所述插入行事件对应的增量迁移数据,将所述增量迁移数据存入指定存储介质之后,还包括:

根据所述增量迁移数据包括的所述插入行事件的序号和所述插入行事件总数确定是否满足设定的数据批量同步条件;其中,当确定所述增量迁移数据包括的所述插入行事件的序号等于所述插入行事件总数时,确定满足所述数据批量同步条件;当确定所述增量迁移数据包括的所述插入行事件的序号小于所述插入行事件总数时,确定不满足所述数据批量同步条件。

3.根据权利要求1所述的方法,其特征在于,在所述根据所述解析结果构建与所述插入行事件对应的增量迁移数据,将所述增量迁移数据存入指定存储介质之后,还包括:

确定所述指定存储介质中已存的所述增量迁移数据的总数量;

当确定所述总数量等于设定的批处理阈值时,确定满足设定的数据批量同步条件;

当确定所述总数量小于所述批处理阈值时,确定不满足设定的数据批量同步条件。

4.根据权利要求1所述的方法,其特征在于,所述从源数据库的二进制日志中确定对所述源数据库中的单张源表执行数据批量插入操作时产生的多个插入行事件,包括:

从源数据库的二进制日志中确定至少一个行事件集合,所述行事件集合中多个行事件的事件类型均为插入行事件且多个行事件在所述二进制日志中顺序排列;

针对每一所述行事件集合,将所述行事件集合中的多个行事件确定为对所述源数据库中的单张源表执行数据批量插入操作时产生的插入行事件。

5.根据权利要求1所述的方法,其特征在于,在所述将所述增量迁移数据存入指定存储介质之前,还包括:

确定是否满足设定的数据批量存储条件;

当确定满足所述数据批量存储条件时,执行所述将所述增量迁移数据存入指定存储介质的步骤;

当确定不满足所述数据批量存储条件时,基于当前构建的所述增量迁移数据构造单条数据插入SQL语句;

对所述目标表执行所述单条数据插入SQL语句。

6.根据权利要求5所述的方法,其特征在于,所述确定是否满足设定的数据批量存储条件,包括:

确定所述源表是否具有主键;

当确定所述源表不具有主键时,确定满足所述数据批量存储条件;

当确定所述源表具有主键时,确定不满足所述数据批量存储条件。

7.根据权利要求1所述的方法,其特征在于,所述将所述增量迁移数据存入指定存储介质,包括:

将所述增量迁移数据存入指定消息队列中,以及监听所述指定消息队列;

当监听到所述指定消息队列中存入增量迁移数据时,将所述指定消息队列中的增量迁移数据存入指定存储介质。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110183047.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top