[发明专利]同步数据的方法、系统及相关数据库有效

专利信息
申请号: 201510155678.1 申请日: 2015-04-02
公开(公告)号: CN104731956B 公开(公告)日: 2019-07-23
发明(设计)人: 刘臻 申请(专利权)人: 北京奇虎科技有限公司;奇智软件(北京)有限公司
主分类号: G06F16/23 分类号: G06F16/23;G06F16/27
代理公司: 北京智汇东方知识产权代理事务所(普通合伙) 11391 代理人: 康正德;郭海彬
地址: 100088 北京市西城区新*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 同步 数据 方法 系统 相关 数据库
【说明书】:

发明提供了一种同步数据的方法、系统及相关数据库,该同步方法,应用于具有主从结构的数据库,其中从数据库上的至少两个传输接口被激活,以接收主数据库传输的数据,所述方法包括:从所述主数据库获取待同步数据,并根据所述待同步数据生成多个同步任务;调用至少两个并发的线程,根据预设规则分配所述多个同步任务至所述至少两个并发的线程中;利用所述至少两个并发的线程,发送所述多个同步任务至所述从数据库,以供所述从数据库根据所述多个同步任务实现与所述主数据库间的数据同步。本发明实施例提供的技术方案解决了主从数据库单线程同步延时的问题,能够实现实时同步,进而满足后续提供数据服务的需求。

技术领域

本发明涉及计算机技术领域,特别是一种同步数据的方法、系统及相关数据库。

背景技术

MySQL是一种关系型数据库管理系统,其主从架构是目前使用最多的数据库架构之一,尤其是对于负载量比较大的网站。MySQL在主从架构中,主数据库进行写入、更新、删除等操作,并通过预定的同步策略将这些操作在从数据库也执行一遍,从而达到主从数据库中数据的一致性。

相关技术中,MySQL主从数据库同步的过程为:MySQL主数据库上有写入、更新、删除等操作后,其自身会将这些操作记录到binary log(二进制日志)里,如图1所示,为了保证同步数据的准确性,从数据库上只有一个同步线程顺序并实时地读取主数据库的binarylog,并根据binary log的记录顺序在从数据库上回放执行,从而使从数据库和主数据库中的数据保持一致。

然而,当主数据库的写入、更新、删除等操作较多时,尤其是主数据库在大量业务的触发下,对从数据库同步时会产生大量写入需求,但是从数据库同步的时候却只有一个线程在按照binary log的记录顺序在回放并进行写入操作,单线程对数据的处理速度有限,超过其处理速度的数据需进行排队等待,若在存在数据排队的过程仍有大量数据写入,则会进一步增加排队时长。因此,在主数据库写入量很大的时候会因单线程处理速度的限制导致从数据库同步延时,而且因数据量的增加可能会延时越来越大,进而导致无法满足后续提供数据服务的需求。

发明内容

鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的同步数据的方法、系统及相关数据库。

依据本发明的一个方面,提供了一种同步数据的方法,应用于具有主从结构的数据库,其中从数据库上的至少两个传输接口被激活,以接收主数据库传输的数据,所述方法包括:获取待同步数据,并根据所述待同步数据生成多个同步任务;调用至少两个并发的线程,其中,各线程分别与所述从数据库上的不同传输接口进行数据传输;依据预设规则分配所述多个同步任务至所述至少两个并发的线程上;以及利用所述至少两个并发的线程,传输所述多个同步任务至所述从数据库上的不同传输接口,以供所述从数据库根据所述多个同步任务实现与所述主数据库间的数据同步。

可选地,所述依据预设规则分配所述多个同步任务至所述至少两个并发的线程上的步骤进一步包括:依据所述多个同步任务中的对象标识分配所述多个同步任务,将具备相同对象标识的同步任务分配至同一个线程中;或者依据所述多个同步任务中的数据表标识分配所述多个同步任务,将具备相同数据表标识的同步任务分配至同一个线程中。

可选地,所述将具备相同对象标识的同步任务分配至同一个线程中的步骤进一步包括:将具备相同对象标识的同步任务按照时序或排序顺序分配至同一个线程中。

可选地,所述将具备相同数据表标识的同步任务分配至同一个线程中的步骤进一步包括:将具备相同数据表标识的同步任务按照时序或排序顺序分配至同一个线程中。

可选地,所述调用至少两个并发的线程,依据预设规则分配所述多个同步任务至所述至少两个并发的线程上的步骤进一步包括:依据所述多个同步任务的数量,调用相应数量的并发的线程;将所述多个同步任务一对一的分配至所述相应数量的并发的线程中。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201510155678.1/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top