[发明专利]分布式关系型数据库的数据同步方法和装置有效
申请号: | 201610151216.7 | 申请日: | 2016-03-16 |
公开(公告)号: | CN105574217B | 公开(公告)日: | 2019-04-30 |
发明(设计)人: | 李浩;罗云彬;王伟华 | 申请(专利权)人: | 中国联合网络通信集团有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/28 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 陶敏;刘芳 |
地址: | 100033 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 关系 数据库 数据 同步 方法 装置 | ||
本发明提供一种分布式关系型数据库的数据同步方法和装置,通过确定事务操作请求所要操作的数据所在的数据分片是否为迁移状态;当数据分片为迁移状态,将数据分片地址重定向到数据分片的缓存地址,数据分片在缓存中被分为N个小分区,确定事务操作请求所要操作的数据是否为已迁移的小分区对应的数据,若为已迁移的小分区对应的数据,则在重做日志中记录事务操作的记录,由于重做日志中只记录对已迁移的小分区的事务操作,不记录对未迁移的小分区的事务操作,因此,减少了重做日志中记录的数量,节省了日志存储空间,从而,不会造成数据丢失,保证数据的完整性,以及数据同步的一致性。
技术领域
本发明涉及数据库技术,尤其涉及一种分布式关系型数据库的数据同步方法和装置。
背景技术
分布式关系型数据库(DataBase,简称:DB),因其采用廉价的设备堆叠成具备高可用性和高扩展性的计算集群得到广泛应用。
数据同步是指将一个数据库节点的数据迁移到另一个数据库节点,分布式关系型数据库在数据迁移的过程中,需要一定的时间,在数据迁移过程中,业务面可能会对原数据库节点进行增、删、改等操作,有可能导致数据不一致,因此,为了保证数据完全同步,现有技术中,首先将原数据库节点的数据文件拷贝到新数据库节点中,依照原数据库节点的日志文件,对新数据库节点重做数据同步开始时间点后的所有事务操作,从而,保证新数据库节点中数据与原数据库节点中保持一致。
然而,现有技术中,当数据同步时间过长,事务提交频繁的时候,记录事务操作的日志文件会呈现批量增长,而数据库节点的日志文件的存储空间有限,一般采取“环形存储”的方式,日志文件大小超过存储空间大小时,会覆盖最早的日志文件,导致数据丢失。
发明内容
本发明提供一种分布式关系型数据库的数据同步方法和装置,以保证数据的完整性。
本发明第一方面提供一种分布式关系型数据库的数据同步方法,包括:
接收客户端发送的事务操作请求,确定所述事务操作请求所要操作的数据所在的数据分片是否为迁移状态;
若所述数据分片为迁移状态,将所述数据分片地址重定向到所述数据分片的缓存地址,所述数据分片在缓存中被分为N个小分区,所述N个小分区被标识为已迁移的小分区和未迁移的小分区,所述N为大于等于2的整数;
确定所述事务操作请求所要操作的数据是否为已迁移的小分区对应的数据,若为已迁移的小分区对应的数据,则在重做日志中记录所述事务操作的记录。
进一步地,当缓存中的数据分片的所有小分区均已迁移之后,所述方法还包括:
将所述重做日志中同一地址中的所有事务操作的记录中除最后一次的事务操作的记录之外的其他事务操作的记录删除。
进一步地,所述方法还包括:
通过游标位置标识已迁移的小分区和未迁移的小分区,所述游标位置之前的小分区为已迁移的小分区,所述游标位置指向的小分区和所述游标位置之后的小分区为未迁移的小分区。
进一步地,所述方法还包括:
当小分区开始迁移之后,在数据分片状态信息表中将所述小分区对应的状态信息标识为已迁移。
进一步地,所述接收客户端发送的事务操作请求,确定所述事务操作请求所要操作的数据所在的数据分片是否为迁移状态之前,还包括:
将所述数据分片复制到缓存中,在所述缓存中将所述数据分片均匀切分为所述N个小分区。
本发明第二方面提供一种分布式关系型数据库的数据同步装置,包括:
接收模块,用于接收客户端发送的事务操作请求,确定所述事务操作请求所要操作的数据所在的数据分片是否为迁移状态;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国联合网络通信集团有限公司,未经中国联合网络通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610151216.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:版图的IP模块合成方法
- 下一篇:一种WAP网页开发方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置