[发明专利]一种异构数据库中数据的同步方法在审
申请号: | 202010711802.9 | 申请日: | 2020-07-22 |
公开(公告)号: | CN111858597A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 方小牛;张玄;段欢欢;陈慧清 | 申请(专利权)人: | 安徽华典大数据科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/25;G06F16/27;G06F11/14 |
代理公司: | 北京同辉知识产权代理事务所(普通合伙) 11357 | 代理人: | 王依 |
地址: | 230088 安徽省合肥市高新区望江西路508*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据库 数据 同步 方法 | ||
本发明公开了一种异构数据库中数据的同步方法,属于数据库技术领域,包括第一数据同步机制和第二数据同步机制,第一数据同步机制将原数据中预定范围的数据同步至目标数据库的过程中,检测第一数据同步机制的状态;第二数据同步机制用于第一数据同步机制的状态异常时,启用第二数据同步机制,以将源数据库中预定范围的数据同步至目标数据库;启用第二数据同步机制,包括:接收分布式资源管理平台推送的数据同步任务;数据同步任务包括数据恢复时间点及源数据库中的待同步数据库表的标识,检测第二数据同步机制的状态,解决了现有技术中数据同步机制因异常错误信息无法记录的问题的问题。
技术领域
本发明涉及数据库技术领域,更具体地说,涉及一种异构数据库中数据的同步方法。
背景技术
对于异构数据库,目前现有的数据同步手段可通过DRC(Data ReplicationCenter,数据同步中心)监听源数据库的binlog日志(这里的源数据库是基于mysql数据库技术),然后通过消息将binlog日志发送到订阅端,订阅端拿到消息后生成相应的ETL(Extract Transform Loading,数据抽取转化装载规则)任务,然后基于ETL任务将数据同步到目标数据库中。
然而,一旦DRC异常(比如宕机)暂时无法自动恢复时,源数据库的增量数据则无法同步到目标数据库。由于增量数据未及时同步到目标数据库,往往也就丧失了其时效性,进而还可能影响基于该目标数据库的系统应用(比如系统无法及时向用户推送最新资讯)。
发明内容
针对现有技术的不足,本发明的目的在于提供一种异构数据库中数据的同步方法,解决了现有技术中数据同步机制因异常错误信息无法记录的问题的问题。
本发明的目的可以通过以下技术方案实现:
一种异构数据库的数据同步方法,包括以下步骤:
包括第一数据同步机制和第二数据同步机制,
第一数据同步机制将原数据中预定范围的数据同步至目标数据库的过程中,检测所述第一数据同步机制的状态;
第二数据同步机制用于第一数据同步机制的状态异常时,启用第二数据同步机制,以将所述源数据库中预定范围的数据同步至所述目标数据库;
所述启用第二数据同步机制,包括:
接收分布式资源管理平台推送的数据同步任务;所述数据同步任务包括数据恢复时间点及所述源数据库中的待同步数据库表的标识,检测所述第二数据同步机制的状态,检测第二数据同步机制的状态异常时,第二数据同步机制重新定时读取待同步数据库表中数据,并将第二数据同步机制的状态对第二数据同步机制作出标识;
根据所述待同步数据库表的标识,从该待同步数据库表中定时读取,其创建时间点晚于所述数据恢复时间点的所有数据放入临时列表,并将所述临时列表中的数据插入所述目标数据库中对应的数据库表;
所述定时读取接收到由调度中心定时发送的驱动消息时触发,每次触发读取范围为创建时间晚于上一次读取的截止时间的所有数据。
作为本发明的一种优选方案,所述定时读取检测第二数据同步机制的状态异常时,定时读取将已读取的数据存储在新建临时列表。
作为本发明的一种优选方案,所述新建临时列表的结构与异构数据库的列表相同。
作为本发明的一种优选方案,所述定时读取第二次检测第二数据同步机制的状态正常时,第二数据同步机制自动清空所述新建临时列表。
作为本发明的一种优选方案,在第二数据同步机制自动清空所述新建临时列表步骤前,第二数据同步机制将所述新建临时列表里全部内容转录至错误信息列表。
作为本发明的一种优选方案,所述错误信息列表由第二数据同步机制创建,所述错误信息列表的结构与异构数据库的列表相同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽华典大数据科技有限公司,未经安徽华典大数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010711802.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:检测缝隙的方法、装置、设备及介质
- 下一篇:分布式数据库系统、数据库访问方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置