[发明专利]一种基于大数据的数据同步方法在审
| 申请号: | 202011300354.X | 申请日: | 2020-11-18 |
| 公开(公告)号: | CN112328697A | 公开(公告)日: | 2021-02-05 |
| 发明(设计)人: | 樊馨 | 申请(专利权)人: | 樊馨 |
| 主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23;G06F16/22;G06F3/06;H04L29/08 |
| 代理公司: | 北京化育知识产权代理有限公司 11833 | 代理人: | 尹均利 |
| 地址: | 518000 广东省深*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 数据 同步 方法 | ||
1.一种基于大数据的数据同步方法,其特征在于,包括:
云服务器获取源端和目的端的数据库配置信息,所述源端和目的端均包含多个实例;
所述云服务器对所述源端和所述目的端的所有实例中的数据类型进行判断:
若所述数据类型为同构数据,则所述云服务器建立所述源端中多个实例与所述目的端中多个实例的哈希映射,并基于所述哈希映射,通过SQL同步命令完成从所述源端实例向所述目的端实例进行同步的操作,其中,所述源端实例与所述目的端实例按照所述哈希映射的关系进行关联,所述SQL同步命令用于对所述源端实例中的数据及所述目的端实例中的数据直接进行点对点传输;
若所述数据类型为异构数据,则所述云服务器通过虚拟化策略将所述异构数据虚拟化,生成所述源端不同实例的虚拟同构数据,并在所述源端不同实例中建立不同的虚拟表,将所述源端不同实例中虚拟同构数据对应添加进所述不同的虚拟表中;所述云服务器建立所述源端中多个实例与所述目的端中多个实例的哈希映射;所述云服务器将基于所述SQL同步命令,将所述源端不同实例的虚拟表按照所述哈希映射的关联关系同步至对应的所述目的端不同实例中,以使所述目的端提取所述虚拟表中的虚拟同构数据,并分时将所述虚拟同构数据逆变换为异构数据。
2.根据权利要求1所述的方法,其特征在于,所述云服务器通过虚拟化策略将所述异构数据虚拟化,生成所述源端不同实例的虚拟同构数据,包括:
所述云服务器获取所述异构数据的数据类型;
基于所述异构数据不同的数据类型,设置不同标识位,所述标识位与所述异构数据的数据类型一一对应;
构建统一格式的虚拟同构数据,将所述异构数据作为所述虚拟同构数据的净负荷数据,封装进所述虚拟同构数据中,并将所述标识位作为报头,写入所述虚拟同构数据的报文中,其中,所述虚拟同构数据包括报头、净负荷数据及结束符;
若所述异构数据大小大于所述虚拟同构数据大小,将所述异构数据进行拆分,以使所述异构数据拆分为多个子异构数据,将所述每一个子异构数据作为每一个所述虚拟同构数据的净负荷数据,写入所述虚拟同构数据中,其中,所述子异构数据数据量小于等于所述虚拟同构数据量,且所述子异构数据具备拆分标识。
3.根据权利要求1所述的方法,其特征在于,所述云服务器通过虚拟化策略将所述异构数据虚拟化,生成所述源端不同实例的虚拟同构数据,包括:
通过存储虚拟化管理器SVM构建多个不同大小的虚拟卷,所述不同大小的虚拟卷为同构数据;
将所述异构数据依次封装至所述虚拟卷中,并建立索引指针,其中,所述索引指针用于将所述虚拟卷与所述异构数据进行关联,所述虚拟同构数据为所述虚拟卷与所述索引指针的集合。
4.根据权利要求2或3所述的方法,其特征在于,所述目的端分时将所述虚拟同构数据逆变换为异构数据,包括:
所述目的端对自身不同实例的资源占用率进行监控,当所述资源占用率低于预设阈值时,将所述虚拟同构数据依次进行逆封装,提取其中的异构数据,并进行校验,
或,
若校验失败,则通过所述索引指针在所述源端对应的实例中定向获取原始的所述异构数据;
当所述资源占用率高于所述预设阈值时,暂停所述逆变换操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于樊馨,未经樊馨许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011300354.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种玉米糖浆加工用自动灌装机构
- 下一篇:一种养生面条的制备方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





