[发明专利]一种数据迁移的方法以及相关装置有效
| 申请号: | 201911275478.4 | 申请日: | 2019-12-12 |
| 公开(公告)号: | CN111078667B | 公开(公告)日: | 2023-03-10 |
| 发明(设计)人: | 刘翔;杨林;彭振翼;邓建坤 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
| 主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/11;G06F11/14 |
| 代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 聂秀娜 |
| 地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据 迁移 方法 以及 相关 装置 | ||
本申请公开了一种数据迁移的处理方法以及相关装置,通过获取需要进行数据迁移的第一从节点的文件列表;然后将该第一从节点的文件列表备份到备份系统;当迁移进程触发时为待迁移的数据创建第二从节点;并从该备份系统中下载该第一从节点的文件列表;进而恢复出该待迁移的数据并存储到该第二从节点。从而实现了主从节点在不停止服务下的数据迁移,由于迁移的数据经由备份系统处理,不会对主节点或上层节点造成侵入,进而避免了数据丢失的风险,提高了数据库运行的稳定性。
技术领域
本申请涉及计算机技术领域,尤其涉及一种数据迁移的方法以及相关装置。
背景技术
随着互联网网站的兴起,传统的关系数据库在应付超大规模和高并发的社会性网络服务(social networking serivces,SNS)类型的web 2.0纯动态网站存在很多难以克服的问题,而非关系型的数据库则由于其本身的特点得到了非常迅速的发展,非关系数据库可以解决大规模数据集合带来的挑战,但随着数据量的增加数据库节点的故障率也随之升高,如何应对故障的发生成为难题。
一般,可以停止数据库服务并选择其中的一个从库,作为数据源;然后通过拷贝数据库源文件到新增节点;在拷贝完成后,将源节点与新增节点都启动;进而重新加入集群,源节点和新增节点都继续主从同步过程,以实现数据的迁移。
但是,在大规模数据的读写过程中,停止数据库进行数据迁移一方面影响数据库的服务效率;另一方面停止数据库的进程可能会导致副本集中只有主节点可提供服务,此时主节点为单点,存在严重的数据丢失风险,影响数据库运行的稳定性。
发明内容
有鉴于此,本申请提供一种数据迁移的方法,可以减少数据迁移过程中对于数据库运行状态的影响,提高数据库运行的稳定性。
本申请第一方面提供一种数据迁移的方法,可以应用于包含数据库或需要进行数据读写的系统或程序中,具体包括:获取需要进行数据迁移的第一从节点的文件列表,所述第一从节点部署在副本集中的主节点之下,所述文件列表包含所述第一从节点中待迁移的数据的快照;
将所述第一从节点的文件列表备份到备份系统;
为待迁移的数据创建第二从节点,所述第二从节点部署于所述主节点之下;
从所述备份系统中下载所述第一从节点的文件列表;
根据所述第一从节点中待迁移的数据的快照恢复出所述待迁移的数据;
将所述待迁移的数据存储到所述第二从节点。
可选的,在本申请一些可能的实现方式中,所述获取需要进行数据迁移的第一从节点的文件列表,包括:
获取所述主节点和所述第一从节点之间的第一主从延迟;
若所述第一主从延迟小于第一阈值,则获取需要进行数据迁移的第一从节点的文件列表。
可选的,在本申请一些可能的实现方式中,所述将所述第一从节点的文件列表备份到备份系统,包括:
解析所述文件列表的进程日志,以获取文件状态;
若所述文件状态满足预设条件,则将所述第一从节点的文件列表备份到备份系统。
可选的,在本申请一些可能的实现方式中,所述将所述第一从节点的文件列表备份到备份系统,包括:
遍历所述第一从节点的续约状态;
根据所述续约状态进行备份,以将所述第一从节点的文件列表备份到备份系统。
可选的,在本申请一些可能的实现方式中,所述为待迁移的数据创建第二从节点,包括:
为所述副本集设置全局锁,以获取所述副本集的一致性状态;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911275478.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





