[发明专利]数据迁移方法、装置、设备及存储介质有效
| 申请号: | 202010235307.5 | 申请日: | 2020-03-30 |
| 公开(公告)号: | CN111459411B | 公开(公告)日: | 2023-07-21 |
| 发明(设计)人: | 陈越晨 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F9/48 |
| 代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 孙翠贤;丁芸 |
| 地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 迁移 方法 装置 设备 存储 介质 | ||
本发明实施例提供一种数据迁移方法、装置、设备及存储介质。其中,一种数据迁移方法,应用于电子设备,电子设备与实现云计算任务的集群通信连接,获取云计算任务;其中,云计算任务中记录有第一路径和第二路径,第一路径为关于云计算任务的输入数据的访问路径,第二路径为关于云计算任务的执行节点的访问路径;对云计算任务进行解析,得到第一路径和第二路径;基于第一路径和第二路径,判断输入数据所属的第一集群和执行节点所属的第二集群,是否为同一集群;当判断结果为否时,将位于第一路径下的输入数据同步到第二路径下,并将云计算任务中的第一路径修改为第二路径。本方案可以降低跨集群的数据迁移的成本。
技术领域
本发明涉及数据迁移技术领域,特别是涉及一种数据迁移方法、装置、设备及存储介质。
背景技术
随着互联网技术的发展,云计算任务往往存在海量数据和高并发等等特点。对此,为了应对海量数据和高并发,可以由不同的集群分别存储云计算任务的的输入数据,以及执行云计算任务。
相关技术中,为了在应对海量数据和高并发的同时,兼顾对云计算任务的执行速度的提高,管理人员可以在云计算任务执行前,人工实现云计算任务的输入数据的在不同集群之间的迁移:将云计算任务的输入数据同步到用于执行该云计算任务的执行节点所属的集群上,并将云计算任务中记录的该云计算任务的输入数据的存储位置更新为用于执行该云计算任务的执行节点所属的集群,从而完成跨集群的数据迁移。以此为基础,在执行云计算任务时,执行该任务的集群可以直接从该集群自身获取该云计算任务的输入数据,减少跨集群获取数据的时延造成的云计算任务的执行速度降低的问题,从而提高云计算任务的执行速度。
但是,云计算任务往往是海量的。此时,通过上述人工实现云计算任务的数据迁移时,需要大量的管理人员进行大量的数据迁移工作,容易造成数据迁移成本过高的问题。
发明内容
本发明实施例的目的在于提供一种数据迁移方法、装置、设备及存储介质,以实现降低跨集群迁移数据的成本的效果。具体技术方案如下:
第一方面,本发明实施例提供了一种数据迁移方法,应用于电子设备,所述电子设备与实现云计算任务的集群通信连接,该方法包括:
获取云计算任务;其中,所述云计算任务中记录有第一路径和第二路径,所述第一路径为关于所述云计算任务的输入数据的访问路径,所述第二路径为关于所述云计算任务的执行节点的访问路径;
对所述云计算任务进行解析,得到所述第一路径和所述第二路径;
基于所述第一路径和所述第二路径,判断所述输入数据所属的第一集群和所述执行节点所属的第二集群,是否为同一集群;
当判断结果为否时,将位于第一路径下的所述输入数据同步到所述第二路径下,并将所述云计算任务中的所述第一路径修改为所述第二路径。
可选的,所述云计算任务为通过预定任务编写规则所编写得到的,所述预定任务编写规则为能够将所述第一路径和所述第二路径写入至所述云计算任务的规则。
可选的,所述云计算任务中还记录有第三路径,所述第三路径为关于所述云计算任务的计算结果的输出节点的访问路径;
所述方法还包括:
在所述云计算任务的计算结果生成之前,从所述云计算任务中解析得到所述第三路径;
基于所述第三路径和所述第二路径,判断所述第二集群和所述输出节点所属的第三集群,是否为同一集群;
如果判断结果为否,将所述云计算任务中的所述第三路径修改为所述第二路径;
在所述云计算任务的计算结果生成后,将位于所述第二路径下的所述计算结果同步至所述第三路径下。
可选的,所述云计算任务中还记录有目标时刻,所述目标时刻为所述云计算任务的执行时刻;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010235307.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





