[发明专利]数据迁移方法、装置、设备及计算机可读存储介质在审
申请号: | 201910461350.0 | 申请日: | 2019-05-30 |
公开(公告)号: | CN110162517A | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 周伟;曾岩 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/22;G06F16/27 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
地址: | 518052 广东省深圳市南山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种数据迁移方法、装置、设备及计算机可读存储介质。该方法包括:循环读取预设配置文件,当从所述预设配置文件中读取到迁入消息时,获取迁出集群服务器;调用第一预设框架远程登录至迁出集群服务器,以在迁出集群服务器上执行查询迁入消息中库表的建表语句,并将建表语句输出至迁出集群服务器的预先指定文件下的指定目录中;调用第二预设框架对迁出集群服务器上的建表语句进行同步,并对同步后的建表语句进行表格式化解析,得到迁移信息和可执行的建表语句;执行可执行的建表语句以创建对应的hive表,并基于迁移信息将对应的数据文件迁移至hive表中。本发明能解决现有的数据迁移方法迁移效率较低、无法按需批量迁移的问题。 | ||
搜索关键词: | 集群服务器 语句 预设 迁移 数据迁移 计算机可读存储介质 配置文件 可执行 调用 格式化 读取 数据文件 循环读取 预先指定 远程登录 库表 解析 查询 输出 创建 | ||
【主权项】:
1.一种数据迁移方法,其特征在于,所述数据迁移方法包括:循环读取预设配置文件,当从所述预设配置文件中读取到迁入消息时,获取所述迁入消息中的迁出集群服务器;调用第一预设框架远程登录至所述迁出集群服务器,以在所述迁出集群服务器上执行查询所述迁入消息中库表的建表语句,并将所述建表语句输出至所述迁出集群服务器的预先指定文件下的指定目录中;调用第二预设框架对所述迁出集群服务器上的建表语句进行同步,并对同步后的建表语句进行表格式化解析,以得到迁移信息和可执行的建表语句;执行所述可执行的建表语句,以创建对应的hive表,并基于所述迁移信息将对应的数据文件迁移至所述hive表中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910461350.0/,转载请声明来源钻瓜专利网。