[发明专利]关系型数据库到Hadoop数据库的数据同步方法和装置在审
申请号: | 201910341127.2 | 申请日: | 2019-04-25 |
公开(公告)号: | CN110209732A | 公开(公告)日: | 2019-09-06 |
发明(设计)人: | 刘浩 | 申请(专利权)人: | 深圳壹账通智能科技有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/28 |
代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 黄耀威 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 关系型数据库 可变参数 配置数据 数据同步 变参数 数据库 方法和装置 计算机设备 存储介质 方案执行 配置操作 同步效率 预先存储 同步的 配置 申请 工作量 | ||
1.一种关系型数据库到Hadoop数据库的数据同步方法,其特征在于,所述方法包括:
根据针对待同步的业务方预先存储的不变参数及其配置数据,识别出所述业务方的关系型数据库的每一张表中的不变参数,并对识别出的不变参数进行配置;
针对所述关系型数据库的每一张表中的可变参数,提供相应的配置数据修改界面,以供用户对所述可变参数进行配置;并根据对所述配置数据修改界面中所述可变参数的配置操作,确定所述可变参数的配置数据;
确定所述业务方的关系型数据库到Hadoop数据库的数据同步等级;
根据所述业务方的关系型数据库的所述不变参数的配置数据、所述可变参数的配置数据和所述数据同步等级,确定对应的同步方案,并根据所述同步方案执行关系型数据库到Hadoop数据库的数据同步。
2.根据权利要求1所述的方法,其特征在于,还包括:
将所述业务方的关系型数据库的所述不变参数的配置数据和所述数据同步等级存储至预设中间库中,以供下一次数据同步过程中获取所述不变参数的配置数据和数据同步等级。
3.根据权利要求1所述的方法,其特征在于,所述配置数据修改界面中设置有所述可变参数的默认配置参数;对应的,所述提供相应的配置数据修改界面,以供用户对所述可变参数进行配置,包括:提供相应的配置数据修改界面,以供用户对所述可变参数的默配置数据进行修改。
4.根据权利要求1所述的方法,其特征在于,所述确定所述业务方的关系型数据库到Hadoop数据库的数据同步等级,包括:
根据所述业务方的类型、所述业务方的业务场景和同步方式中的至少一项,确定所述数据同步等级。
5.根据权利要求1所述的方法,其特征在于,所述根据所述业务方的关系型数据库的所述不变参数的配置数据、所述可变参数的配置数据和所述数据同步等级,确定对应的同步方案,并根据所述同步方案执行关系型数据库到Hadoop数据库的数据同步包括:
根据所述业务方的关系型数据库的元数据信息、所述Hadoop数据库的预设标准表结构、所述业务方的关系型数据库与所述Hadoop数据库的字段映射关系、所述不变参数的配置数据、所述可变参数的配置数据和所述数据同步等级,采用数据库复制同步数据软件确定对应的同步方案,并根据所述同步方案执行关系型数据库到Hadoop数据库的数据同步。
6.根据权利要求1~5任一项所述的方法,其特征在于,所述不变参数包括元数据表名、表字段和字段类型中的至少一项。
7.根据权利要求1~5任一项所述的方法,其特征在于,所述可变参数包括数据有效期、同步范围、主键、自增字段和同步方式中的至少一项。
8.一种关系型数据库到Hadoop数据库的数据同步装置,其特征在于,所述装置包括:
第一配置模块,用于根据针对待同步的业务方预先存储的不变参数及其配置数据,识别出所述业务方的关系型数据库的每一张表中的不变参数,并对识别出的不变参数进行配置;
第二配置模块,用于针对所述关系型数据库的每一张表中的可变参数,提供相应的配置数据修改界面,以供用户对所述可变参数进行配置;并根据对所述配置数据修改界面中所述可变参数的配置操作,确定所述可变参数的配置数据;
等级确定模块,用于确定所述业务方的关系型数据库到Hadoop数据库的数据同步等级;
数据同步模块,用于根据所述业务方的关系型数据库的所述不变参数的配置数据、所述可变参数的配置数据和所述数据同步等级,确定对应的同步方案,并根据所述同步方案执行关系型数据库到Hadoop数据库的数据同步。
9.一种计算机设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,使得所述处理器执行如权利要求1至7中任一项权利要求所述数据同步方法的步骤。
10.一种存储有计算机可读指令的存储介质,其特征在于,所述计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行如权利要求1至7中任一项权利要求所述数据同步方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司,未经深圳壹账通智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910341127.2/1.html,转载请声明来源钻瓜专利网。