[发明专利]一种大数据的智能采集方法及系统在审
申请号: | 201810654781.4 | 申请日: | 2018-06-22 |
公开(公告)号: | CN108829867A | 公开(公告)日: | 2018-11-16 |
发明(设计)人: | 唐国伟 | 申请(专利权)人: | 深圳云之家网络有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518035 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 第一数据 配置管理 智能采集 大数据 目标数据库 源数据库 字段信息 表信息 关系维护 顺序组装 信息维护 自动识别 字段数据 表数据 获取源 字段 感知 数据库 采集 维护 | ||
1.一种大数据的智能采集方法,其特征在于,包括:
将源数据库与目标数据库的对应关系维护至配置管理;
获取源数据库中的第一数据,所述第一数据包括表信息和字段信息;
将所述第一数据维护至所述配置管理;
根据所述配置管理将所述源数据库中的第二数据导入至所述目标数据库,所述第二数据为与所述第一数据对应的表数据和字段数据。
2.根据权利要求1所述的方法,其特征在于,在所述根据所述配置管理和所述对应关系将所述源数据库中的第二数据导入至所述目标数据库之后,所述方法还包括:
若确定所述源数据库中的第一数据存在更新,则获取更新后的第一数据,所述更新后的第一数据包括更新后的表信息和/或更新后的字段信息;
根据所述更新后的第一数据更新所述配置管理,得到更新后的配置管理;
根据所述更新后的配置管理将所述源数据库中的第三数据导入至所述目标数据库,所述第三数据为与所述更新后的第一数据对应的表数据和字段数据。
3.根据权利要求2所述的方法,其特征在于,所述获取源数据库中的第一数据包括:
全量采集所述源数据库中的第一数据。
4.根据权利要求3所述的方法,其特征在于,所述全量采集所述源数据库中的第一数据包括:
分页批量采集所述源数据库中的第一数据。
5.根据权利要求1或4所述的方法,其特征在于,所述获取源数据库中的第一数据包括:
按照预设时长间隔采集所述源数据库中的第一数据。
6.根据权利要求5所述的方法,其特征在于,所述按照预设时长间隔采集所述源数据库中的第一数据包括:
定时采集所述源数据库中的第一数据;
或,
实时采集所述源数据库中的第一数据。
7.根据权利要求1至4任一项所述的方法,其特征在于,在所述获取源数据库中的第一数据之前,所述方法还包括:
为所述源数据库支持的字段类型与所述目标数据库支持的字段类型设置映射关系。
8.一种大数据的智能采集系统,其特征在于,包括:
配置单元,用于配置源数据库与目标数据库的对应关系;
第一获取单元,用于获取源数据库中的第一数据,所述第一数据包括表信息和字段信息;
维护单元,用于将所述第一数据维护至配置管理;
第一导入单元,用于根据所述配置管理和所述对应关系将所述源数据库中的第二数据导入至所述目标数据库,所述第二数据为与所述第一数据对应的表数据和字段数据。
9.一种计算机装置,其特征在于,包括:
处理器、存储器、输入输出设备以及总线;
所述处理器、存储器、输入输出设备分别与所述总线相连;
所述处理器用于执行如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云之家网络有限公司,未经深圳云之家网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810654781.4/1.html,转载请声明来源钻瓜专利网。