[发明专利]一种数据抽取方法、系统及终端设备在审
| 申请号: | 201811224304.0 | 申请日: | 2018-10-19 |
| 公开(公告)号: | CN109508355A | 公开(公告)日: | 2019-03-22 |
| 发明(设计)人: | 张纯纯;沈世杰;祝建军;张亚茹 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06F16/25 | 分类号: | G06F16/25 |
| 代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 官建红 |
| 地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 脚本文件 数据抽取 数据源表 目标表 数据库 终端设备 计算机技术领域 变化内容 结构生成 人工干预 表结构 准确率 比对 | ||
1.一种数据抽取方法,其特征在于,包括:
比对抽数数据库的当前版本的数据源表结构与所述抽数数据库的上一版本的数据源表结构,判断所述抽数数据库的数据源表结构是否发生变化;
若所述抽数数据库的数据源表结构发生变化,则根据变化内容生成修改目标表结构的脚本文件;
根据所述修改目标表结构的脚本文件修改目标表结构,并根据修改后的目标表结构生成抽数脚本文件;
根据所述抽数脚本文件对所述抽数数据库进行数据抽取。
2.根据权利要求1所述的方法,其特征在于,所述比对抽数数据库的当前版本的数据源表结构与所述抽数数据库的上一版本的数据源表结构,判断所述抽数数据库的数据源表结构是否发生变化,包括:
通过结构化查询语言查询抽数数据库的元数据,根据所述元数据获取当前版本的数据源表结构;
获取所述抽数数据库保存在XML文件中的上一版本的数据源表结构;
判断所述当前版本的数据源表结构与所述上一版本的数据源表结构是否存在变化字段,所述变化字段包括增加字段、删减字段以及修改字段;
若所述当前版本的数据源表结构与所述上一版本的数据源表结构存在变化字段,则所述抽数数据库的数据源表结构发生变化。
3.根据权利要求1所述的方法,其特征在于,所述根据所述抽数脚本文件对所述抽数数据库进行数据抽取,包括:
建立抽数任务,所述抽数任务包括抽数任务的执行方式,所述执行方式包括全量抽取和增量抽取;
若所述执行方式为全量抽取,则运行抽数脚本文件抽取所述抽数数据库的全部数据;
若所述执行方式为增量抽取,则根据所述抽数数据库的元数据的增量时间戳确定抽取的数据内容,根据所述抽取的数据内容运行所述抽数脚本文件。
4.根据权利要求3所述的方法,其特征在于,在所述若所述执行方式为增量抽取,则根据所述抽数数据库的元数据的增量时间戳确定抽取的数据内容之前,还包括:
判断所述抽数数据库的当前版本的数据表结构是否存在增量时间戳;
若所述抽数数据库的当前版本的数据表结构不存在增量时间戳,则建立唯一索引字段,通过所述唯一索引字段确定抽取的数据内容。
5.根据权利要求1所述的方法,其特征在于,在比对抽数数据库的当前版本的数据源表结构与所述抽数数据库的上一版本的数据源表结构,判断所述抽数数据库的数据源表结构是否发生变化之前,还包括:
识别是否存在保存上一版本的数据源表结构的XML文件;
若不存在所述XML文件,则通过数据库连接接口连接数据库,通过所述数据库查找并获取对应的数据源表结构;
创建XML文件,并将所述数据源表结构保存在所述XML文件中。
6.一种数据抽取系统,其特征在于,包括:
判断模块,用于比对抽数数据库的当前版本的数据源表结构与所述抽数数据库的上一版本的数据源表结构,判断所述抽数数据库的数据源表结构是否发生变化;
生成模块,用于若所述抽数数据库的数据源表结构发生变化,则根据变化内容生成修改目标表结构的脚本文件;
修改模块,用于根据所述修改目标表结构的脚本文件修改目标表结构,并根据修改后的目标表结构生成抽数脚本文件;
抽取模块,用于根据所述抽数脚本文件对所述抽数数据库进行数据抽取。
7.根据权利要求6所述的数据抽取系统,其特征在于,所述判断模块包括:
结构查询单元,用于通过结构化查询语言查询抽数数据库的元数据,根据所述元数据获取当前版本的数据源表结构;
获取单元,用于获取所述抽数数据库保存在XML文件中的上一版本的数据源表结构;
判断单元,用于判断所述当前版本的数据源表结构与所述上一版本的数据源表结构是否存在变化字段,所述变化字段包括增加字段、删减字段以及修改字段;若所述当前版本的数据源表结构与所述上一版本的数据源表结构存在变化字段,则所述抽数数据库的数据源表结构发生变化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811224304.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种并行处理系统
- 下一篇:数据异常预警方法、装置、计算机设备及存储介质





