[发明专利]基于SQL的数据抽取的方法及设备在审
申请号: | 202110033160.6 | 申请日: | 2021-01-11 |
公开(公告)号: | CN112765248A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 马佩;任养超;徐岩 | 申请(专利权)人: | 上海上讯信息技术股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/22;G06F16/242 |
代理公司: | 上海百一领御专利代理事务所(普通合伙) 31243 | 代理人: | 王奎宇;甘章乖 |
地址: | 201203 上海市浦东新区自*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 sql 数据 抽取 方法 设备 | ||
本申请的目的是提供一种基于SQL的数据抽取的方法及设备,本申请通过读取SQL查询语句,得到源数据库中的源数据,将所述源数据存放在临时表中;根据数据的脱敏算法对所述临时表中数据进行脱敏,得到脱敏后的数据;将所述脱敏后的数据按照表映射关系存放至目标数据表中。通过SQL语句限定数据源从而实现抽取效果,灵活限制数据来源,实现多表的复杂结合,并简化了配置过程。
技术领域
本申请涉及计算机领域,尤其涉及一种基于SQL的数据抽取的方法及设备。
背景技术
目前,大数据应用广泛的同时,个人信息保护受到了前所未有的挑战。人们在享受数据分析给自己生活带来的贴切服务的同时,也深受个人信息泄露甚至被骚扰的困扰,因此对于数据的脱敏使用就显得尤为重要。普通的抽取或者脱敏操作,都是对源数据库的整张表进行操作,在数据源的选取上缺乏灵活性,如果想要限制抽取的字段、数据的排序方式或者想要将多张表的内容抽取到一张表,就需要增加专门的配置,操作起来比较繁琐。
发明内容
本申请的一个目的是提供一种基于SQL的数据抽取的方法及设备,解决现有技术中在数据脱敏及抽取过程中对数据源的选择上不够灵活的问题。
根据本申请的一个方面,提供了一种基于SQL的数据抽取的方法,该方法包括:
读取SQL查询语句,得到源数据库中的源数据,将所述源数据存放在临时表中;
根据数据的脱敏算法对所述临时表中数据进行脱敏,得到脱敏后的数据;
将所述脱敏后的数据按照表映射关系存放至目标数据表中。
进一步地,读取SQL查询语句之前,包括:
选择源数据库连接,进行编写对应的SQL查询语句;
配置所述临时表中数据的脱敏算法以及配置临时表与目标数据表之间的表映射关系。
进一步地,进行编写对应的SQL查询语句,包括:
根据选择的源数据库连接确定待抽取的数据表、字段、数据内容以及排序方式;
根据所述待抽取的数据表、字段、数据内容以及排序方式编写对应的SQL查询语句。
进一步地,配置所述临时表中数据的脱敏算法以及配置临时表与目标数据表之间的表映射关系,包括:
根据所述临时表中数据包含的各字段配置该数据对应的脱敏算法;
选择目标数据库的用户以及目标数据表,根据所述用户以及目标数据表建立与所述临时表之间的表映射关系。
进一步地,读取SQL查询语句,得到源数据库中的源数据,将所述源数据存放在临时表中,包括:
读取每一源数据库对应的多个SQL查询语句,获取每一SQL查询语句的查询结果,将每一查询结果存储在对应的临时表中。
根据本申请又一个方面,还提供了一种基于SQL的数据抽取的设备,该设备包括:
一个或多个处理器;以及
存储有计算机可读指令的存储器,所述计算机可读指令在被执行时使所述处理器执行如前述所述方法的操作。
根据本申请再一个方面,还提供了一种计算机可读介质,其上存储有计算机可读指令,所述计算机可读指令可被处理器执行以实现如前述所述的方法。
与现有技术相比,本申请通过读取SQL查询语句,得到源数据库中的源数据,将所述源数据存放在临时表中;根据数据的脱敏算法对所述临时表中数据进行脱敏,得到脱敏后的数据;将所述脱敏后的数据按照表映射关系存放至目标数据表中。通过SQL语句限定数据源从而实现抽取效果,灵活限制数据来源,实现多表的复杂结合,并简化了配置过程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海上讯信息技术股份有限公司,未经上海上讯信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110033160.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:车位感应器、车位感应拍摄系统
- 下一篇:一种多星韭的花期调控方法和应用
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置