[发明专利]拉链表更新方法、装置、服务器及计算机可读存储介质在审
申请号: | 201910694990.6 | 申请日: | 2019-07-30 |
公开(公告)号: | CN110442578A | 公开(公告)日: | 2019-11-12 |
发明(设计)人: | 董晨辉;黄海伦 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/24 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 刘静 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 开链 临时表 拉链 区数据 业务表 计算机可读存储介质 处理业务 表更新 表结构 服务器 数据存储技术 对比数据 全量抽取 有效减少 磁盘io 链区 创建 数据库 更新 申请 | ||
本申请提出一种拉链表更新方法、装置、服务器及计算机可读存储介质,涉及数据存储技术领域。该方法包括:若数据库中的待处理业务表是采用全量抽取的方式获得,则根据待处理业务表的表结构和数据,创建业务表临时表,根据拉链表的表结构和开链区的数据,创建开链区数据临时表,根据业务表临时表和开链区数据临时表,确定待封链数据和待开链数据,根据待封链数据和待开链数据对拉链表进行更新。由于在根据业务表临时表和开链区数据临时表确定待封链数据和待开链数据时,仅需使用开链区中的数据,不必使用封链区中的数据,有效减少了对比数据量,从而极大减少了磁盘io操作。
技术领域
本申请涉及数据存储技术领域,具体而言,涉及一种拉链表更新方法、装置、服务器及计算机可读存储介质。
背景技术
随着信息技术的快速发展,数据呈爆发式的增长,需要对大量的数据进行存储。在数据库中表的数据量较大、数据有更新操作、需要查看某一个时间点或者时间段的历史快照信息、数据变化的比例和频率不大(例如,1000 万条数据,每天变化的只有10万)等场景中,若增量保存数据,则无法保留历史数据,若全量保存数据,则会重复存储很多不变的数据,造成存储空间的大量浪费。拉链表的产生,既能满足对历史数据的查看需求,又能在最大程度上节省存储空间。
目前的拉链表实现方案中,对于存在时间戳的表,可以根据时间戳增量抽取原业务表中的数据来更新拉链表;对于不带时间戳的表,需全量抽取原业务表中的数据与拉链表中的全部数据进行关联对比,根据关联对比结果进行拉链表的更新。由于每次都要与全部的拉链表数据进行关联对比,故会产生大量的磁盘io操作,对性能有大量消耗;且在更新拉链表时,是采用全盘覆盖的方式,进一步增加了磁盘io操作。
发明内容
有鉴于此,本申请的目的在于提供一种拉链表更新方法、装置、服务器及计算机可读存储介质,以减少磁盘io操作。
为了实现上述目的,本申请实施例采用的技术方案如下:
第一方面,本申请实施例提供了一种拉链表更新方法,应用于处理数据库的服务器,所述数据库中预先创建有拉链表,所述拉链表按照预设的分区键值划分为开链区和封链区;所述方法包括:若所述数据库中的待处理业务表是采用全量抽取的方式获得,则根据所述待处理业务表的表结构和数据,创建业务表临时表;根据所述拉链表的表结构和所述开链区的数据,创建开链区数据临时表;根据所述业务表临时表和所述开链区数据临时表,确定待封链数据和待开链数据;根据所述待封链数据和所述待开链数据对所述拉链表进行更新。
第二方面,本申请实施例还提供了一种拉链表更新装置,应用于处理数据库的服务器,所述数据库中预先创建有拉链表,所述拉链表按照预设的分区键值划分为开链区和封链区;所述装置包括:业务表临时表创建模块,用于若所述数据库中的待处理业务表是采用全量抽取的方式获得,则根据所述待处理业务表的表结构和数据,创建业务表临时表;开链区数据临时表创建模块,用于根据所述拉链表的表结构和所述开链区的数据,创建开链区数据临时表;数据确定模块,用于根据所述业务表临时表和所述开链区数据临时表,确定待封链数据和待开链数据;更新模块,用于根据所述待封链数据和所述待开链数据对所述拉链表进行更新。
第三方面,本申请实施例还提供了一种服务器,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机程序,所述处理器执行所述计算机程序时,实现上述第一方面所述的方法。
第四方面,本申请实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
相对现有技术,本申请具有以下有益效果:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910694990.6/2.html,转载请声明来源钻瓜专利网。