[发明专利]数据均匀化方法、装置、计算机设备及存储介质在审
申请号: | 202010066910.5 | 申请日: | 2020-01-20 |
公开(公告)号: | CN111259012A | 公开(公告)日: | 2020-06-09 |
发明(设计)人: | 郑金伟 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2458 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 张美君 |
地址: | 518000 广东省深圳市福田*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 均匀 方法 装置 计算机 设备 存储 介质 | ||
本发明公开了一种数据均匀化方法、装置、计算机设备及存储介质。所述方法包括:获取数据表的所有主键内容;根据Region的最大数据存储量和各主键内容对应的总数据量确定各主键内容对应的Region的个数;获取主键内容对应的RowKey数据集;自RowKey数据集中各RowKey中提取第一关键值后,根据第一关键值对主键内容对应的各个主键数据进行排序后得到序列值;根据主键内容对应的Region的个数以及序列值,自所有主键数据中,确定出与主键内容对应的各Region的边界范围;获取主键内容中的主键数据的第一关键值,并在确认第一关键值的大小在位于Region的边界范围之内时,将主键内容中与第一关键值对应的主键数据分配至该Region中进行存储。本发明可将数据表中的数据均匀化于各Region中。
技术领域
本发明涉及数据存储领域,尤其涉及一种数据均匀化方法、装置、计算机设备及存储介质。
背景技术
Region是HBase集群分布的最小单元,HBase会将每张业务表所拥有的Region分布在各个RegionServer上。一般情况下,一张业务数据表刚开始只有一个对应的Region,但随着业务数据表的数据量的增大,并在数据量达到阀值时,Region会继续分裂成多个Region,若在业务数据表的数据量处于较多的情况下,会造成每张业务数据表的数据在Region中出现数据分布不均匀的现象,也会对Region关联的RegionServer造成压力,从而影响到RegionServer关联的HBase的读写性能。并且频繁对Region进行分裂操作,也会大大占用HBase集群所在服务器的资源,从而也会影响到HBase的读写性能。因此,亟需寻找一种技术方案解决上述所提到的问题。
发明内容
基于此,有必要针对上述技术问题,提供一种数据均匀化方法、装置、计算机设备及存储介质,用于将数据表中的数据均匀化于每一个Region中,进而提高Region对应的RegionServer的读写性能。
一种数据均匀化方法,包括:
将HBase集群中的Region的最大数据存储量设定为预设数据阈值;
接收对所述HBase集群中的数据表的数据均匀化指令,获取所述数据表的所有主键内容;其中,一个所述主键内容关联所述数据表的其中一类存储数据的总数据量;与所述主键内容对应的一类存储数据中包含至少一个主键数据;
根据所述预设数据阈值和每一个所述主键内容对应的所述总数据量确定所述数据表中与每一个所述主键内容对应的Region的个数;
利用预设Hash算法获取所述数据表中的每一个所述主键内容对应的RowKey数据集;所述RowKey数据集包括所述主键内容对应的每一个主键数据的RowKey;
自与所述主键内容对应的所述RowKey数据集中各所述RowKey中提取第一关键值后,根据所述第一关键值对所述主键内容对应的每一个主键数据进行排序,并获取排序之后的序列值;
根据所述主键内容对应的Region的个数以及所述序列值,自与所述主键内容对应的所有主键数据中,确定出与所述主键内容对应的每一个Region的两个边界元素,并通过与所述主键内容对应的每一个Region的两个所述边界元素确定该Region的前边界值和后边界值;所述前边界值和后边界值均为与所述边界元素对应的第一关键值;每一个Region的前边界值和后边界值之间的范围记录为该Region的边界范围;
获取所述主键内容对应的主键数据的所述第一关键值,在确认获取的所述第一关键值的大小在与所述主键内容对应的Region的边界范围之内时,将所述主键内容中与所述第一关键值对应的主键数据分配至该Region中进行存储。
一种数据均匀化装置,包括:
设定模块,用于将HBase集群中的Region的最大数据存储量设定为预设数据阈值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010066910.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置