[发明专利]数据均匀化方法、装置、计算机设备及存储介质在审

专利信息
申请号: 202010066910.5 申请日: 2020-01-20
公开(公告)号: CN111259012A 公开(公告)日: 2020-06-09
发明(设计)人: 郑金伟 申请(专利权)人: 中国平安人寿保险股份有限公司
主分类号: G06F16/22 分类号: G06F16/22;G06F16/2458
代理公司: 深圳众鼎专利商标代理事务所(普通合伙) 44325 代理人: 张美君
地址: 518000 广东省深圳市福田*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 均匀 方法 装置 计算机 设备 存储 介质
【权利要求书】:

1.一种数据均匀化方法,其特征在于,包括:

将HBase集群中的Region的最大数据存储量设定为预设数据阈值;

接收对所述HBase集群中的数据表的数据均匀化指令,获取所述数据表的所有主键内容;其中,一个所述主键内容关联所述数据表的其中一类存储数据的总数据量;与所述主键内容对应的一类存储数据中包含至少一个主键数据;

根据所述预设数据阈值和每一个所述主键内容对应的所述总数据量确定所述数据表中与每一个所述主键内容对应的Region的个数;

利用预设Hash算法获取所述数据表中的每一个所述主键内容对应的RowKey数据集;所述RowKey数据集包括所述主键内容对应的每一个主键数据的RowKey;

自与所述主键内容对应的所述RowKey数据集中各所述RowKey中提取第一关键值后,根据所述第一关键值对所述主键内容对应的每一个主键数据进行排序,并获取排序之后的序列值;

根据所述主键内容对应的Region的个数以及所述序列值,自与所述主键内容对应的所有主键数据中,确定出与所述主键内容对应的每一个Region的两个边界元素,并通过与所述主键内容对应的每一个Region的两个所述边界元素确定该Region的前边界值和后边界值;所述前边界值和后边界值均为与所述边界元素对应的第一关键值;每一个Region的前边界值和后边界值之间的范围记录为该Region的边界范围;

获取所述主键内容对应的主键数据的所述第一关键值,在确认获取的所述第一关键值的大小在与所述主键内容对应的Region的边界范围之内时,将所述主键内容中与所述第一关键值对应的主键数据分配至该Region中进行存储。

2.根据权利要求1所述的数据均匀化方法,其特征在于,所述利用预设Hash算法获取所述数据表中的每一个所述主键内容对应的RowKey数据集,包括:

通过对所述数据表中的每一个所述主键内容对应的该类存储数据中的每一个主键数据运用Hash,得到各个所述主键内容中的各个主键数据的HashKey,并提取各个所述HashKey对应的各个第二关键值;

获取各个所述主键内容中的各个主键数据的字符长度,并分别将各个所述第二关键值与各个所述字符长度利用绝对值算法进行运算,得到各个第三关键值;

自预设字符分布表中获取各个所述第三关键值所对应的字符,并将获取的各所述字符和对应的主键数据通过预设符号对应进行拼接,得到所述RowKey数据集;所述RowKey数据集中的每一个所述RowKey均由至少一个所述字符与一个所述主键内容中的一个主键数据通过预设符号拼接而成。

3.根据权利要求1所述的数据均匀化方法,其特征在于,所述将所述主键内容中与所述第一关键值对应的主键数据分配至该Region中进行存储之后,还包括:

获取所述主键内容对应的所述RowKey数据集中需检索的RowKey,根据与所述RowKey对应的所述第一关键值,确定所述RowKey对应的主键数据在所述HBase集群中存储的目标Region;

定位与已确定的所述目标Region存在调度关系的至少一个RegionServer,建立起与所述RegionServer的通信连接后,通过所述RegionServer读取与所述RowKey对应的主键数据,并将所述RegionServer读取的主键数据通过通信连接写入至本地的预设数据表中。

4.根据权利要求3所述的数据均匀化方法,其特征在于,所述定位与已确定的所述目标Region存在调度关系的至少一个RegionServer之后,还包括:

实时监控参与读写任务的所述RegionServer的运行状态,并在其中一个所述RegionServer的运行状态为宕机时,获取与宕机的所述RegionServer关联的所述目标Region;

令所述Region解除与宕机的所述RegionServer之间的调度关系,并根据预设的调度规则建立所述目标Region与至少一个运行状态为正常的所述RegionServer之间的调度关系。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010066910.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top