[发明专利]HBase热点消除方法及系统有效
申请号: | 201510398124.4 | 申请日: | 2015-07-08 |
公开(公告)号: | CN104951561B | 公开(公告)日: | 2018-09-07 |
发明(设计)人: | 李亚锋;刘钰帆 | 申请(专利权)人: | 上海携程商务有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海弼兴律师事务所 31283 | 代理人: | 薛琦;王婧荷 |
地址: | 200335 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | hbase 热点 消除 方法 系统 | ||
本发明公开了一种HBase热点消除方法及系统,其中该HBase热点消除方法包括:检测集群,将集群中的Region热点加入至热点机器列表;判断热点机器列表包括的Region热点的数量是否为0,若是,则结束流程,若否,则选择一个待消除Region热点;将待消除Region热点拆分成两个Region或者从该集群中选择一不具有Region热点的RegionServer与该待消除Region热点交换;将该待消除Region热点从该热点机器列表中移除。本发明能够自动检测和消除Region热点和RegionServer热点,缩短数据的请求时间,保证了整个系统的正常运行,具有快速高效地优点。
技术领域
本发明涉及互联网大数据领域,尤其涉及一种HBase(一种分布式的、面向列的开源数据库)热点消除方法及系统。
背景技术
HBase表中包括有多个Region,每个Region中都存储一定的数据。集群中的RegionServer可能分配到一个或多个Region。由于每个Region上的数据请求量的不同,可能会出现一个或多个Region热点,所谓Region热点是指请求量超过一第一请求量阈值的Region。这些Region热点的出现,会使得数据的请求时间变长,大大影响整个集群的稳定性和可用性,严重时甚至可能造成系统瘫痪。
目前,HBase并没有Region热点发现及自动消除工具,只能利用自带的split(Java中一种语句)方法将指定的Region进行拆分,但是这种方法需要技术人员手动地设定要拆分的Region,十分麻烦,效率也不高。
发明内容
本发明要解决的技术问题是如何克服现有技术中难以消除HBase中的热点的缺陷,提供一种能够自动消除热点的HBase热点消除方法及系统。
本发明是通过下述技术方案解决上述技术问题的:
本发明提供一种HBase热点消除方法,其特点是,包括:
S1、设定集群的HBase表中的每一Region的被交换次数的初始值为0;
S2、检测集群,将集群中的Region热点加入至一热点机器列表,Region热点为请求量超过一第一请求量阈值的Region;
S3、判断该热点机器列表包括的Region热点的数量是否为0,若是,则结束流程,若否,则执行S4;
S4、从该热点机器列表中选择一个Region热点作为待消除Region热点;
S5、判断该待消除Region热点的被交换次数是否超过一交换阈值,若超过,则执行S6,若未超过,则执行S7;
S6、将该待消除Region热点拆分成两个Region,然后执行S8;
S7、从该集群中选择一不具有Region热点的RegionServer,并将该待消除Region热点与被选择的不具有Region热点的RegionServer的Region交换,并更新该待消除Region热点的被交换次数;
S8、将该待消除Region热点从该热点机器列表中移除,然后执行S3。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海携程商务有限公司,未经上海携程商务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510398124.4/2.html,转载请声明来源钻瓜专利网。