[发明专利]一种分片分配方法、装置及电子设备在审

专利信息
申请号: 202010502055.8 申请日: 2020-06-04
公开(公告)号: CN113760172A 公开(公告)日: 2021-12-07
发明(设计)人: 朱志新 申请(专利权)人: 杭州海康威视数字技术股份有限公司
主分类号: G06F3/06 分类号: G06F3/06
代理公司: 北京柏杉松知识产权代理事务所(普通合伙) 11413 代理人: 马敬;丁芸
地址: 310051 浙*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 分片 分配 方法 装置 电子设备
【说明书】:

发明实施例提供了一种分片分配方法、装置及电子设备。其中,所述方法包括:针对所述多个存储节点中的每个存储节点,计算该存储节点的节点权重,所述节点权重与该存储节点的剩余存储空间正相关,与该存储节点已经分配的分片数目负相关;按照所述节点权重,从所述多个存储节点中选取存储节点;针对所选取的存储节点的每个磁盘路径,计算该磁盘路径的路径权重,所述路径权重与该磁盘路径的剩余存储空间正相关,与该磁盘路径已经分配的分片数目负相关;按照所述路径权重,从所选取的存储节点的各个磁盘路径中选取磁盘路径;将待分配的分片分配至所选取的磁盘路径中。可以提高分布式存储集群的稳定性。

技术领域

本发明涉及分布式存储技术领域,特别是涉及一种分片分配方法、装置及电子设备。

背景技术

分布式存储集群中可以包括多个存储节点,每个存储节点中可以包括多个磁盘,索引的各个分片可以按照预设规则,分配至这多个存储设备中的各个磁盘上。相关技术中,出于提高分片分布的离散型的考虑,可以将各个分片均匀的分配至各个存储节点中的各个磁盘上。

但是在分布式存储集群实际工作过程中,各分片存储的数据的数据量可能各不相同,因此不同磁盘内存储的数据的数据量不同。可能使得部分磁盘内还剩余较多存储空间,而另一部分磁盘已经几乎没有剩余的存储空间,导致分布式存储集群无法继续有效地存储数据,即分布式存储集群的稳定性较差。

发明内容

本发明实施例的目的在于提供一种分片分配方法、装置及电子设备,以实现提高分布式存储集群的稳定性。具体技术方案如下:

在本发明实施例的第一方面,提供了一种分片分配方法,所述方法包括:

针对所述多个存储节点中的每个存储节点,计算该存储节点的节点权重,所述节点权重与该存储节点的剩余存储空间正相关,与该存储节点已经分配的分片数目负相关;

按照所述节点权重,从所述多个存储节点中选取存储节点,每个存储节点被选取的概率与该存储节点的所述节点权重正相关;

针对所选取的存储节点的每个磁盘路径,计算该磁盘路径的路径权重,所述路径权重与该磁盘路径的剩余存储空间正相关,与该磁盘路径已经分配的分片数目负相关;

按照所述路径权重,从所选取的存储节点的各个磁盘路径中选取磁盘路径,每个磁盘路径被选取的概率与该磁盘路径的所述路径权重正相关;

将待分配的分片分配至所选取的磁盘路径中。

在一种可能的实施例中,所述方法还包括:

获取当前时序之前的至少一个时序的已分配的分片的平均大小;

按照所述至少一个时序的已分配的分片的平均大小,预测当前时序的待分配的分片的大小的预估值;

所述将待分配的分片分配至所选取的磁盘路径中,包括:

从所选取的磁盘路径中选择所述预估值大小的存储空间,分配至待分配的分片。

在一种可能的实施例中,所述至少一个时序包括至少两个时序;

所述按照所述至少一个时序的已分配的分片的平均大小,预测当前时序的待分配的分片的大小的预估值,包括:

按照所述至少两个时序的已分配的分片的平均大小,计算已分配的分片的平均大小随时序变化的变化幅度;

按照所述变化幅度,预测当前时序的待分配的分片的大小的预估值。

在一种可能的实施例中,所述按照所述变化幅度,预测当前时序的分片的大小的预估值,包括:

按照所述变化幅度,对所述至少两个时序中一个时序的已分配的分片的平均大小进行线性插值,得到当前时序的待分配的分片的大小的预估值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视数字技术股份有限公司,未经杭州海康威视数字技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010502055.8/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top