[发明专利]分布式存储系统的数据管理方法、装置及设备有效
| 申请号: | 202011407835.0 | 申请日: | 2020-12-04 |
| 公开(公告)号: | CN112632029B | 公开(公告)日: | 2022-08-05 |
| 发明(设计)人: | 李丹旺;夏伟强;丁光凯 | 申请(专利权)人: | 杭州海康威视系统技术有限公司 |
| 主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/27;G06F3/06;G06F11/14;H04L67/1097 |
| 代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 谢冬寒 |
| 地址: | 310051 浙江省杭州*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 分布式 存储系统 数据管理 方法 装置 设备 | ||
本申请提供了一种分布式存储系统的数据管理方法、装置及设备,属于分布式存储技术领域。包括:接收终端的对象上传请求,对象上传请求携带待上传的数据对象,且用于请求将数据对象存储至分布式存储系统中,分布式存储系统中包括多个虚拟节点和多个存储节点,且一个存储节点关联至少一个虚拟节点;确定数据对象对应的目标虚拟节点;确定目标虚拟节点关联的第一存储节点;将数据对象存储至第一存储节点,以及将目标虚拟节点的版本标识和数据对象的存储时间戳,更新到第一存储节点的存储索引中,目标虚拟节点的版本标识和存储时间戳用于校验数据对象的版本。本申请能够保证用户下载的数据对象是最新版本的数据,提高存储性能。
技术领域
本申请涉及数据分布式存储技术领域,特别涉及一种分布式存储系统的数据管理方法、装置及设备。
背景技术
为了降低终端的存储压力,可以将数据存储到分布式存储系统中。该分布式存储系统中包括网络设备和多个存储节点,网络设备用于接收终端的待存储的数据对象,将待存储的数据对象存储到任一存储节点中。
相关技术中,网络设备将待存储的数据对象的key(键值)与分布式存储系统中包括的存储节点的数量进行哈希,得到用于存储该数据对象的存储节点的节点标识,基于该存储节点的节点标识,将该数据对象存储至确定出的存储节点中。
然而同一数据对象可能会具有不同版本的数据,当分布式存储系统中的存储节点由于出现故障而离线时,由于分布式存储系统中的存储节点的数量会发生变化,则基于数据对象和存储节点的数量的哈希值会发生变化,会导致同一数据对象的不同版本的数据会存储至不同的存储节点中,这样用户后续下载数据对象的数据时,无法保证用户下载的是数据对象的最新版本的数据,从而导致分布式存储系统的性能较差。
发明内容
本申请实施例提供了一种分布式存储系统的数据管理方法、装置及设备,能够保证用户下载的数据对象是最新版本的数据,提高了分布式存储系统的性能。所述技术方案如下:
一方面,提供了一种分布式存储系统的数据管理方法,所述方法包括:
接收终端的对象上传请求,所述对象上传请求携带待上传的数据对象,且用于请求将所述数据对象存储至分布式存储系统中,所述分布式存储系统中包括多个虚拟节点和多个存储节点,且一个存储节点关联至少一个虚拟节点;
基于所述数据对象的对象标识和所述虚拟节点的数量,确定所述数据对象映射的目标虚拟节点;
基于存储节点和虚拟节点之间的关联关系,确定所述目标虚拟节点关联的第一存储节点;
将所述数据对象存储至所述第一存储节点,以及将所述目标虚拟节点的版本标识和所述数据对象的存储时间戳,更新到所述第一存储节点的存储索引中,所述目标虚拟节点的版本标识和所述存储时间戳用于在所述终端下载所述数据对象时,校验所述数据对象的版本。
在一种可能的实现方式中,所述将所述数据对象存储至所述第一存储节点,包括:
响应于所述第一存储节点中包括目标磁盘数据块,所述目标磁盘数据块为用于存储映射到所述目标虚拟节点的数据对象的磁盘数据块,将所述数据对象存储至所述目标磁盘数据块中;
响应于所述第一存储节点中不包括所述目标磁盘数据块,为所述目标虚拟节点分配一个目标磁盘数据块,将所述数据对象存储至分配的目标磁盘数据块中。
在另一种可能的实现方式中,所述将所述目标虚拟节点的版本标识和所述数据对象的存储时间戳,更新到所述第一存储节点的存储索引中,包括:
响应于所述存储索引中不存在所述目标虚拟节点的版本标识和所述数据对象的存储时间戳,将所述目标虚拟节点的版本标识和所述数据对象的存储时间戳,存储至到所述第一存储节点的存储索引中;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视系统技术有限公司,未经杭州海康威视系统技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011407835.0/2.html,转载请声明来源钻瓜专利网。





