[发明专利]分布式存储系统的数据存储处理方法、装置、电子设备有效
申请号: | 201911252196.2 | 申请日: | 2019-12-09 |
公开(公告)号: | CN111124291B | 公开(公告)日: | 2023-05-30 |
发明(设计)人: | 冯光曦 | 申请(专利权)人: | 北京金山云网络技术有限公司;北京金山云科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京博遵律师事务所 11761 | 代理人: | 马佑平 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 存储系统 数据 存储 处理 方法 装置 电子设备 | ||
本发明公开了一种用于分布式存储系统的数据存储处理方法,分布式存储系统包括至少一个存储服务器,所述方法应用于存储服务器,包括:判断所述存储服务器的已用存储空间是否超过第一数据类型对应的存储空间阈值;当所述已用存储空间超过第一数据类型对应的存储空间阈值时,停止接收第一数据类型的数据;判断所述存储服务器的已用存储空间是否超过第二数据类型对应的存储空间阈值;当所述已用存储空间超过第二数据类型对应的存储空间时,停止接收第二数据类型的数据;将接收到的至少部分的第一数据类型的数据转换为第二数据类型的数据。本发明可以降低数据存储时存储空间预分配流程的复杂度,简化空闲空间管理,减少异常分支。
技术领域
本发明涉及分布式存储系统领域,尤其涉及一种用于分布式存储系统的数据存储处理方法、装置、电子设备及计算机可读存储介质。
背景技术
分布式存储系统在接收原数据时,可以对原数据进行进一步的转换处理,例如利用压缩或纠删码技术将原数据转换为占用存储空间更少的数据,提高系统的存储效率。然而,在进行数据接收和转换时,会由于争夺有限的剩余空间资源而导致可能存在的空间不足,从而造成死锁的问题。
现有技术手段提出了一种在分布式存储系统中通过预分配存储空间配额的方式来处理上述问题。具体为,当存储服务器需要接收原数据或者进行数据转换时,向元数据服务器申请所需的全部或部分空间,得到元数据服务器成功响应后,在分配到的空间中接收原数据或者进行数据转换。
然而现有技术存在以下缺陷:1、需要元数据服务器的参与,且元数据服务器需要进行存储资源的动态再分配和规划;2、当多个数据副本所在存储服务器的剩余空间不一致时,如何决定再申请多少存储空间接收原数据或者进行数据转换面临着一定的困难。总之,现有技术的相关手段也未能解决存储空间死锁的问题。
发明内容
本发明的目的在于提供一种用于分布式存储系统的数据存储处理方法、装置、电子设备及计算机可读存储介质,以在简化空间管理流程的前提下解决空间死锁的问题。
根据本发明的第一方面,提供了一种用于分布式存储系统的数据存储处理方法,所述分布式存储系统包括至少一个存储服务器,所述方法应用于存储服务器,所述方法包括:
判断所述存储服务器的已用存储空间是否超过第一数据类型对应的存储空间阈值;
当所述已用存储空间超过第一数据类型对应的存储空间阈值时,停止接收第一数据类型的数据;
判断所述存储服务器的已用存储空间是否超过第二数据类型对应的存储空间阈值;
当所述已用存储空间超过第二数据类型对应的存储空间阈值时,停止接收第二数据类型的数据;
将接收到的至少部分的第一数据类型的数据转换为第二数据类型的数据;
其中,所述第一数据类型对应的存储空间阈值小于所述第二数据类型对应的存储空间阈值,所述第二数据类型对应的存储空间阈值小于所述存储服务器的总存储空间,第一数据类型的数据转换为第二数据类型的数据后,所占用的存储空间减小。
可选的,所述方法还包括:
将接收到的至少部分第一数据类型的数据转换为第二数据类型的数据后,将转换得到的至少部分第二数据类型的数据发送给其他存储服务器。
可选的,所述判断所述存储服务器的已用存储空间是否超过第一数据类型对应的存储空间阈值,包括:
当接收到第一数据类型的数据的写入请求时,判断所述存储服务器的已用存储空间是否超过第一数据类型对应的存储空间阈值;
或者,
按照预先设置的第一判断周期,判断所述存储服务器的已用存储空间是否超过第一数据类型对应的存储空间阈值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司;北京金山云科技有限公司,未经北京金山云网络技术有限公司;北京金山云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911252196.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置