[发明专利]数据存储方法、子系统、分布式存储系统及存储介质在审
申请号: | 202211003028.1 | 申请日: | 2022-08-19 |
公开(公告)号: | CN115344211A | 公开(公告)日: | 2022-11-15 |
发明(设计)人: | 袁东平 | 申请(专利权)人: | 重庆紫光华山智安科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F11/10;G06F11/14 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 张欣欣 |
地址: | 400700 重庆市*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储 方法 子系统 分布式 存储系统 介质 | ||
1.一种数据存储方法,其特征在于,应用于分布式存储系统中的数据存储子系统,所述数据存储子系统包括多个逻辑节点,每个逻辑节点对应一个物理存储节点;所述方法包括:
将主逻辑节点接收到的写操作日志同步给全部从逻辑节点;其中,所述主逻辑节点为全部所述逻辑节点其中一个;所述从逻辑节点为除所述主逻辑节点以外的逻辑节点;
当确定所述主逻辑节点接收到日志同步失败的消息,确定所述消息对应的异常逻辑节点;其中,所述日志同步失败表征所述异常逻辑节点对应的目标物理存储节点上的数据缺失;
基于预设纠删码、以及除所述异常逻辑节点和所述主逻辑节点以外的剩余从逻辑节点的数据日志,生成缺失数据;所述数据日志用于记录写入所述逻辑节点对应的物理存储节点上的数据;
根据所述缺失数据,对所述目标物理存储节点进行数据恢复。
2.根据权利要求1所述的数据存储方法,其特征在于,所述分布式存储系统中包括元数据服务器,所述元数据服务器与所述数据存储子系统进行数据交互,所述方法还包括:
当所述主逻辑节点确定存在离线的从逻辑节点,且所述离线的从逻辑节点在预设时间段内未上线,检测在线从逻辑节点的数量是否大于或等于待写入数据划分后的原始数据的总份数;
若是,则通过所述主逻辑节点向元数据服务器发送申请新数据块的请求,以使所述元数据服务器创建新数据块,并在所述新数据块所在的物理存储节点上创建新逻辑节点;
通过所述主逻辑节点生成全量数据恢复日志,并将所述全量数据恢复日志同步到除所述离线的从逻辑节点以外的从逻辑节点和所述新逻辑节点;
基于所述预设纠删码以及所述在线从逻辑节点的数据日志,生成新的缺失数据,并将所述新的缺失数据发送给所述新逻辑节点。
3.根据权利要求1所述的数据存储方法,其特征在于,所述分布式存储系统中包括元数据服务器,所述元数据服务器与所述数据存储子系统进行数据交互,所述方法还包括:
判断所述主逻辑节点收到的日志同步成功的消息数量是否大于或等于待写入数据划分后的原始数据的总份数;
若是,则通过所述主逻辑节点向服务节点反馈数据写入成功的消息;
若否,则通过所述主逻辑节点将所述操作日志丢弃,并向所述服务节点反馈数据写入失败的消息。
4.根据权利要求1所述的数据存储方法,其特征在于,所述方法还包括:
确定第一从逻辑节点是否收到来自主逻辑节点的保活信息;所述第一从逻辑节点为除所述主逻辑节点中以外的任意一个;
若否,发起主逻辑节点选举流程;
当存在一个目标逻辑节点收到的投票数大于或等于待写入数据划分后的原始数据的总份数,则将所述目标逻辑节点确定为所述主逻辑节点。
5.根据权利要求3所述的数据存储方法,其特征在于,所述操作日志是通过如下方式生成的:
将所述服务节点将接收到的待写入数据进行划分,得到所述原始数据和校验数据;
将服务节点生成的事务ID,以及所述原始数据和所述校验数据分发给多个所述物理存储节点,以使每个所述物理存储节点将接收到的所述事务ID,以及所述原始数据或所述校验数据写入事务日志;
确定所述服务节点接收到的数据发送成功消息的个数是否大于或等于所述原始数据的总份数;
若是,则通过所述服务节点生成所述写操作日志。
6.根据权利要求1所述的数据存储方法,其特征在于,在当确定所述主逻辑节点接收到日志同步失败的消息,确定所述消息对应的异常逻辑节点之前,所述方法还包括:
确定所述从逻辑节点所对应的物理存储节点是否存在所述写操作日志中的事务ID;
若不存在所述事务ID,则通过所述从逻辑节点向所述主逻辑节点反馈日志同步失败的消息;
若存在所述事务ID,则通过所述从逻辑节点向所述主逻辑节点反馈日志同步成功的消息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆紫光华山智安科技有限公司,未经重庆紫光华山智安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211003028.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置