[发明专利]数据处理方法及相关装置有效
| 申请号: | 202010760588.6 | 申请日: | 2020-07-31 |
| 公开(公告)号: | CN111857603B | 公开(公告)日: | 2022-12-02 |
| 发明(设计)人: | 张伟益 | 申请(专利权)人: | 重庆紫光华山智安科技有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 李莎 |
| 地址: | 400700 重庆市*** | 国省代码: | 重庆;50 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 相关 装置 | ||
1.一种数据处理方法,其特征在于,应用于分布式存储系统中的存储节点,所述存储节点包括多个存储块,每一所述存储块包括多个存储单元,所述分布式存储系统还包括客户端和元数据节点,所述存储节点与所述客户端及所述元数据节点均通信连接,所述方法包括:
接收所述客户端发送的写数据请求,其中,所述写数据请求中携带有待写地址,所述待写地址用于表征待写数据应写入的第一目标存储块及在所述第一目标存储块中的第一目标存储单元;
若所述第一目标存储块与最近一次写数据请求写入的存储块相同,且所述第一目标存储单元和最近一次写数据请求写入的第二目标存储单元位置相邻,则将所述第一目标存储单元合并入所述第二目标存储单元对应的第一目标存储段;
将所述第一目标存储单元的版本号递增;
若递增后的所述第一目标存储单元的版本号大于所述第一目标存储段的版本号,则用所述递增后的所述第一目标存储单元的版本号更新所述第一目标存储段的版本号并将更新后的所述第一目标存储段的版本号发送至所述元数据节点进行存储;
若所述第一目标存储单元和所述第二目标存储单元位置不相邻,则将所述第一目标存储单元作为一个新的存储段,并将所述第一目标存储单元的版本号进行递增;
将所述递增后的所述第一目标存储单元的版本号作为所述新的存储段的版本号并发送至所述元数据节点进行存储。
2.一种数据处理方法,其特征在于,应用于分布式存储系统中的元数据节点,所述元数据节点与存储节点通信连接,所述分布式存储系统还包括客户端,所述方法还包括:
当检测到对应同一组纠删码编码数据的多个存储节点中的第二目标存储段的版本号不一致时,将其中版本号最小的存储节点确定为待恢复节点,其中,所述第二目标存储段包括多个位置相邻的存储单元,所述元数据节点存储所述第二目标存储段的版本号;
向所述待恢复节点发送恢复信息,以使所述待恢复节点依据所述恢复信息从除所述待恢复节点之外的存储节点中读取所述第二目标存储段中的数据、并根据读取的数据将所述待恢复节点中的数据恢复,其中,所述恢复信息包括所述多个存储节点中除所述待恢复节点之外的存储节点的信息、所述第二目标存储段的版本号、所述第二目标存储段的起始位置、及所述第二目标存储段的长度,其中,所述第二目标存储段为所述客户端写数据请求时的第一目标存储段,向第一目标存储段写入数据的方式为:
接收所述客户端发送的写数据请求,其中,所述写数据请求中携带有待写地址,所述待写地址用于表征待写数据应写入的第一目标存储块及在所述第一目标存储块中的第一目标存储单元;
若所述第一目标存储块与最近一次写数据请求写入的存储块相同,且所述第一目标存储单元和最近一次写数据请求写入的第二目标存储单元位置相邻,则将所述第一目标存储单元合并入所述第二目标存储单元对应的第一目标存储段;
将所述第一目标存储单元的版本号递增;
若递增后的所述第一目标存储单元的版本号大于所述第一目标存储段的版本号,则用所述递增后的所述第一目标存储单元的版本号更新所述第一目标存储段的版本号并将更新后的所述第一目标存储段的版本号发送至所述元数据节点进行存储。
3.如权利要求2所述的数据处理方法,其特征在于,所述元数据节点还与客户端通信连接,所述元数据节点预先存储有地址与存储节点及在对应存储节点的存储单元之间的地址映射关系,所述方法包括:
接收所述客户端发送的待读地址;
依据所述地址映射关系确定与所述待读地址对应的目标存储节点及在所述目标存储节点的多个存储单元中的第三目标存储单元;
获取所述第三目标存储单元的版本号;
若所述第三目标存储单元的版本号中最大版本号的个数大于预设值,则将最大版本号的所述目标存储节点作为待读存储节点;
将所述待读存储节点的第三目标存储单元反馈至所述客户端以使所述客户端根据从所述待读存储节点中的第三目标存储单元中读取的数据得到待读数据。
4.如权利要求3所述的数据处理方法,其特征在于,所述获取所述第三目标存储单元的版本号的步骤包括:
若所述第三目标存储单元存在对应的第三目标存储段,则将所述第三目标存储段的版本号作为所述第三目标存储单元的版本号。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆紫光华山智安科技有限公司,未经重庆紫光华山智安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010760588.6/1.html,转载请声明来源钻瓜专利网。





