[发明专利]一种数据处理方法及装置有效
申请号: | 201810105947.7 | 申请日: | 2018-02-02 |
公开(公告)号: | CN108399050B | 公开(公告)日: | 2021-06-29 |
发明(设计)人: | 张世龙;陈钊;王成林 | 申请(专利权)人: | 新华三技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F12/06 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 310052 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,应用于分布式对象存储系统的存储节点,其特征在于,所述方法包括:
当检测到针对数据块的写入操作时,将所述数据块映射至待映射的对象object;其中,所述待映射的object为所分配的用于进行数据块映射,且未进行存储处理的object;所述object的大小大于所述数据块的大小,且为所述数据块大小的整数倍;
当所述object中的数据量达到预设容量时,对所述object进行存储处理。
2.根据权利要求1所述的方法,其特征在于,所述将所述数据块映射至待映射的对象object之后,还包括:
当所述object中的数据量未达到所述预设容量,但当前时间与所述object中第一次映射数据块的时间之间的差值达到预设时长时,对所述object进行存储处理。
3.根据权利要求1所述的方法,其特征在于,所述将所述数据块映射至待映射的object之后,还包括:
根据所述数据块的写入地址确定所述数据块在预先设置的虚拟对象Vobject中对应的叶子节点的标识;其中,所述数据块的大小为所述叶子节点的大小的整数倍;
将所述叶子节点的标识与所述object的标识以及所述数据块在所述object中的地址偏移量的对应关系记录至所述叶子节点在其对应的Vobject中的上一层节点;其中,所述上一层节点为树枝节点或根节点,树枝节点的标识与树枝节点所属object的标识以及树枝节点在其所属object中的地址偏移量记录在上一层树枝节点或根节点中,根节点的数据映射至该根节点所属Vobject对应的目标object中,所述目标object用于映射根节点的数据。
4.根据权利要求3所述的方法,其特征在于,所述将所述叶子节点的标识与所述object的标识以及所述数据块在所述object中的地址偏移量的对应关系记录至所述叶子节点在其对应的Vobject中的上一层节点,包括:
采用异址更新追加写的策略,将所述叶子节点的标识与所述object的标识以及所述数据块在所述object中的地址偏移量的对应关系记录至所述叶子节点在其对应的Vobject中的上一层节点。
5.根据权利要求3所述的方法,其特征在于,Vobiect为根节点、树枝节点以及叶子节点的三层树形结构;
所述方法还包括:
当检测到针对数据的读取操作时,根据所述数据的读取地址确定所述数据对应目标Vobject中的目标叶子节点的标识;
根据所述目标叶子节点的标识确定对应的目标树枝节点的标识;
根据所述目标树枝节点的标识,从所述目标Vobject对应的目标object中获取所述目标树枝节点的地址信息;所述目标树枝节点的地址信息包括所述目标树枝节点所属object的标识以及所述目标树枝节点在其所属object中的地址偏移量;
根据所述目标树枝节点的地址信息,从所述目标树枝节点所属object中获取所述目标叶子节点的地址信息;所述目标叶子节点的地址信息包括所述目标叶子节点所属的object的标识以及所述目标叶子节点在其所属object中的地址偏移量;
根据所述目标叶子节点的地址信息,从已存储的所述目标叶子节点所属object中读取所述数据。
6.一种数据处理装置,应用于分布式对象存储系统的存储节点,其特征在于,所述装置包括:
检测单元,用于检测针对数据块的读写操作;
映射单元,用于当所述检测单元检测到针对数据块的写入操作时,将所述数据块映射至待映射的对象object;其中,所述待映射的object为所分配的用于进行数据块映射,且未进行存储处理的object;所述object的大小大于所述数据块的大小,且为所述数据块大小的整数倍;
处理单元,用于当所述object中的数据量达到预设容量时,对所述object进行存储处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三技术有限公司,未经新华三技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810105947.7/1.html,转载请声明来源钻瓜专利网。