[发明专利]一种数据写入方法及装置有效
申请号: | 201810264205.9 | 申请日: | 2018-03-28 |
公开(公告)号: | CN108491290B | 公开(公告)日: | 2021-07-23 |
发明(设计)人: | 马海兵;陈钊 | 申请(专利权)人: | 新华三技术有限公司 |
主分类号: | G06F11/10 | 分类号: | G06F11/10;G06F3/06 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 310052 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 写入 方法 装置 | ||
本发明提供一种数据写入方法及装置,所述方法包括:当接收到针对目标文件的写入请求时,按照预设区块大小将所述目标文件划分为原始数据块,并根据所述原始数据块利用奇偶校验算法计算至少一个校验数据块;将所述目标文件对应的原始数据块以及校验数据块并发写入对象object组中的连续多个空闲区块;将所述object组中的各object映射至不同的对象存储设备OSD。应用本发明实施例可以解决Ceph EC存在写惩罚的问题,并提高Ceph的数据写入性能。
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据写入方法及装置。
背景技术
Ceph(分布式存储系统)是一种性能优异、高可靠性和高扩展性分布式存储系统,广泛应用于各类大中小型存储环境。
目前,Ceph主要采用多副本策略以保证数据的可靠性,但是多副本策略降低了Ceph的磁盘利用率,例如,2副本磁盘利用率50%,3副本磁盘利用率33%。
为了提高磁盘利用率,Ceph提出了纠删码(Erasure Coding,EC)策略。
纠删码算法将写入数据分成K份原始数据,通过这K份原始数据计算出M份校验数据,通过这K+M份中的任意K份数据可以还原出所有原始数据。
然而实践发现,现有Ceph EC方案中当条带中部分原始数据发生修改时,需要先将条带中未发生修改的原始数据读出,重新计算校验数据,并将发生修改的数据和新计算的校验块写入条带中的相应位置,即存在写惩罚。
发明内容
本发明提供一种数据写入方法及装置,以解决现有Ceph EC方案不支持覆盖写,且存在写惩罚的问题。
根据本发明的第一方面,提供一种数据写入方法,应用于分布式对象存储系统中的存储节点,所述方法包括:
当接收到针对目标文件的写入请求时,按照预设区块大小将所述目标文件划分为原始数据块,并根据所述原始数据块利用奇偶校验算法计算至少一个校验数据块;
将所述目标文件对应的原始数据块以及校验数据块并发写入对象object组中的连续多个空闲区块;其中,所述object组中包括至少三个object,所述object组中各object包括等量等大小的区块,所述连续多个空闲区块依次归属于所述object组中的各object;
将所述object组中的各object映射至不同的对象存储设备OSD。
根据本发明的第二方面,提供一种数据写入装置,应用于分布式对象存储系统中的存储节点,所述装置包括:
接收单元,用于接收写入请求;
划分单元,用于当所述接收单元接收到针对目标文件的写入请求时,按照预设区块大小将所述目标文件划分为原始数据块;
校验单元,用于根据所述原始数据块利用奇偶校验算法计算至少一个校验数据块;
写入单元,用于将所述目标文件对应的原始数据块以及校验数据块并发写入对象object组中的连续多个空闲区块;其中,所述object组中包括至少三个object,所述object组中各object包括等量等大小的区块,所述连续多个空闲区块依次归属于所述object组中的各object;
映射单元,用于将所述object组中的各object映射至不同的对象存储设备OSD。
应用本发明公开的技术方案,当接收到针对目标文件的写入请求时,按照预设区块大小将目标文件划分为原始数据块,并利用奇偶校验算法计算至少一个校验数据块;进而,可以将目标文件对应的原始数据块以及校验数据块并发写入object组中的连续多个空闲区块,并将object组中的各object映射至不同的OSD,解决了Ceph EC存在写惩罚的问题,并提高了Ceph的数据写入性能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三技术有限公司,未经新华三技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810264205.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:固件保护方法及装置
- 下一篇:一种基于区块链的公安系统档案管理方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置