[发明专利]数据处理方法、装置、电子设备及可读存储介质有效
申请号: | 201911407548.7 | 申请日: | 2019-12-31 |
公开(公告)号: | CN111399765B | 公开(公告)日: | 2022-11-01 |
发明(设计)人: | 丁光凯;李丹旺 | 申请(专利权)人: | 杭州海康威视系统技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 杨春香 |
地址: | 310051 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 可读 存储 介质 | ||
本申请提供一种数据处理方法、装置、电子设备及可读存储介质,该方法包括:当接收到针对第一目标数据的随机写请求时,确定用于存储所述第一目标数据的第一目标存储单元,并将所述第一目标数据写入到缓存区域中的所述第一目标存储单元;当检测到本地缓存区域中的第二目标存储单元满足满条带要求时,将所述第二目标存储单元中的数据转存至云存储系统的存储区域。该方法可以提高云存储系统的读写性能和系统稳定性。
技术领域
本申请涉及分布式数据存储技术,尤其涉及一种数据处理方法、装置、电子设备及可读存储介质。
背景技术
分布式的云存储系统一般支持对存储在标准文件操作系统中的存储文件采用标准的pwrite接口进行随机写操作。为了避免在随机写时从磁盘中读取整个对象文件数据,一般的处理方法是将对象文件进行分片存储(如EC(Erasure Coding,纠删码)条带的分片)。
相对于文件多副本存储,EC技术具有更高的存储空间利用率和高可靠性,但EC技术的编码方式比较复杂,对于存在频繁随机写的场景,每次随机写均需从磁盘中读取整个条带的原始数据,并将待写入的数据与条件中的原始数据进行整合,重新计算校验数据后,将新的条带重新写入磁盘。
可见,频繁的随机写业务,会触发云存储系统进行频繁的EC计算和数据读写,对云存储系统的CPU(Center Process Unit,中央处理单元)、内存、磁盘IO(Input/output,输入/输出)等硬件资源消耗非常大,影响云存储系统的读写功能和系统稳定性。
发明内容
有鉴于此,本申请提供一种数据处理方法、装置、电子设备及可读存储介质。
具体地,本申请是通过如下技术方案实现的:
根据本申请实施例的第一方面,提供一种数据处理方法,应用于云存储系统,所述方法包括:
当接收到针对第一目标数据的随机写请求时,确定用于存储所述第一目标数据的第一目标存储单元,并将所述第一目标数据写入到缓存区域中的所述第一目标存储单元;
当检测到本地缓存区域中的第二目标存储单元满足满条带要求时,将所述第二目标存储单元中的数据转存至云存储系统的存储区域。
根据本申请实施例的第二方面,提供一种数据处理装置,应用于云存储系统,所述装置包括:接收单元、确定单元、写入单元、检测单元以及处理单元;其中:
所述确定单元,用于当所述接收单元接收到针对第一目标数据的随机写请求时,确定用于存储所述第一目标数据的第一目标存储单元;
所述写入单元,用于将所述第一目标数据写入到缓存区域中的所述第一目标存储单元;
所述处理单元,用于当所述检测单元检测到本地缓存区域中的第二目标存储单元满足满条带要求时,将所述第二目标存储单元中的数据转存至云存储系统的存储区域。
根据本申请实施例的第三方面,提供一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述方法步骤。
根据本申请实施例的第四方面,提供一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述方法步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视系统技术有限公司,未经杭州海康威视系统技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911407548.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:二极管泵浦重复频率激光器中晶体棒冷却结构
- 下一篇:具有可变形透镜的车灯组件