[发明专利]一种数据IO的处理方法、装置、存储介质及设备有效
申请号: | 202110047891.6 | 申请日: | 2021-01-14 |
公开(公告)号: | CN112732197B | 公开(公告)日: | 2022-07-26 |
发明(设计)人: | 杨鸿洁;胡永刚 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 张腾;李红萧 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 io 处理 方法 装置 存储 介质 设备 | ||
本发明提供了一种数据IO的处理方法、装置、存储介质及设备,方法包括以下步骤:获取请求操作处理的由若干基础数据块顺序组成的数据;将数据以预设的分割单元为单位依次进行分组,以顺序得到若干分割数据块;依次处理并判断各分割数据块中是否有基于前序基础数据块操作处理完成的时间的时延统计记录;响应于有分割数据块中有时延统计记录,根据时延统计记录设置等待时间段;将分割数据块中未进行操作处理的基础数据块在等待时间段内依次合并,直到等待时间段结束或等待时间段未结束但合并的基础数据块达到了分割单元大小,停止合并;将合并的基础数据块发送并进行操作处理。本发明有效减少了数据IO的时间,提高了存储系统的性能。
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据IO的处理方法、装置、存储介质及设备。
背景技术
基于分布式存储对接场景的不断丰富,针对不同的业务模型,对产品性能也有不同的要求。在分布式存储系统中,根据我们的数据离散算法,随机数据可以分散到不同节点的不同磁盘上并发地进行操作。在数据顺序IO场景下,由于我们的算法有最小的分割单元,当数据块大小小于最小的分割单元时,连续的数据块需要操作同一个分割单元,即对应底层的同一块磁盘,因此无法并发进行操作,导致系统性能不能充分地发挥,影响用户体验。目前分布式块存储普遍承载的是客户虚拟机系统盘资源,系统延迟过高,可能会造成操作系统不稳定,影响客户业务,因此,加快系统响应速度,对于提高系统性能、增强系统稳定性以及提高产品竞争力具有重要意义。
发明内容
有鉴于此,本发明的目的在于提出一种数据IO的处理方法、装置、存储介质及设备,用以提高分布式块存储系统的性能。
基于上述目的,本发明提供了一种数据IO的处理方法,包括如下步骤:
获取请求操作处理的由若干基础数据块顺序组成的数据;
将数据以预设的分割单元为单位依次进行分组,以顺序得到若干分割数据块;
依次处理并判断各分割数据块中是否有基于前序基础数据块操作处理完成的时间的时延统计记录;
响应于有分割数据块中有时延统计记录,根据时延统计记录设置等待时间段;
将分割数据块中未进行操作处理的基础数据块在等待时间段内依次合并,直到等待时间段结束或等待时间段未结束但合并的基础数据块达到了分割单元大小,停止合并;
将合并的基础数据块发送并进行操作处理。
在一些实施例中,依次处理并判断各分割数据块中是否有基于前序基础数据块操作处理完成的时间的时延统计记录包括:
判断第一个分割数据块中是否有基于前若干个基础数据块操作处理完成的时间的时延统计记录;
判断第n个分割数据块中是否有基于第n个分割数据块和/或前n-1个分割数据块中的基础数据块操作处理完成的时间的时延统计记录,其中,n为大于1的整数。
在一些实施例中,时延统计记录为若干前序基础数据块操作处理完成的平均时间。
在一些实施例中,将分割数据块中未进行操作处理的基础数据块在等待时间段内依次合并,直到等待时间段结束或等待时间段未结束但合并的基础数据块达到了分割单元大小,停止合并包括:
若分割数据块是第一个分割数据块,将第一个分割数据块中未进行操作处理的基础数据块在等待时间段内依次合并,直到等待时间段结束,停止合并;
若分割数据块是第n个分割数据块,将第n个分割数据块中未进行操作处理的基础数据块在等待时间段内依次合并,直到等待时间段结束或等待时间段未结束但合并的基础数据块达到了分割单元大小,停止合并,其中,n为大于1的整数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110047891.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置