[发明专利]数据获取方法、系统、装置、计算机设备和存储介质有效
| 申请号: | 202011622404.6 | 申请日: | 2020-12-30 |
| 公开(公告)号: | CN112748879B | 公开(公告)日: | 2023-03-10 |
| 发明(设计)人: | 原帅;张晋锋;吕灼恒;贾冬冬 | 申请(专利权)人: | 中科曙光国际信息产业有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 黄晶晶 |
| 地址: | 266100 山东省青岛市*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 获取 方法 系统 装置 计算机 设备 存储 介质 | ||
本申请涉及一种数据获取方法、系统、装置、计算机设备和存储介质。该方法包括:调度器接收第一客户端发送的数据获取请求,若分布式镜像仓库中存在空闲的镜像缓存节点,则从空闲的镜像缓存节点中确定至少一个镜像缓存节点,调用至少一个镜像缓存节点从分布式镜像仓库中的分布式存储系统中,获取数据获取请求中的数据包标识对应的至少一个数据块,并将至少一个数据块组成数据包发送给第一客户端。在本方法中,基于分布式存储系统对各个镜像数据进行分块存储,实现服务能力和存储容量的水平扩展,解决单机存储容量问题,且,通过基于分布式存储系统部署多个镜像缓存节点,极大的减少分布式存储系统的带宽压力,缩短数据包的读取延迟。
技术领域
本申请涉及互联网技术领域,特别是涉及一种数据获取方法、系统、装置、计算机设备和存储介质。
背景技术
Linux容器(Linux containers,LXC)是一种内核虚拟化技术,可以提供轻量级的虚拟化,以便隔离进程和资源,现在比较成型的技术就是通过Docker容器技术来简化软件的部署和发布。容器技术的核心在于通过镜像将运行环境打包,在容器镜像的发布管理中,镜像仓库负责镜像的存储和分发。
现有技术基于Docker Registry开源私有镜像仓库、磁盘文件系统实现整个镜像文件的存储和分发,并对Docker Registry开源私有镜像仓库进行了扩展和增强,例如,VMware Harbor、Sonatype Nexus、SUSE Portus等镜像库。
但是,上述基于磁盘文件系统的镜像仓库,是以整个镜像文件为单位进行存储或分发,导致镜像仓库进程读取延迟大,无法满足高并发高吞吐镜像请求需要。
发明内容
基于此,有必要针对上述技术问题,提供一种能够减少读取延迟的数据获取方法、系统、装置、计算机设备和存储介质。
第一方面,提供一种数据获取方法,该方法包括:
接收第一客户端发送的数据获取请求;数据获取请求包括数据包标识;
若分布式镜像仓库中存在空闲的镜像缓存节点,则从空闲的镜像缓存节点中确定至少一个镜像缓存节点;
调用至少一个镜像缓存节点从分布式镜像仓库中的分布式存储系统中,获取数据包标识对应的至少一个数据块;分布式存储系统用于对各个镜像数据进行分块存储;
将至少一个数据块组成数据包发送给第一客户端。
在本实施例中,分布式存储系统用于对各个镜像数据进行分块存储,实现服务能力和存储容量的水平扩展,解决单机存储容量问题,且,通过基于分布式存储系统部署多个镜像缓存节点,极大的减少分布式存储系统的带宽压力,缩短数据包的读取延迟。
在其中一个实施例中,上述方法还包括:
若分布式镜像仓库中不存在空闲的镜像缓存节点,则根据数据包标识确定至少一个第二客户端;第二客户端为存储有数据包标识对应数据块的其他客户端;
从至少一个第二客户端中获取数据包标识对应的至少一个数据块;
将至少一个数据块组成数据包发送给第一客户端。
在本实施例中,调度器在镜像缓存节点占用的情况下,还可以从其他客户端节点进行数据包的获取,缩短数据包的读取延迟,从而满足高并发场景下的镜像操作。
在其中一个实施例中,上述方法还包括:
确定各镜像缓存节点的资源是否正在被调度;
若镜像缓存节点的资源未被调度,则确定镜像缓存节点为空闲的镜像缓存节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科曙光国际信息产业有限公司,未经中科曙光国际信息产业有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011622404.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:便携式河底污泥处理装置及方法
- 下一篇:一种整体式低温空气加热装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





