[发明专利]数据缓存方法、装置、设备及存储介质有效
| 申请号: | 202011607295.0 | 申请日: | 2020-12-29 |
| 公开(公告)号: | CN112698789B | 公开(公告)日: | 2022-03-15 |
| 发明(设计)人: | 邱龙金;赵勇;王子骏;马立珂 | 申请(专利权)人: | 广州鼎甲计算机科技有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F11/14 |
| 代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 卢晓霞 |
| 地址: | 510670 广东省广州市广州*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 缓存 方法 装置 设备 存储 介质 | ||
本申请涉及一种数据缓存方法、装置、设备及存储介质,所述方法包括:将磁盘文件中的备份数据备份至备份服务器的过程中,产生的增量数据包添加至增量发送队列中;增量数据包表示备份数据的变化数据;若增量发送队列的数据量大于或等于预设的第一数据量阈值,则获取并存储备份数据的变化参数;变化参数用于描述备份数据中的变化数据;在增量发送队列存在空余空间的情况下,根据变化参数获取对应的目标增量数据包,并将目标增量数据包添加至增量发送队列中。本申请实施例提供的技术方案可以提高数据实时备份的成功率。
技术领域
本申请涉及网络技术领域,特别是涉及一种数据缓存方法、装置、设备及存储介质。
背景技术
在数据实时备份的过程中,生产端主机将变化数据发送到备份服务器中进行实时同步,而当生产端主机产生变化数据产生的速度超过了向备份服务器发送数据速度,生产端主机就需要将变化数据在本地进行缓存。
在进行本地缓存时,传统的变化数据缓存方式通常是将本地外存磁盘空间或者内存缓冲队列作为缓冲区,在缓冲区内进行变化数据的缓存。
然而,上述变化数据缓存方式在变化数据产生的速度一直超过发送数据的速度的情况下,就会导致缓冲区溢出,从而使得数据实时备份过程被中断,产生数据丢失的风险,降低了数据实时备份的成功率。
发明内容
基于此,本申请实施例提供了一种数据缓存方法、装置、设备及存储介质,可以提高数据实时备份的成功率。
第一方面,提供了一种数据缓存方法,该方法包括:
将磁盘文件中的备份数据备份至备份服务器的过程中,产生的增量数据包添加至增量发送队列中;增量数据包表示备份数据的变化数据;若增量发送队列的数据量大于或等于预设的第一数据量阈值,则获取并存储备份数据的变化参数;变化参数用于描述备份数据中的变化数据;在增量发送队列存在空余空间的情况下,根据变化参数获取对应的目标增量数据包,并将目标增量数据包添加至增量发送队列中。
在其中一个实施例中,变化参数包括元数据和变化数据位图;获取并存储备份数据的变化参数,包括:
从磁盘的写输入输出包中获取元数据,并将元数据存储至增量元数据队列中;若增量元数据队列的数据量大于或等于预设的第二数据量阈值,则根据备份数据的变化数据生成变化数据位图,并将变化数据位图存储至内存映射文件中。
在其中一个实施例中,根据变化参数获取对应的目标增量数据包,并将目标增量数据包添加至增量发送队列中,包括:
根据元数据从对应的备份数据中获取目标增量数据包,并将目标增量数据包添加至增量发送队列中;元数据包括输入输出包写入的时间戳、磁盘名、在磁盘中的偏移以及变化数据的长度;若增量元数据队列的数据量大于或等于预设的第二数据量阈值,则根据变化数据位图获取目标增量数据包,并将目标增量数据包添加至增量发送队列中。
在其中一个实施例中,根据变化数据位图获取目标增量数据包,并将目标增量数据包添加至增量发送队列中,包括:
在增量元数据队列为空的情况下,调用CBT处理线程根据变化数据位图的有效数据位从备份数据中获取目标增量数据包,并将目标增量数据包添加至增量发送队列中。
在其中一个实施例中,上述方法还包括:
若增量元数据队列的数据量小于第二数据量阈值,则获取新的元数据,并将新的元数据存储至临时缓存队列中;新的元数据为CBT处理线程执行期间备份数据产生的元数据;若CBT处理线程执行完毕,则将临时缓存队列中的新的元数据添加至增量元数据队列。
在其中一个实施例中,上述方法还包括:
若CBT处理线程执行完毕,则释放内存映射文件对应的存储资源。
在其中一个实施例中,上述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州鼎甲计算机科技有限公司,未经广州鼎甲计算机科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011607295.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高纯α相氮化硅纤维毡的制备方法
- 下一篇:一种多功能配电箱及使用方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





