[发明专利]数据存储方法、装置、电子设备及计算机可读存储介质有效

专利信息
申请号: 202110594663.0 申请日: 2021-05-28
公开(公告)号: CN113220729B 公开(公告)日: 2023-03-21
发明(设计)人: 余利华;汪源;蒋鸿翔;温正湖;李莹 申请(专利权)人: 网易(杭州)网络有限公司
主分类号: G06F16/2455 分类号: G06F16/2455;G06F16/22;G06F16/27
代理公司: 北京律智知识产权代理有限公司 11438 代理人: 王辉;阚梓瑄
地址: 310052 浙江省杭州*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 存储 方法 装置 电子设备 计算机 可读 介质
【说明书】:

本申请的实施方式提供了一种数据存储方法、数据存储装置、电子设备以及计算机可读存储介质,涉及数据库技术领域。该方法包括:当检测到事务提交事件时,将事务提交事件对应的事务日志写入主节点的本地事务文件中;获取主节点的本地事务文件中各事务日志对应的易失性数据;将各事务日志对应的易失性数据写入主节点的一级缓存中;基于数据筛选规则将一级缓存中的易失性数据上传至存储系统进行持久化。在本申请的实施方式中,可以利用高性能低延迟的本地硬件先将日志数据暂时存储至缓存中,再将缓存中存储的日志数据持久化至存储系统中,避免产生的日志数据需要立即上传至远端的存储系统,这样可以解除关系型数据库系统对远端的存储系统的强依赖。

技术领域

本申请的实施方式涉及数据库技术领域,更具体地,本申请的实施方式涉及数据存储方法、数据存储装置、电子设备以及计算机可读存储介质。

背景技术

云原生数据库(Cloud-Native Database)是基于共享存储的关系型数据库,大部分云原生数据库是公有云厂商基于开源关系型数据库MySQL进行二次开发得到的。云原生数据库一般是基于Shared Everything架构+Shared Storage架构的存储计算分离架构,可以分布式实现Shared Nothing水平扩展。

其中,Shared Everything架构是一种传统的数据库系统实现架构,采用的是计算节点和存储节点耦合的模式,即,一个计算节点和一个存储节点组成一个完整的数据库系统,多个计算节点间不共享存储节点。Shared Storage架构区别于Shared-Nothing架构,允许多个计算节点间访问同一个存储节点,可高效的进行计算节点扩展和存储节点扩容。MySQL采用的是传统的Shared-Nothing实现架构,主从间通过二进制日志(binlog)进行数据复制和状态同步。

现有的云原生数据库通常采用远程直接数据存取、高性能存储等非通用硬件的加速方式,且软件层的技术实现和协议栈优化也不是开源的。如果用户想要部署云原生数据库,则需要使用公有云厂商提供的标准硬件和软件服务,而现有的云原生数据库通常依赖远端的共享存储节点实现即时的日志存储,向远端的共享存储节点上传日志数据通常伴随着延迟较高的问题。

需要说明的是,在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解,因此,不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

基于上述问题,发明人进行了相应的思考,做出了有针对性的改进,提供了数据存储方法、数据存储装置、电子设备以及计算机可读存储介质,可以利用高性能低延迟的本地硬件先将日志数据暂时存储至缓存中,再将缓存中存储的日志数据持久化至存储系统中,避免产生的日志数据需要立即上传至远端的存储系统,这样可以解除关系型数据库系统对远端的存储系统的强依赖。

根据本申请实施例的第一方面,公开了一种数据存储方法,包括:

当检测到事务提交事件时,将事务提交事件对应的事务日志写入主节点的本地事务文件中;

获取主节点的本地事务文件中各事务日志对应的易失性数据;

将各事务日志对应的易失性数据写入主节点的一级缓存中;

基于数据筛选规则将一级缓存中的易失性数据上传至存储系统进行持久化。

在一个实施例中,基于前述方案,将事务提交事件对应的事务日志写入主节点的本地事务文件中之后,上述方法还包括:

将事务日志发送至与主节点对应的从节点,以使得从节点根据事务日志对应的事务级别从多种复制模式中确定目标复制模式;

根据目标复制模式将事务日志复制到从节点的本地事务文件中。

在一个实施例中,基于前述方案,多种复制模式包括同步复制模式、半同步复制模式和异步复制模式。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110594663.0/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top