[发明专利]数据存储方法、装置、电子设备及计算机可读存储介质有效
申请号: | 202110594663.0 | 申请日: | 2021-05-28 |
公开(公告)号: | CN113220729B | 公开(公告)日: | 2023-03-21 |
发明(设计)人: | 余利华;汪源;蒋鸿翔;温正湖;李莹 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/22;G06F16/27 |
代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 王辉;阚梓瑄 |
地址: | 310052 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储 方法 装置 电子设备 计算机 可读 介质 | ||
本申请的实施方式提供了一种数据存储方法、数据存储装置、电子设备以及计算机可读存储介质,涉及数据库技术领域。该方法包括:当检测到事务提交事件时,将事务提交事件对应的事务日志写入主节点的本地事务文件中;获取主节点的本地事务文件中各事务日志对应的易失性数据;将各事务日志对应的易失性数据写入主节点的一级缓存中;基于数据筛选规则将一级缓存中的易失性数据上传至存储系统进行持久化。在本申请的实施方式中,可以利用高性能低延迟的本地硬件先将日志数据暂时存储至缓存中,再将缓存中存储的日志数据持久化至存储系统中,避免产生的日志数据需要立即上传至远端的存储系统,这样可以解除关系型数据库系统对远端的存储系统的强依赖。
技术领域
本申请的实施方式涉及数据库技术领域,更具体地,本申请的实施方式涉及数据存储方法、数据存储装置、电子设备以及计算机可读存储介质。
背景技术
云原生数据库(Cloud-Native Database)是基于共享存储的关系型数据库,大部分云原生数据库是公有云厂商基于开源关系型数据库MySQL进行二次开发得到的。云原生数据库一般是基于Shared Everything架构+Shared Storage架构的存储计算分离架构,可以分布式实现Shared Nothing水平扩展。
其中,Shared Everything架构是一种传统的数据库系统实现架构,采用的是计算节点和存储节点耦合的模式,即,一个计算节点和一个存储节点组成一个完整的数据库系统,多个计算节点间不共享存储节点。Shared Storage架构区别于Shared-Nothing架构,允许多个计算节点间访问同一个存储节点,可高效的进行计算节点扩展和存储节点扩容。MySQL采用的是传统的Shared-Nothing实现架构,主从间通过二进制日志(binlog)进行数据复制和状态同步。
现有的云原生数据库通常采用远程直接数据存取、高性能存储等非通用硬件的加速方式,且软件层的技术实现和协议栈优化也不是开源的。如果用户想要部署云原生数据库,则需要使用公有云厂商提供的标准硬件和软件服务,而现有的云原生数据库通常依赖远端的共享存储节点实现即时的日志存储,向远端的共享存储节点上传日志数据通常伴随着延迟较高的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解,因此,不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
基于上述问题,发明人进行了相应的思考,做出了有针对性的改进,提供了数据存储方法、数据存储装置、电子设备以及计算机可读存储介质,可以利用高性能低延迟的本地硬件先将日志数据暂时存储至缓存中,再将缓存中存储的日志数据持久化至存储系统中,避免产生的日志数据需要立即上传至远端的存储系统,这样可以解除关系型数据库系统对远端的存储系统的强依赖。
根据本申请实施例的第一方面,公开了一种数据存储方法,包括:
当检测到事务提交事件时,将事务提交事件对应的事务日志写入主节点的本地事务文件中;
获取主节点的本地事务文件中各事务日志对应的易失性数据;
将各事务日志对应的易失性数据写入主节点的一级缓存中;
基于数据筛选规则将一级缓存中的易失性数据上传至存储系统进行持久化。
在一个实施例中,基于前述方案,将事务提交事件对应的事务日志写入主节点的本地事务文件中之后,上述方法还包括:
将事务日志发送至与主节点对应的从节点,以使得从节点根据事务日志对应的事务级别从多种复制模式中确定目标复制模式;
根据目标复制模式将事务日志复制到从节点的本地事务文件中。
在一个实施例中,基于前述方案,多种复制模式包括同步复制模式、半同步复制模式和异步复制模式。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110594663.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种智能阀门开关装置
- 下一篇:智能化阀门装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置