[发明专利]一种集群数据存储方法、装置、电子设备及存储介质在审
申请号: | 202310229012.0 | 申请日: | 2023-03-07 |
公开(公告)号: | CN116383199A | 公开(公告)日: | 2023-07-04 |
发明(设计)人: | 张霖 | 申请(专利权)人: | 杭州博盾习言科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2455;G06F16/2457;G06F9/54 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 苏培华 |
地址: | 311121 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 集群 数据 存储 方法 装置 电子设备 介质 | ||
1.一种集群数据存储方法,其特征在于,所述方法包括:
获取数据存储请求,所述数据存储请求包括待存储数据和所述待存储数据对应的存储数据库信息;
响应于所述数据存储请求,根据所述存储数据库信息确定目标存储集群;其中,所述目标存储集群包含多个集群存储节点;
确定所述目标存储集群对应于消息队列中的目标消息主题,在所述目标消息主题中存储包含所述数据存储请求的目标消息;
从所述目标消息主题中消费所述目标消息,将所述目标消息中的待存储数据存储至所述目标存储集群的所有集群存储节点中。
2.根据权利要求1所述的方法,其特征在于,所述根据所述存储数据库信息确定目标存储集群,包括:
从数据库配置服务器获取数据库配置信息;其中,所述数据库配置信息包含数据库与存储集群之间的对应关系,以及存储集群与消息队列中数据消息主题之间的对应关系;
基于所述数据库配置信息,查询所述存储数据库信息对应的目标存储集群;
所述确定所述目标存储集群对应于消息队列中的目标消息主题,包括:
基于所述数据库配置信息,查询所述目标存储集群在所述消息队列中对应的目标消息主题。
3.根据权利要求1所述的方法,其特征在于,所述目标消息主题包含多个消费组,所述消费组与所述集群存储节点具有一一对应关系,所述在所述目标消息主题中存储包含所述数据存储请求的目标消息,包括:
基于所述数据存储请求生成目标消息,将所述目标消息存储至所述目标消息主题中,并建立每个所述消费组与存储在所述目标消息主题中的目标消息之间的对应关系。
4.根据权利要求3所述的方法,其特征在于,所述从所述目标消息主题中消费所述目标消息,将所述目标消息中的待存储数据存储至所述目标存储集群的所有集群存储节点中,包括:
消费所述消费组对应的目标消息,得到所述目标消息对应的数据存储请求;
将所述目标消息对应的数据存储请求,存储至所述消费组对应的目标集群存储节点中。
5.根据权利要求4所述的方法,其特征在于,所述将所述目标消息对应的数据存储请求,存储至所述消费组对应的目标集群存储节点中,包括:
在所述消费组对应的目标集群存储节点的节点状态为不可用状态的情况下,等待预设时间长度并重新从所述消费组中消费所述目标消息;
在所述消费组对应的目标集群存储节点的节点状态为可用状态的情况下,将所述待存储数据存储至所述消费组的目标数据库。
6.根据权利要求5所述的方法,其特征在于,所述将所述待存储数据存储至所述消费组的目标数据库,包括:
在所述目标数据库中存储所述待存储数据成功的情况下,更新所述消费组对应的待消费偏移量,基于更新后的待消费偏移量对所述消费组中的消息进行消费;
在所述目标数据库中存储所述待存储数据失败的情况下,等待预设时间长度并重新从所述消费组中消费所述目标消息。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
获取数据查询请求;其中,所述数据查询请求包括查询语句和所述查询语句对应的查询数据库信息;
基于所述查询数据库信息确定待查询存储集群;
基于所述查询语句对所述待查询存储集群进行查询,得到查询结果。
8.根据权利要求7所述的方法,其特征在于,所述基于所述查询语句对所述待查询存储集群进行查询,得到查询结果,包括:
从所述待查询存储集群的所有集群存储节点中,随机选取待查询节点;
基于所述查询语句对所述待查询节点进行查询,得到所述查询结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州博盾习言科技有限公司,未经杭州博盾习言科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310229012.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置