[发明专利]一种批处理数据分片方法、系统、计算机设备及存储介质在审
| 申请号: | 202110161596.3 | 申请日: | 2021-02-05 | 
| 公开(公告)号: | CN112988343A | 公开(公告)日: | 2021-06-18 | 
| 发明(设计)人: | 刘胜平;崔俊荣;韩美荣 | 申请(专利权)人: | 开店宝科技集团有限公司 | 
| 主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06F9/54;G06F16/2455 | 
| 代理公司: | 上海硕力知识产权代理事务所(普通合伙) 31251 | 代理人: | 杨用玲 | 
| 地址: | 201210 上海市浦东新区中*** | 国省代码: | 上海;31 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 一种 批处理 数据 分片 方法 系统 计算机 设备 存储 介质 | ||
1.一种批处理数据分片方法,其特征在于,包括步骤:
在客户端启动时,注册服务到Zookeeper;
接收所述Zookeeper对新注册的消息发送的广播;
查询所述Zookeeper更新后的节点列表;
获得所述客户端对应的节点在所述节点列表中的当前排序位置,以及总注册数量;
根据所述当前排序位置以及所述总注册数量,计算获得所述客户端对应的分片系数。
2.根据权利要求1所述的一种批处理数据分片方法,其特征在于,所述的在客户端启动时,注册服务到Zookeeper,具体包括:
初始化Zookeeper连接;
通过开源框架与所述Zookeeper建立连接;
监听所述Zookeeper中的自定义持久节点的实时状况。
3.根据权利要求1所述的一种批处理数据分片方法,其特征在于,所述的计算获得所述客户端对应的分片系数之后,还包括步骤:
将所述分片系数发送至所述客户端,使所述客户端通过所述分片系数查询数据库中不同片区的数据。
4.一种批处理数据分片方法,其特征在于,包括步骤:
接收在客户端启动时,SDK发送的注册服务;
根据所述注册服务更新节点列表中的节点;
在节点创建完成后,对新注册的消息进行广播;
接受所述SDK在接收到所述广播后发送的节点列表查询请求,使所述SDK根据所述客户端对应的节点在所述节点列表中的当前排序位置以及总注册数量,计算获得所述客户端对应的分片系数。
5.根据权利要求4所述的一种批处理数据分片方法,其特征在于,所述的根据所述注册服务更新节点列表中的节点,具体包括:
创建自定义持久节点;
在所述自定义持久节点下创建临时顺序节点,所述临时顺序节点的序号按照节点生成的顺序自动生成。
6.根据权利要求5所述的一种批处理数据分片方法,其特征在于,还包括:在与所述客户端的连接断开后,删除对应的所述临时顺序节点;
对所述自定义持久节点下的所述临时顺序节点进行重新排序。
7.一种批处理数据分片系统,其特征在于,包括:
注册模块,用于在客户端启动时,注册服务到Zookeeper;
接收模块,用于接收所述Zookeeper对新注册的消息发送的广播;
查询模块,用于查询所述Zookeeper更新后的节点列表,获得所述客户端对应的节点在所述节点列表中的当前排序位置,以及总注册数量;
计算模块,用于根据所述当前排序位置以及所述总注册数量,计算获得所述客户端对应的分片系数。
8.根据权利要求7所述的一种批处理数据分片系统,其特征在于,还包括:发送模块,用于将所述分片系数发送至所述客户端,使所述客户端通过所述分片系数查询数据库中不同片区的数据。
9.一种计算机设备,其特征在于,包括:
存储器,用于存放运行程序;
处理器,用于执行所述存储器内存放的运行程序,实现如权利要求1至权利要求3任一项所述批处理数据分片方法所述执行的操作;
和/或;
实现如权利要求4至权利要求6任一项所述批处理数据分片方法所述执行的操作。
10.一种存储介质,其特征在于:所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如权利要求1至权利要求3任一项所述的批处理数据分片方法所执行的操作;
和/或;
实现如权利要求4至权利要求6任一项所述批处理数据分片方法所述执行的操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于开店宝科技集团有限公司,未经开店宝科技集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110161596.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种仪器仪表的密封设备
 - 下一篇:一种基于声纹信号检测燃机故障的识别方法
 
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
 - 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
 - 数据发送方法、数据发送系统、数据发送装置以及数据结构
 - 数据显示系统、数据中继设备、数据中继方法及数据系统
 - 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
 - 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
 - 数据发送和数据接收设备、数据发送和数据接收方法
 - 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 





