[发明专利]数据处理方法、装置、系统、服务器及计算机存储介质有效
| 申请号: | 201710555162.5 | 申请日: | 2017-06-30 |
| 公开(公告)号: | CN107391303B | 公开(公告)日: | 2021-02-23 |
| 发明(设计)人: | 张恒;杨挺 | 申请(专利权)人: | 北京奇虎科技有限公司 |
| 主分类号: | G06F11/14 | 分类号: | G06F11/14;H04L29/08 |
| 代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
| 地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 系统 服务器 计算机 存储 介质 | ||
1.一种数据处理方法,应用于包括一个主节点和多个子节点的数据存储系统,所述方法由各个子节点并行执行,包括:
根据数据备份请求,启动用于连接子节点与中间存储系统的数据备份服务,其中,所述数据备份服务预先配置有用于将数据备份至中间存储系统中的指定路径,所述中间存储系统独立于所述数据存储系统;
读取以数据表形式分布式存储于所述子节点中的数据,根据所述指定路径,通过所述数据备份服务将数据以数据文件的形式备份至中间存储系统中。
2.根据权利要求1所述的方法,其中,所述方法还包括:在数据备份完成后,注销用于连接子节点与中间存储系统的数据备份服务。
3.根据权利要求1或2所述的方法,其中,所述根据指定路径,通过所述数据备份服务将数据以数据文件的形式备份至中间存储系统中进一步包括:
针对不同的数据表,在所述指定路径下自动创建数据表存储目录,所述数据表存储目录的目录名至少包含数据表标识;
根据所述数据表存储目录,通过所述数据备份服务将数据以数据文件的形式备份至中间存储系统中。
4.根据权利要求3所述的方法,其中,针对一个数据表,每个子节点存储该数据表的部分数据;
所述通过数据备份服务将数据以数据文件的形式备份至中间存储系统中进一步包括:
针对每一个数据表,通过数据备份服务将子节点存储的该数据表的部分数据以一个单独的数据文件的形式备份至中间存储系统中。
5.根据权利要求4所述的方法,其中,所述方法还包括:
所述中间存储系统对指定路径下的各数据文件进行压缩处理,得到压缩处理后的数据文件。
6.根据权利要求5所述的方法,其中,所述多个子节点中的至少一个子节点根据所述指定路径,通过所述数据备份服务将数据表的数据表结构以表文件形式备份至中间存储系统中。
7.根据权利要求6所述的方法,其中,所述方法还包括:
根据数据恢复请求,启动用于连接各个子节点与中间存储系统的数据恢复服务,其中,所述数据恢复服务预先配置有用于读取中间存储系统中数据的指定路径;
根据所述指定路径,通过所述数据恢复服务读取所述中间存储系统中的表文件以及数据文件;
按照数据重分发策略依次判断数据文件中的各个数据分片是否属于该子节点待存储的数据;
若是,则由该子节点存储对应的数据分片;
若否,则将数据分片分发给对应的子节点进行存储。
8.根据权利要求7所述的方法,其中,所述按照数据重分发策略依次判断数据文件中的各个数据分片是否属于该子节点待存储的数据进一步包括:
确定数据分片中属于预设分布列的数据;
对属于预设分布列的数据进行哈希处理,得到哈希值;
依据所述哈希值判断数据文件中的各个数据分片是否属于该子节点待存储的数据;
所述将数据分片分发给对应的子节点进行存储进一步包括:
根据所述哈希值将数据分发至对应的子节点进行存储。
9.根据权利要求7或8所述的方法,其中,在所述按照数据重分发策略依次判断数据文件中的各个数据分片是否属于该子节点待存储的数据之前,所述方法还包括:
对读取的数据文件进行解压缩处理。
10.根据权利要求9所述的方法,其中,所述方法还包括:在数据恢复完成后,注销用于连接子节点与中间存储系统的数据恢复服务。
11.根据权利要求10所述的方法,其中,所述中间存储系统中数据文件以数据表标识、子节点标识命名,并携带有备份时间信息。
12.根据权利要求11所述的方法,其中,所述中间存储系统中存储的数据文件的数量与数据表数量和子节点数量相关。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710555162.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:位图数据管理方法及装置
- 下一篇:电子计算机单板及服务器调试系统





