[发明专利]HDFS集群高可用部署方法、系统、设备及存储介质在审
申请号: | 201910543171.1 | 申请日: | 2019-06-21 |
公开(公告)号: | CN110362381A | 公开(公告)日: | 2019-10-22 |
发明(设计)人: | 汪涵 | 申请(专利权)人: | 深圳市汇川技术股份有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F9/50 |
代理公司: | 深圳市顺天达专利商标代理有限公司 44217 | 代理人: | 陆军 |
地址: | 518101 广东省深圳市龙华*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 集群 管理节点 数据节点 宿主机 可用 上传 存储介质 仓库 创建 宿主 数字化转型 资源利用率 管理容器 集群部署 集群创建 配置文件 数据存储 硬件设备 主管理 部署 门槛 配置 资金 | ||
1.一种HDFS集群高可用部署方法,其特征在于,所述高可用部署方法包括:
为所述HDFS集群创建管理节点镜像和数据节点镜像,所述管理节点镜像和数据节点镜像分别包括将所述HDFS集群配置为高可用模式的配置文件;
将所述管理节点镜像和数据节点镜像分别上传至镜像仓库;
通过Kubernetes平台将所述HDFS集群部署到多个宿主机上,并由所述Kubernetes平台基于上传至所述镜像仓库的所述管理节点镜像在第一宿主机创建主管理容器、在第二宿主机创建热备管理容器,并基于上传至所述镜像仓库的数据节点镜像在至少一个第三宿主机创建数据存储容器。
2.根据权利要求1所述的HDFS集群高可用部署方法,其特征在于,所述管理节点镜像和数据节点镜像分别包括相同的启动脚本,且所述启动脚本包括:
在主管理容器启动后,定时向所有数据存储容器广播所述主管理容器所在的第一宿主机的配置信息的程序代码;
在热备管理容器启动后,定时向所有数据存储容器广播所述热备管理容器所在的第二宿主机的配置信息的程序代码;
在数据存储容器启动后,定时向所述主管理容器和所述热备管理容器发送所述数据存储容器所在的第三宿主机的配置信息的程序代码。
3.根据权利要求2所述的HDFS集群高可用部署方法,其特征在于,所述通过Kubernetes平台将所述HDFS集群部署到多个宿主机上,包括:
通过第一yaml文件,将所述主管理容器内部的共享存储日志的端口映射到第一宿主机IP地址的对应端口上;
通过第二yaml文件,将所述热备管理容器内部的共享存储日志的端口映射到第二宿主机IP地址的对应端口上;
通过第三yaml文件,将所述数据存储容器内部的共享存储日志的端口映射到第三宿主机IP地址的对应端口上。
4.根据权利要求3所述的HDFS集群高可用部署方法,其特征在于,所述高可用部署方法还包括:
通过所述第一yaml文件,将所述主管理容器内的至少一部分数据文件挂载到所述第一宿主机;
通过所述第二yaml文件,将所述热备管理容器内的至少一部分数据文件挂载到所述第二宿主机;
通过所述第三yaml文件,将所述数据存储容器内的至少一部分数据文件挂载到所述第三宿主机。
5.一种HDFS集群高可用部署系统,其特征在于,所述高可用部署系统包括镜像创建单元、镜像上传单元以及集群部署单元,其中:
所述镜像创建单元,用于为所述HDFS集群创建管理节点镜像和数据节点镜像,所述管理节点镜像和数据节点镜像分别包括将所述HDFS集群配置为高可用模式的配置文件;
所述镜像上传单元,用于将所述管理节点镜像和数据节点镜像上传至镜像仓库;
所述集群部署单元,用于通过Kubernetes平台将所述HDFS集群部署到多个宿主机上,并由所述Kubernetes平台基于上传至所述镜像仓库的所述管理节点镜像在第一宿主机创建主管理容器、在第二宿主机创建热备管理容器,并基于上传至所述镜像仓库的数据节点镜像在至少一个第三宿主机创建数据存储容器。
6.根据权利要求5所述的HDFS集群高可用部署系统,其特征在于,所述管理节点镜像和数据节点镜像分别包括相同的启动脚本,且所述启动脚本包括:
在主管理容器启动后,定时向所有数据存储容器广播所述主管理容器所在的第一宿主机的配置信息的程序代码;
在热备管理容器启动后,定时向所有数据存储容器广播所述热备管理容器所在的第二宿主机的配置信息的程序代码;
在数据存储容器启动后,定时向所述主管理容器和所述热备管理容器发送所述数据存储容器所在的第三宿主机的配置信息的程序代码。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市汇川技术股份有限公司,未经深圳市汇川技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910543171.1/1.html,转载请声明来源钻瓜专利网。