[发明专利]一种自动化安装分布式大数据平台CDH方法在审
申请号: | 201910568151.X | 申请日: | 2019-06-27 |
公开(公告)号: | CN110286921A | 公开(公告)日: | 2019-09-27 |
发明(设计)人: | 刘洋;沈磊;李彦生;郝建维;张强;安飞虎;刘秋辉;王嬛 | 申请(专利权)人: | 四川中电启明星信息技术有限公司;国网信息通信产业集团有限公司 |
主分类号: | G06F8/61 | 分类号: | G06F8/61;G06F16/27 |
代理公司: | 成都君合集专利代理事务所(普通合伙) 51228 | 代理人: | 贾林 |
地址: | 610000 四川省成都市郫*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 大数据 管理控制台 自动化安装 节点服务器 基础环境 集群 配置 登陆 有效地实现 自定义信息 环境准备 基本信息 基础服务 脚本配置 结果检查 配置文件 验证服务 运行环境 运行流程 高效性 失误率 脚本 密钥 部署 检查 服务 | ||
1.一种自动化安装分布式大数据平台CDH方法,其特征在于:具体包括以下步骤:
S10:环境准备;具体是指:对各节点服务器的基础环境进行检查,准备好安装资源;
S20:脚本配置;根据配置文件要求,对所有节点服务器的基本信息及用户的自定义信息配置完毕;
S30:安装部署;根据执行脚本的运行流程配置集群基础环境及大数据运行环境,具体包括基础服务配置、搭建NTP服务、SSH免密钥登陆、java环境、安装CDH管理控制台服务以及验证服务状态;
S40:结果检查;登陆CDH管理控制台查看结果。
2.根据权利要求1所述的一种自动化安装分布式大数据平台CDH方法,其特征在于:所述步骤S10中对各节点服务器的基础环境进行检查,具体包括:
步骤S11:判断各节点服务器的操作系统版本是否符合要求;
若否,则需要重新安装操作系统;
步骤S12:对各节点服务器操作系统的系统架构检查,判断操作系统是否为x86_64的系统架构;
步骤S13:对各节点服务器操作系统的IP网络进行检查,测试各节点之间是否连通;
步骤S14:检查各个节点服务器的配置文件、安装包及执行脚本。
3.根据权利要求2所述的一种自动化安装分布式大数据平台CDH方法,其特征在于:所述步骤S20具体包括:
步骤S21:检查所有节点服务器的IP地址、SSH端口、root用户密码、用户大数据平台安装的自定义信息配置到部署文件里;
若否,需要针对提示未合理设置的地方修改;
步骤S22:检查所有节点服务器的配置信息是否正确,以及自定义信息配置是否合理;
若否,则需要针对异常和不合理信息做出调整。
4.根据权利要求1所述的一种自动化安装分布式大数据平台CDH方法,其特征在于:所述步骤S30具体包括单机配置安装和联机配置安装:所述单机配置安装具体包括以下步骤:
步骤S31:所有节点按照脚本配置信息的对应关系,设置各服务器的IP为静态IP,设置完成后重启NETWORK服务;
步骤S32:所有节点按照脚本配置信息的对应关系,设置各服务器的机器名为相应的统一格式,并按照顺序命名;
步骤S33:所有节点按照配置文件的对应关系,修改hosts文件,加入各个节点IP以及对应的机器名;
步骤S34:确认相互各个节点都能连通,且没有丢包现象,保证网络的正常;
步骤S35:所有节点的变量设置:具体是指:修改所有节点swappiness的值和transparent_hugepage的值;所有节点调整配置为开机自启动修改;
步骤S36:关闭所有节点的防火墙和selinux;取消开机自启动。
5.根据权利要求4所述的一种自动化安装分布式大数据平台CDH方法,其特征在于:所述联机配置安装具体是指:根据既有流程配置集群运行环境,包括NTP服务、SSH免密钥登陆、JAVA环境、安装CDH管理控制台服务,执行完毕,验证各个服务状态操作;具体包括以下步骤:
步骤S311:配置所有服务器的运行环境;
步骤S312:所有节点服务器互信;判断所有节点验证互信是否成功,通过SSH到各个节点,验证是否配置成功;
若否,则检查个别服务器SSH状态异常原因,排查权限的问题;
步骤S313:检查所有节点是否是中国时区;若否,则更改成中国时区;
步骤S314:所有节点配置系统的yum源,以管理节点为HTTP服务器,其余所有节点配置;验证所有节点的yum源是否配置正确;
步骤S315:所有节点安装搭建NTP服务,配置所有节点的时间服务器为同一台时间服务器,并验证是否成功;
若否,则检查个别服务器异常原因,排查是否NTP组件安装失败或者未启动的异常;
步骤S316:安装mysql服务;
步骤S317:安装基础运行服务组件;
步骤S318:启动服务组件;具体是指:根据所述配置管理节点启动CDH管理控制台服务,并把服务器加入开机自启动当中;根据所述检查验证服务状态;通过日志检查和端口检查,验证启动成功。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川中电启明星信息技术有限公司;国网信息通信产业集团有限公司,未经四川中电启明星信息技术有限公司;国网信息通信产业集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910568151.X/1.html,转载请声明来源钻瓜专利网。