[发明专利]Airflow服务的部署方法及装置、存储介质、计算机设备在审
申请号: | 202310486129.7 | 申请日: | 2023-04-28 |
公开(公告)号: | CN116627437A | 公开(公告)日: | 2023-08-22 |
发明(设计)人: | 薛梦冉 | 申请(专利权)人: | 深圳前海环融联易信息科技服务有限公司 |
主分类号: | G06F8/61 | 分类号: | G06F8/61;G06F8/41;G06F8/71 |
代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 张倩怡 |
地址: | 518066 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | airflow 服务 部署 方法 装置 存储 介质 计算机 设备 | ||
1.一种Airflow服务的部署方法,其特征在于,所述方法包括:
在Ambari管理工具的根目录配置文件夹中存放Airflow服务的参数配置文件以及服务描述文件;
通过执行预编译的Airflow服务参数配置脚本,在所述根目录配置文件夹中读取所述参数配置文件中的组件配置参数和服务创建目录信息、以及读取所述服务描述文件中的Airflow服务组件;
通过执行预编译的Airflow服务功能脚本,基于所述服务创建目录信息在Ambari管理工具的文件目录下创建Airflow服务的Airflow文件目录,并基于所述组件配置参数在所述Airflow文件目录下对所述Airflow服务组件进行安装,以实现对Airflow服务的部署。
2.根据权利要求1所述的方法,其特征在于,所述参数配置文件还包括Airflow服务事项存放目录信息,所述Airflow服务事项存放目录信息包括Airflow服务日志存放目录信息以及Airflow服务进程存放目录信息;所述服务描述文件还包括组件依赖关系,所述Airflow服务组件包括Airflow scheduler任务调度组件、Airflow webserver可视化组件、以及Airflow worker任务执行组件,其中,Airflow scheduler组件依赖于Airflow worker组件;
所述通过执行预编译的Airflow服务参数配置脚本,在所述根目录配置文件夹中读取所述参数配置文件中的组件配置参数和服务创建目录信息、以及读取所述服务描述文件中的Airflow服务组件,包括:
通过执行预编译的Airflow服务参数配置脚本,在所述根目录配置文件夹中读取所述参数配置文件中的组件配置参数和Airflow服务事项存放目录信息、以及读取所述服务描述文件中的Airflow服务组件和组件依赖关系;
相应地,所述基于所述组件配置参数在所述Airflow文件目录下对所述Airflow服务组件进行安装,包括:
基于所述组件配置参数和所述组件依赖关系,在所述Airflow文件目录下进行所述Airflow scheduler任务调度组件、所述Airflow webserver可视化组件、以及所述Airflowworker任务执行组件的安装,并基于所述Airflow服务事项存放目录信息在所述Airflow文件目录下创建Airflow服务日志存放目录和Airflow服务进程存放目录。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
在Airflow服务的运行过程中,采集Airflow服务的运行日志保存在Airflow服务日志存放目录下,以及采集Airflow服务的进程控制符信息保存在Airflow服务进程存放目录下;
监控所述Airflow scheduler任务调度组件、所述Airflow webserver可视化组件、以及所述Airflow worker任务执行组件的运行状态,基于预设预警规则判断是否存在Airflow服务组件运行异常,并在任一Airflow服务组件运行异常时进行异常预警。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
在任一Airflow服务组件运行异常时,通过执行所述Airflow服务功能脚本,停止所述Airflow服务的运行;
当接收到所述Airflow服务的异常恢复信号时,通过执行所述Airflow服务功能脚本,重启所述Airflow服务。
5.根据权利要求2所述的方法,其特征在于,所述方法还包括:
显示所述Ambari管理工具的第一可视化界面;
当接收到在所述第一可视化界面上输入的Airflow服务跳转请求时,跳转至所述Airflow webserver可视化组件的第二可视化界面;
当接收到在所述第二可视化界面上输入的参数配置文件修改请求时,在所述根目录配置文件夹中读取所述参数配置文件,并在所述第二可视化界面中对所述参数配置文件中的各项配置信息进行可视化显示;
响应于对所述参数配置文件的修改确认指令,将修改后的参数配置文件更新存储在所述根目录配置文件夹中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海环融联易信息科技服务有限公司,未经深圳前海环融联易信息科技服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310486129.7/1.html,转载请声明来源钻瓜专利网。