[发明专利]共用数据流处理拓扑的方法、装置、设备及介质有效
| 申请号: | 201711494363.5 | 申请日: | 2017-12-31 |
| 公开(公告)号: | CN110019369B | 公开(公告)日: | 2022-06-07 |
| 发明(设计)人: | 黄庆荣;郑志欢;陈钰铖;李井生;黄唯静;高翔 | 申请(专利权)人: | 中国移动通信集团福建有限公司;中国移动通信集团公司 |
| 主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/21 |
| 代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 贺琳 |
| 地址: | 350003 *** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 共用 数据流 处理 拓扑 方法 装置 设备 介质 | ||
1.一种共用数据流处理拓扑的方法,其特征在于,所述方法包括:
对预先生成的XML配置文件进行解析,获取数据源参数;
将解析获取的数据源参数与运行中拓扑的目标XML配置文件的数据源参数进行比对;
若存在一致的数据源,则调整运行中的拓扑的目标XML配置文件,以使目标配置文件与该XML配置文件对接;
若不存在一致的数据源,则为该XML配置文件分配新的资源,构建拓扑结构;
所述对预先生成的XML配置文件进行解析,获取数据源参数,包括:
获取预先生成的XML配置文件的编号、版本信息,根据预先存储的解析过的XML配置文件的编号、版本信息,判断该XML配置文件是否被解析过;
若 该XML配置文件未被解析过,则对该XML配置文件进行解析,获取数据源参数。
2.根据权利要求1所述的方法,其特征在于,所述数据源参数为XML配置文件被解析出的Spout组件的参数。
3.根据权利要求1所述的方法,其特征在于,所述若存在一致的数据源,则调整运行中的拓扑的目标XML配置文件,以使目标配置文件与该XML配置文件对接,包括:
若存在一致的数据源,则将该XML配置文件的Bolt组件与运行中的拓扑的目标XML配置文件的Spout组件进行对接,以对运行中的拓扑进行调整。
4.根据权利要求1所述的方法,其特征在于,所述若存在一致的数据源,在所述调整运行中的拓扑的目标XML配置文件之前,还包括:维护预先生成的XML配置文件与目标XML配置文件的映射关系。
5.根据权利要求1所述的方法,其特征在于,在所述若存在一致的数据源,则调整运行中的拓扑的目标XML配置文件,以使目标配置文件与该XML配置文件对接的步骤之后,还包括:
对运行中的拓扑的目标XML配置文件的Zookeeper状态进行更新;
根据更新的Zookeeper状态,识别发生变化的目标XML配置文件,以对运行中的拓扑进行调整。
6.根据权利要求5所述的方法,其特征在于,所述根据更新的Zookeeper状态,识别发生变化的目标XML配置文件,以对运行中的拓扑进行调整,包括:
实时监听Zookeeper状态,若识别到Zookeeper状态标识的目标XML配置文件发生变化,则对目标XML配置文件进行解析;
根据对目标XML配置文件的解析结果,识别目标XML配置文件中发生变化的拓扑结构;
为发生变化的拓扑结构分配资源,并启动发生变化拓扑结构;
将发生变化的拓扑结构向运行中的拓扑的结构中的数据源Spout组件发起订阅,根据所述数据源Spout接受订阅后的反馈,将发生变化的拓扑结构维护至运行中的拓扑结构中,以对拓扑进行动态调整。
7.一种共用数据流处理拓扑的装置,其特征在于,所述装置包括:
分析模块,用于对预先生成的XML配置文件进行分析,获取数据源参数;
比对模块,用于将解析获取的数据源参数与运行中拓扑目标XML配置文件的数据源参数进行比对;
调整模块,用于在存在一致的数据源时,调整运行中的拓扑的目标XML配置文件,以使目标配置文件与该XML配置文件对接;在不存在一致的数据源时,为该XML配置文件分配新的资源,构建拓扑结构;
解析模块,具体用于获取预先生成的XML配置文件的编号、版本信息,根据预先存储的解析过的XML配置文件的编号、版本信息,判断该XML配置文件是否被解析过;
若 该XML配置文件未被解析过,则对该XML配置文件进行解析,获取数据源参数。
8.一种共用数据流处理拓扑的设备,其特征在于,包括:至少一个处理器、至少一个存储器以及存储在所述存储器中的计算机程序指令,当所述计算机程序指令被所述处理器执行时实现如权利要求1-6中任一项所述的方法。
9.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,当所述计算机程序指令被处理器执行时实现如权利要求1-6中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团福建有限公司;中国移动通信集团公司,未经中国移动通信集团福建有限公司;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711494363.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:工业数据分析方法及装置、计算机存储介质
- 下一篇:流式大数据处理方法





