[发明专利]业务数据流的解析方法及其装置在审
申请号: | 201911142450.3 | 申请日: | 2019-11-20 |
公开(公告)号: | CN111026400A | 公开(公告)日: | 2020-04-17 |
发明(设计)人: | 杨立鹏;樊春美;李雯;单杏花;朱建军;张志强;阎志远;张智;朱颖婷;王思宇;陈曹振;王拓;马杰;吕晓艳;李天翼;汪健雄;于澎 | 申请(专利权)人: | 中国铁道科学研究院集团有限公司电子计算技术研究所;北京经纬信息技术有限公司;中铁程科技有限责任公司 |
主分类号: | G06F8/41 | 分类号: | G06F8/41 |
代理公司: | 北京汇思诚业知识产权代理有限公司 11444 | 代理人: | 冯伟 |
地址: | 100081 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 业务 数据流 解析 方法 及其 装置 | ||
本申请提出了一种业务数据流的解析方法及其装置,该方法包括:获取待解析的业务数据流,以及对应的逻辑数据流。对逻辑数据流进行解析,以确定待解析的业务数据流对应的第一解析逻辑。使用第一解析逻辑对待解析的业务数据流进行解析,以生成第一解析结果。由此,实现了根据逻辑数据流,确定业务数据流对应的第一解析逻辑,来对业务数据流进行解析,从而能够对不同的业务数据流采用不同的第一解析逻辑进行解析,能够灵活地实时更新解析程序的解析逻辑,减少解析程序重启更新的次数。
技术领域
本申请涉及数据处理技术领域,尤其涉及一种业务数据流的解析方法及其装置。
背景技术
业务系统在运行过程中,通过日志来记录业务系统的工作记录,对业务系统的日志进行实时地采集和解析,能够及时发现业务系统存在的问题,并进行及时处理,目前通常采用分布式的架构和实时计算框架(比如Flink处理框架、Spark计算平台),来完成日志的采集和解析。
对于不同的业务需求,同一份日志数据需要以不同的格式进行存储,相应地需要使用不同的解析程序对日志进行解析,对于解析程序的开发和维护需要消耗人力和时间。
相关技术中,通过采用改变配置文件的方式来更新解析相关的配置,进而更新解析程序,避免了对解析程序的重复开发,减少了解析程序维护成本。但是,在分布式架构中,配置文件的存放和更新无法满足使用需求。
发明内容
本申请实施例提供了一种业务数据流的解析方法及其装置,通过对逻辑数据流进行解析,来确定业务数据流对应的第一解析逻辑,从而能够实时地更新解析程序的解析逻辑,减少解析程序重启更新的次数。
第一方面,本申请实施例提供了一种业务数据流的解析方法,包括以下步骤:获取待解析的业务数据流,以及对应的逻辑数据流;对所述逻辑数据流进行解析,以确定所述待解析的业务数据流对应的第一解析逻辑;以及使用所述第一解析逻辑对所述待解析的业务数据流进行解析,以生成第一解析结果。
和现有技术相比,本申请实现了根据逻辑数据流,确定业务数据流对应的第一解析逻辑,来对业务数据流进行解析,从而能够对不同的业务数据流采用不同的第一解析逻辑进行解析,能够灵活地实时更新解析程序的解析逻辑,减少解析程序重启更新的次数。
可选地,在所述获取待解析的业务数据流之前,还包括:将所述第一解析逻辑注入所述逻辑数据流中。
可选地,所述对所述逻辑数据流进行解析,以确定所述待解析的业务数据流对应的第一解析逻辑,包括:对所述逻辑数据流进行解析,以生成所述第一解析逻辑的解析算子。
可选地,所述使用所述第一解析逻辑对所述待解析的业务数据流进行解析,以生成第一解析结果,包括:使用所述解析算子对所述待解析的业务数据流进行解析,以生成所述第一解析结果。
可选地,在所述使用所述第一解析逻辑对所述待解析的业务数据流进行解析,以生成第一解析结果之后,还包括:从所述逻辑数据流中确定所述第一解析结果对应的第二解析逻辑;使用所述第二解析逻辑对所述第一解析结果进行解析,以生成第二解析结果。
第二方面,本申请实施例还提供了一种业务数据流的解析装置,包括:获取模块,用于获取待解析的业务数据流,以及对应的逻辑数据流;第一解析模块,用于对所述逻辑数据流进行解析,以确定所述待解析的业务数据流对应的第一解析逻辑;以及第二解析模块,用于使用所述第一解析逻辑对所述待解析的业务数据流进行解析,以生成第一解析结果。
可选地,所述装置还包括:注入模块,用于将所述第一解析逻辑注入所述逻辑数据流中。
可选地,所述第一解析模块,具体用于对所述逻辑数据流进行解析,以生成所述第一解析逻辑的解析算子。
可选地,所述第二解析模块,具体用于使用所述解析算子对所述待解析的业务数据流进行解析,以生成所述第一解析结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国铁道科学研究院集团有限公司电子计算技术研究所;北京经纬信息技术有限公司;中铁程科技有限责任公司,未经中国铁道科学研究院集团有限公司电子计算技术研究所;北京经纬信息技术有限公司;中铁程科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911142450.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种玉米移栽种植用种植器
- 下一篇:用于微纳卫星的电子拓扑架构