[发明专利]一种日志处理方法、系统、设备及可读存储介质在审
申请号: | 202011226002.4 | 申请日: | 2020-11-05 |
公开(公告)号: | CN112433990A | 公开(公告)日: | 2021-03-02 |
发明(设计)人: | 潘利杰 | 申请(专利权)人: | 北京浪潮数据技术有限公司 |
主分类号: | G06F16/14 | 分类号: | G06F16/14;G06F16/18;G06F16/182;H04L29/06 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 徐丽 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 日志 处理 方法 系统 设备 可读 存储 介质 | ||
1.一种日志处理方法,其特征在于,包括:
对待处理日志进行归一化处理,得到指定格式的日志数据;
利用攻击类型识别沙盒,对所述日志数据标记攻击类型标签,得到标签日志数据;
将所述标签日志数据存入检索系统;
在接收日志查询请求后,利用数据查询器并结合所述攻击类型标签,从所述检索系统中检索与所述日志查询请求匹配的目标日志数据,并输出所述目标日志数据。
2.根据权利要求1所述的日志处理方法,其特征在于,将所述标签日志数据存入检索系统,包括:
将所述标签日志数据存入HDFS;
将所述标签日志数据对应的目标索引存入ES检索系统的index数据索引中。
3.根据权利要求2所述的日志处理方法,其特征在于,将所述标签日志数据存入HDFS,包括:
按照所述标签日志数据所属的产品线系统、HDFS数据目录位置存储连接、数据对应时间,将所述标签日志数据存入所述HDFS。
4.根据权利要求2所述的日志处理方法,其特征在于,所述利用数据查询器并结合所述攻击类型标签,从所述检索系统中检索与所述日志查询请求匹配的目标日志数据,包括:
解析所述日志查询请求,得到查询条件;所述查询条件包括请求查询的攻击类型;
利用所述数据查询器将所述查询条件组装为所述ES检索系统对应的ES查询语句;
将所述ES查询语句发送给所述ES检索系统,得到所述ES检索系统利用所述目标索引查询并反馈的所述目标日志数据。
5.根据权利要求1所述的日志处理方法,其特征在于,所述对待处理日志进行归一化处理,得到指定格式的日志数据,包括:
接收并解析日志分析请求,确定出目标产品线以及目标时间段;
获取所述目标产品线在所述目标时间段产生的目标日志;
将所述目标日志确定为所述待处理日志;
对所述待处理日志进行归一化处理,得到所述日志数据。
6.根据权利要求1所述的日志处理方法,其特征在于,所述对待处理日志进行归一化处理,得到指定格式的日志数据,包括:
按照所述待处理日志对应的日志格式规则,对所述待处理日志进行解析,得到日志内容信息;所述日志内容信息包括各个字段的字段名;
按照所述指定格式对应的指定日志格式规则,生成与所述日志内容信息对应的所述日志数据;所述日志数据中的各个所述字段具有对应的字段名。
7.根据权利要求6所述的日志处理方法,其特征在于,在得到所述日志内容信息之后,在所述生成与所述日志内容信息对应的所述日志数据之前,还包括:
对所述日志内容信息进行数据清洗过滤。
8.一种日志处理系统,其特征在于,包括:
日志规则转换器,用于对待处理日志进行归一化处理,得到指定格式的日志数据;
攻击类型识别沙盒,用于利用攻击类型识别沙盒,对所述日志数据标记攻击类型标签,得到标签日志数据;
结果数据转存器,用于将所述标签日志数据存入检索系统;
数据查询器,用于在接收日志查询请求后,利用数据查询器并结合所述攻击类型标签,从所述检索系统中检索与所述日志查询请求匹配的目标日志数据,并输出所述目标日志数据。
9.一种电子设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述日志处理方法的步骤。
10.一种可读存储介质,其特征在于,所述可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述日志处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京浪潮数据技术有限公司,未经北京浪潮数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011226002.4/1.html,转载请声明来源钻瓜专利网。