[发明专利]日志数据的处理方法和装置有效

专利信息
申请号: 201410510672.7 申请日: 2014-09-28
公开(公告)号: CN104281672B 公开(公告)日: 2021-02-12
发明(设计)人: 赵丰富 申请(专利权)人: 网神信息技术(北京)股份有限公司
主分类号: G06F16/18 分类号: G06F16/18;G06F16/13;G06F16/14;G06F16/28
代理公司: 北京集智东方知识产权代理有限公司 11578 代理人: 陈亚斌
地址: 100085 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 日志 数据 处理 方法 装置
【权利要求书】:

1.一种日志数据的处理方法,其特征在于,包括:

将读取到的网络设备的日志信息按照预设格式写入日志文件中;

建立所述日志信息的时间与所述日志信息的位置的映射关系,得到时间索引文件;

从所述日志文件中的日志信息中提取预设字段,并建立所述预设字段与所述日志信息的映射关系,生成镜像文件;

在获取到用户的查询请求之后,使用所述时间索引文件或所述镜像文件获取所述查询请求所指示查询的日志,

其中,所述时间索引文件和所述镜像文件保存在数据库中;

在获取到用户的查询请求之后,使用所述时间索引文件或所述镜像文件获取所述查询请求所指示查询的日志包括:

判断所述查询请求是否为精确查询请求;

若所述查询请求为所述精确查询请求,则从所述查询请求中提取查询参数,从所述镜像文件中读取与所述查询参数对应的所述预设字段,并获取所述查询请求所指示查询的日志;

若所述查询请求不为所述精确查询请求,则获取所述查询请求中的查询对象,按照所述时间索引文件在所述日志文件中查找存在所述查询对象的日志信息,逐条读取存在所述查询对象的日志,其中,查询对象为字符串。

2.根据权利要求1所述的处理方法,其特征在于,将读取到的网络设备的日志信息按照预设格式写入日志文件中包括:

从网络设备实时读取所述日志信息;

获取所述日志信息的IP地址和为所述日志信息分配的日志ID;

为所述日志信息添加水印和结束标志位;

将所述日志信息的数据长度、所述日志ID、所述IP地址、所述水印、所述结束标志位和所述日志信息按照所述预设格式写入所述日志文件。

3.根据权利要求2所述的处理方法,其特征在于,获取所述日志信息的IP地址和为所述日志信息分配的日志ID包括:

获取预先设置的配置信息,其中,所述配置信息中携带有预设编码类型;

判断读取到的所述日志信息的编码类型是否符合所述预设编码类型;

在所述日志信息的编码类型不符合所述预设编码类型的情况下,对所述日志信息进行转码处理,得到符合所述预设编码类型的日志信息;

判断所述符合所述预设编码类型的日志信息中是否存在分隔符;

在所述符合所述预设编码类型的日志信息中存在所述分隔符的情况下,将所述符合所述预设编码类型的日志信息分割为多条日志子信息;

获取所述日志子信息的所述IP地址和为所述日志子信息分配的所述日志ID;

在所述符合所述预设编码类型的日志信息中不存在所述分隔符的情况下,直接获取所述日志信息的所述IP地址和为所述日志信息分配的所述日志ID。

4.根据权利要求1所述的处理方法,其特征在于,从所述日志文件中的日志信息中提取预设字段,并建立所述预设字段与所述日志信息的映射关系,生成镜像文件包括:

按照所述预设格式从所述日志文件中逐条读取所述日志信息,并记录每一条所述日志信息的位置;

对读取到的所述日志信息进行解析,从解析后的日志信息中提取所述预设字段;

建立所述预设字段与所述日志信息的位置的映射关系;

基于所述预设字段、所述日志信息的位置以及所述映射关系生成所述镜像文件;

将所述镜像文件保存入所述数据库。

5.根据权利要求4中所述的处理方法,其特征在于,

在按照所述预设格式从所述日志文件中逐条读取所述日志信息之前,所述处理方法还包括:导入上次读取结束的位置;在所述上次读取结束的位置不正确的情况下,按照所述预设格式从所述日志文件中读取所述上次读取结束的位置所指示的下一条日志信息;

对读取到的所述日志信息进行解析包括:

对所述读取到的所述日志信息进行校验处理,在所述读取到的所述日志信息为完整数据的情况下,对所述读取到的所述日志信息进行解析;在所述读取到的所述日志信息不为完整数据的情况下,对下一条日志信息进行解析。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网神信息技术(北京)股份有限公司,未经网神信息技术(北京)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201410510672.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top