[发明专利]日志数据的处理方法和装置有效
申请号: | 201410510672.7 | 申请日: | 2014-09-28 |
公开(公告)号: | CN104281672B | 公开(公告)日: | 2021-02-12 |
发明(设计)人: | 赵丰富 | 申请(专利权)人: | 网神信息技术(北京)股份有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18;G06F16/13;G06F16/14;G06F16/28 |
代理公司: | 北京集智东方知识产权代理有限公司 11578 | 代理人: | 陈亚斌 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志 数据 处理 方法 装置 | ||
1.一种日志数据的处理方法,其特征在于,包括:
将读取到的网络设备的日志信息按照预设格式写入日志文件中;
建立所述日志信息的时间与所述日志信息的位置的映射关系,得到时间索引文件;
从所述日志文件中的日志信息中提取预设字段,并建立所述预设字段与所述日志信息的映射关系,生成镜像文件;
在获取到用户的查询请求之后,使用所述时间索引文件或所述镜像文件获取所述查询请求所指示查询的日志,
其中,所述时间索引文件和所述镜像文件保存在数据库中;
在获取到用户的查询请求之后,使用所述时间索引文件或所述镜像文件获取所述查询请求所指示查询的日志包括:
判断所述查询请求是否为精确查询请求;
若所述查询请求为所述精确查询请求,则从所述查询请求中提取查询参数,从所述镜像文件中读取与所述查询参数对应的所述预设字段,并获取所述查询请求所指示查询的日志;
若所述查询请求不为所述精确查询请求,则获取所述查询请求中的查询对象,按照所述时间索引文件在所述日志文件中查找存在所述查询对象的日志信息,逐条读取存在所述查询对象的日志,其中,查询对象为字符串。
2.根据权利要求1所述的处理方法,其特征在于,将读取到的网络设备的日志信息按照预设格式写入日志文件中包括:
从网络设备实时读取所述日志信息;
获取所述日志信息的IP地址和为所述日志信息分配的日志ID;
为所述日志信息添加水印和结束标志位;
将所述日志信息的数据长度、所述日志ID、所述IP地址、所述水印、所述结束标志位和所述日志信息按照所述预设格式写入所述日志文件。
3.根据权利要求2所述的处理方法,其特征在于,获取所述日志信息的IP地址和为所述日志信息分配的日志ID包括:
获取预先设置的配置信息,其中,所述配置信息中携带有预设编码类型;
判断读取到的所述日志信息的编码类型是否符合所述预设编码类型;
在所述日志信息的编码类型不符合所述预设编码类型的情况下,对所述日志信息进行转码处理,得到符合所述预设编码类型的日志信息;
判断所述符合所述预设编码类型的日志信息中是否存在分隔符;
在所述符合所述预设编码类型的日志信息中存在所述分隔符的情况下,将所述符合所述预设编码类型的日志信息分割为多条日志子信息;
获取所述日志子信息的所述IP地址和为所述日志子信息分配的所述日志ID;
在所述符合所述预设编码类型的日志信息中不存在所述分隔符的情况下,直接获取所述日志信息的所述IP地址和为所述日志信息分配的所述日志ID。
4.根据权利要求1所述的处理方法,其特征在于,从所述日志文件中的日志信息中提取预设字段,并建立所述预设字段与所述日志信息的映射关系,生成镜像文件包括:
按照所述预设格式从所述日志文件中逐条读取所述日志信息,并记录每一条所述日志信息的位置;
对读取到的所述日志信息进行解析,从解析后的日志信息中提取所述预设字段;
建立所述预设字段与所述日志信息的位置的映射关系;
基于所述预设字段、所述日志信息的位置以及所述映射关系生成所述镜像文件;
将所述镜像文件保存入所述数据库。
5.根据权利要求4中所述的处理方法,其特征在于,
在按照所述预设格式从所述日志文件中逐条读取所述日志信息之前,所述处理方法还包括:导入上次读取结束的位置;在所述上次读取结束的位置不正确的情况下,按照所述预设格式从所述日志文件中读取所述上次读取结束的位置所指示的下一条日志信息;
对读取到的所述日志信息进行解析包括:
对所述读取到的所述日志信息进行校验处理,在所述读取到的所述日志信息为完整数据的情况下,对所述读取到的所述日志信息进行解析;在所述读取到的所述日志信息不为完整数据的情况下,对下一条日志信息进行解析。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网神信息技术(北京)股份有限公司,未经网神信息技术(北京)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410510672.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置