[发明专利]一种动静态日志文件扫描采集方法在审
申请号: | 201810952495.6 | 申请日: | 2018-08-21 |
公开(公告)号: | CN109101644A | 公开(公告)日: | 2018-12-28 |
发明(设计)人: | 程永新;谢涛;张超志 | 申请(专利权)人: | 上海新炬网络信息技术股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海科律专利代理事务所(特殊普通合伙) 31290 | 代理人: | 袁亚军;金碎平 |
地址: | 201707 上海市青浦区外青*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志文件 日志采集系统 元数据信息 采集 采集文件 元数据 扫描 文件元数据信息 操作系统类型 定时扫描 记录文件 静态生成 生成文件 文件内容 文件校验 形成文件 校验 不一致 新文件 配置 追加 保存 | ||
本发明公开了一种动静态日志文件扫描采集方法,包括如下步骤:a)定时扫描文件列表,获取共同元数据信息;b)判断当前操作系统类型,记录文件列表中的特定元数据信息一起形成文件元数据信息;c)生成文件摘要,并保存到日志采集系统作为该文件的校验元数据;d)日志采集系统采集文件前,根据生成的摘要和文件元数据信息,跟日志采集系统中已存在的文件校验元数据对照;如果一致,则认为当前采集的文件内容是之前已采集文件内容的后续追加;如果不一致,则认为是新文件的内容。本发明针对日志文件多种动静态生成方式,使用同一种配置采集日志文件,而不用针对每一种情况做特定的配置,更为高效,实用性强,易于推广。
技术领域
本发明涉及一种日志文件扫描采集方法,尤其涉及一种动静态日志文件扫描采集方法,属于互联网技术领域。
背景技术
日志文件是用于记录系统操作事件的记录文件,具有处理历史数据、诊断问题的追踪以及理解系统的活动等重要作用,日志文件可以按文件大小滚动生、按时间滚动生和静态多文件生等多种静动态日志文件生成方式,目前采集系统针对不同的日志文件生成方式需配置不同的采集方式,并且当日志文件发生临时重命名时,将会出现采集失败,导致日志丢失的情况。
发明内容
本发明所要解决的技术问题是提供一种动静态日志文件扫描采集方法,针对日志文件多种动静态生成方式,使用同一种配置采集日志文件,而不用针对每一种情况做特定的配置,因此更为高效,实用性强,易于推广。
本发明为解决上述技术问题而采用的技术方案是提供一种动静态日志文件扫描采集方法,其中,包括如下步骤:a)定时扫描记录目标路径下的文件列表,获取文件列表中的共同元数据信息;b)判断当前操作系统类型,根据不同操作系统记录文件列表中的特定元数据信息;并将获得的共同元数据信息和特定元数据信息组合在一起形成文件元数据信息;c)操作系统根据文件元数据信息生成文件摘要,并将文件摘要保存到日志采集系统作为该文件的校验元数据;d)日志采集系统采集文件前,根据生成的摘要和文件元数据信息,跟日志采集系统中已存在的文件校验元数据对照;如果一致,则认为当前采集的文件内容是之前已采集文件内容的后续追加;如果不一致,则认为是新文件的内容。
进一步地,所述步骤a)中扫描获取的共同元数据信息包括扫描记录文件的文件名、文件大小、是否可读、是否可写、绝对路径、是否为隐藏文件和最后创建修改时间。
进一步地,所述步骤b)中的操作系统为Windows系统,所述Windows系统记录文件创建时间、文件在卷中唯一索引和部分文件内容作为参数生成文件摘要,所述文件摘要和文件元数据信息一起保存到日志采集系统作为该文件的校验元数据。
进一步地,所述Windows系统调用GetFileAttributes接口,获取Windows文件的更新时间和文件大小属性,使用GetFileInformationByHandle获取卷内唯一标识,并与更新时间、文件大小属性一起,采用MD5或SHA算法生成长度固定的文件摘要。
进一步地,所述步骤b)中的操作系统为Linux系统,所述Linux系统记录inode信息作为全文件系统唯一标识,并与更新时间、文件大小属性一起,采用MD5或SHA算法生成长度固定的文件摘要,并保存到日志采集系统作为该文件的校验元数据。
本发明对比现有技术有如下的有益效果:本发明提供的动静态日志文件扫描采集方法,针对日志文件多种动静态生成方式,使用同一种配置采集日志文件,而不用针对每一种情况做特定的配置,而且支持日志文件动态变更文件名的情况下,被采集系统采集其内容,因此更为高效,实用性强,易于推广。
附图说明
图1为本发明动静态日志文件扫描与采集方法过程示意图。
具体实施方式
下面结合附图对本发明作进一步的描述。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海新炬网络信息技术股份有限公司,未经上海新炬网络信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810952495.6/2.html,转载请声明来源钻瓜专利网。