[发明专利]大规模集群下各节点日志的抓取和展示系统在审
申请号: | 201510928876.7 | 申请日: | 2015-12-12 |
公开(公告)号: | CN105553716A | 公开(公告)日: | 2016-05-04 |
发明(设计)人: | 武新;崔维力;李南峰 | 申请(专利权)人: | 天津南大通用数据技术股份有限公司 |
主分类号: | H04L12/24 | 分类号: | H04L12/24;G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 300384 天津市西青区华苑产*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 大规模 集群 节点 日志 抓取 展示 系统 | ||
1.一种大规模集群下各节点日志的抓取和展示系统,包括集群中节点 中布置了日志抓取和展示工具的各节点服务端和需要查询日志抓取和展示 工具的节点客户端,其特征在于:所述节点客户端包括读取包含集群节点和 日志配置文件的节点读取模块,解析出日志名称对应节点地址、日志时间和 存放路径的节点信息解析模块,用于输入开始时间参数、结束时间参数和过 滤时间参数的参数输入模块,用于将输入参数组装为查询请求发送到配置文 件中对应节点地址上的节点组装模块,用于接收来自各节点服务端应答的节 点信息接收模块和对各节点返回信息进行会总并按展示所有日志及日志在 各节点中出现次数的节点统计模块;所述各节点服务端包括监听节点客户端 的监听模块,用于接收节点客户端连接请求的请求信号接收模块,接收日志 查询请求的日志信号接收模块,解析出查询请求中包含参数的参数解析模 块,根据参数信息对日志进行查找过滤的查找过滤模块和将查询到符合要求 日志返回节点客户端的查询日志信息回传模块。
2.根据权利要求1所述的大规模集群下各节点日志的抓取和展示系统, 其特征在于:日志配置文件由集群地址描述、日志文件时间格式描述和日志 名称描述,
所述集群地址描述包括各节点地址,包括多个不同集群地址描述;
所述日志文件时间格式描述包括多个不同日志文件时间格式描述;
所述日志名称描述包括日志存储地址、中描述的日专所在集群和中描述 的日志文件时间格式。
3.根据权利要求2所述的大规模集群下各节点日志的抓取和展示系统, 其特征在于:所述各节点服务端还包括去重模块。
4.根据权利要求3所述的大规模集群下各节点日志的抓取和展示系统, 其特征在于:所述去重模块的去重步骤具体如下:
A)、去掉日志记录中的动态信息;
B)、计算去掉动态信息后的日志记录的校验值,如果校验值相同则判 断为同一条日志,如果校验值不同则判断为不是同一条日志;
C)、根据校验值查看是否已出现过,如果已出现则将当前处理的日志 记录所在节点的出现次数加一,如果未出现过则在出现记录中加入此校验 值,并将所在节点出现次数设为1,其余节点设置为0;
D)、重复步骤A,并最终统计所有日志及在各节点上的出现次数并展示。
5.根据权利要求4所述的大规模集群下各节点日志的抓取和展示系统, 其特征在于:在步骤A中,动态信息为用于记录日志的变量信息,包括十进 制纯数字信息、OX开头的十六进制信息、中括号中的信息、大括号中的信息、 以“.com“结尾的网址信息、IP信息和文件路径名信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津南大通用数据技术股份有限公司,未经天津南大通用数据技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510928876.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有可信运行环境的客户端及系统
- 下一篇:一种业务配置的方法及系统