[发明专利]一种内容分发网络的日志处理方法和装置在审
| 申请号: | 201711490056.X | 申请日: | 2017-12-29 |
| 公开(公告)号: | CN108234210A | 公开(公告)日: | 2018-06-29 |
| 发明(设计)人: | 杨银波;胡广磊;邓志国;郑中山;常兴亮 | 申请(专利权)人: | 北京奇虎科技有限公司 |
| 主分类号: | H04L12/24 | 分类号: | H04L12/24;G06F17/30 |
| 代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 任亚娟 |
| 地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 内容分发网络 日志文件 方法和装置 目标数据 日志处理 处理逻辑 逻辑架构 日志数据 数据统计 协议标准 业务数据 可扩展 预设 运维 采集 清晰 统计 统一 服务 | ||
1.一种内容分发网络CDN的日志处理方法,包括:
采集多个内容分发网络CDN的多种日志文件;
按照预设的协议标准从所述多种日志文件中生成多条目标数据;
根据所述多条目标数据统计业务数据。
2.如权利要求1所述的方法,其特征在于,所述采集多个内容分发网络CDN的多种日志文件,包括:
从预设的第一数据接口中接收内容分发网络CDN发送的日志文件;
和/或,
调用预设的第二数据接口从内容分发网络CDN中拉取日志文件。
3.如权利要求1所述的方法,其特征在于,所述按照预设的协议标准从所述多种日志文件中生成多条目标数据,包括:
从所述多中日志文件中提取指定类型的多条日志数据;
按照预设的协议标准将所述多条日志数据转换为多条目标数据;
其中,所述协议标准包括如下的至少一项:
数据格式、统计粒度、统计单位、上报时延、数据角色。
4.如权利要求1所述的方法,其特征在于,所述根据所述多条目标数据统计业务数据,包括:
将所述多条目标数据写入消息队列中;
由订阅所述目标数据的消费者从所述消息队列中提取所述目标数据;
由订阅所述目标数据的消费者采用所述目标数据按照预设的统计维度统计业务数据。
5.如权利要求4所述的方法,其特征在于,所述由订阅所述目标数据的消费者从所述消息队列中提取所述目标数据,包括:
由订阅某个数据类型的目标数据的消费者从所述消息队列中提取所述数据类型的目标数据。
6.如权利要求5所述的方法,其特征在于,所述数据类型包括如下的至少一种:
网络数据、状态码、命中数据;
所述由订阅所述目标数据的消费者采用所述目标数据按照预设的统计维度统计业务数据,包括:
由订阅所述网络数据的消费者采用所述网络数据下的目标数据在如下至少一种统计维度统计带宽、流量、请求数中的至少一种业务数据:
时间、域名、目录、角色、地区、运营商;
由订阅所述状态码的消费者采用所述状态码下的目标数据在如下至少一种统计维度统计所述状态码的出现次数,作为业务数据:
时间、域名、目录、角色、地区、运营商;
由订阅所述命中数据的消费者采用所述命中数据下的目标数据在如下至少一种统计维度统计命中次数、未命中次数、命中率中的至少一种业务数据:
时间、域名、目录、角色、地区、运营商。
7.如权利要求4所述的方法,其特征在于,所述根据所述目标数据统计业务数据,还包括:
对所述目标数据设置失效时间;
当到达所述失效时间时,从所述消息队列中删除所述目标数据。
8.如权利要求1-7任一项所述的方法,其特征在于,还包括:
从预设的查询接口接收查询请求;
根据所述查询请求从业务数据中选取候选数据;
采用所述候选数据生成查询结果。
9.如权利要求8所述的方法,其特征在于,所述根据所述查询请求从业务数据中选取候选数据,包括:
从所述查询请求中提取查询类型、查询条件;
查找数据类型与所述查询类型匹配、统计维度与所述查询条件匹配的业务数据,作为候选数据。
10.一种内容分发网络CDN的日志处理装置,包括:
日志文件采集模块,用于采集多个内容分发网络CDN的多种日志文件;
目标数据生成模块,用于按照预设的协议标准从所述多种日志文件中生成目标数据;
业务数据统计模块,用于根据所述多条目标数据统计业务数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711490056.X/1.html,转载请声明来源钻瓜专利网。





