[发明专利]日志数据处理方法、装置和系统有效
| 申请号: | 201810877030.9 | 申请日: | 2018-08-03 |
| 公开(公告)号: | CN109033404B | 公开(公告)日: | 2022-03-11 |
| 发明(设计)人: | 章淼 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06F16/18 | 分类号: | G06F16/18 |
| 代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 日志 数据处理 方法 装置 系统 | ||
1.一种日志数据处理方法,包括:
获取预设时间段内基于日志生成的多条待处理日志数据,其中,所述待处理日志数据包括多个属性以及预设指标;所述属性至少包括用户来源、日志所对应的服务类型或者信息服务响应结果;所述预设指标至少包括用户访问日志的数量或者用户访问日志对应的时延;
确定多个属性值组,其中,每一属性值组包括至少两个属性值,每一个属性值组中的各属性值所对应的属性不相同;
对于每一个属性值组,根据具有该属性值组的每一属性值的多条待处理日志数据分别指示的预设指标的指标值,确定出具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值;
根据多个属性值组分别对应的预设指标的指标统计值,生成日志数据汇聚表,并将所述日志数据汇聚表进行数据传输;
所述方法还包括:从所述多个属性中确定出多个属性子组;对于每一个属性子组中的每一个属性,从所述日志数据汇聚表确定出该属性的多个属性值;基于该属性子组的每一个属性的多个属性值,确定属于该属性子组的多个属性值子组;对于每一个所述属性值子组,基于所述日志数据汇聚表确定出该属性值子组对应的预设指标的指标统计值;根据所述多个属性值子组分别对应的预设指标的指标统计值,生成对应该属性子组的日志数据汇聚子表。
2.根据权利要求1所述的方法,其中,所述待处理日志数据为日志;以及
所述获取预设时间段内基于日志生成的多条待处理日志数据,包括:
获取预设时间段内本地生成的多个日志;以及
所述对于每一个属性值组,根据具有该属性值组的每一属性值的多条待处理日志数据分别指示的预设指标的指标值,确定出具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值,包括:
将具有该属性值组的每一个属性值的日志所指示的所述预设指标的指标值进行累加,得到具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值。
3.根据权利要求1所述的方法,其中,每条待处理日志数据包括预设第一属性值组,以及预设指标的指标值;以及
所述确定多个属性值组,包括:从多条待处理日志数据分别对应的预设第一属性值组中确定出多个属性值组;以及
所述对于每一个属性值组,根据具有该属性值组的每一属性值的多条待处理日志数据分别指示的预设指标的指标值,确定出具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值,包括:
确定出具有该属性值组的每一属性值的多条待处理日志数据;
将具有该属性值组的每一属性值的多条待处理日志数据各自指示的预设指标的指标值进行累加,得到具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值。
4.一种日志数据处理装置,包括:
获取单元,被配置成获取预设时间段内基于日志生成的多条待处理日志数据,其中,所述待处理日志数据包括多个属性以及预设指标;所述属性至少包括用户来源、日志所对应的服务类型或者信息服务响应结果;所述预设指标至少包括用户访问日志的数量或者用户访问日志对应的时延;
第一确定单元,被配置成确定多个属性值组,其中,每一属性值组包括至少两个属性值,每一个属性值组中的各属性值所对应的属性不相同;
第二确定单元,被配置成对于每一个属性值组,根据具有该属性值组的每一属性值的多条待处理日志数据分别指示的预设指标的指标值,确定出具有该属性值组的每一个属性值的日志的所述预设指标的指标统计值;
第一生成单元,被配置成根据多个属性值组分别对应的预设指标的指标统计值,生成日志数据汇聚表,并将所述日志数据汇聚表进行数据传输;
所述装置还包括第二生成单元,所述第二生成单元被配置成:
从所述多个属性中确定出多个属性子组;
对于每一个属性子组中的每一个属性,从所述日志数据汇聚表确定出该属性的多个属性值;
基于该属性子组的每一个属性的多个属性值,确定属于该属性子组的多个属性值子组;
对于每一个所述属性值子组,基于所述日志数据汇聚表确定出该属性值子组对应的预设指标的指标统计值;
根据所述多个属性值子组分别对应的预设指标的指标统计值,生成对应该属性子组的日志数据汇聚子表。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810877030.9/1.html,转载请声明来源钻瓜专利网。





