[发明专利]数据处理方法和装置有效
申请号: | 201410026143.X | 申请日: | 2014-01-20 |
公开(公告)号: | CN104794128B | 公开(公告)日: | 2018-06-22 |
发明(设计)人: | 陈岳阳;李经纬 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06Q10/08 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许志勇 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 维度标识 线程 预定线 方法和装置 数据处理 阈值时 判定 并发处理 实时处理 多维度 事件流 分配 维度 并行 申请 | ||
1.一种数据处理方法,用于事件流数据的多维度处理,其特征在于,包括:
针对所述多维度处理中的各维度处理,分别判断所述维度处理中的维度标识数量与预定线程数量之差的绝对值是否小于等于预定阈值;
当判定所述维度处理中的维度标识数量与预定线程数量之差的绝对值小于等于预定阈值时,将所述维度处理中的各维度标识对应的处理分别分配到所述预定数量的线程中的多个线程上执行,使得同一维度标识对应的处理在所述多个线程上并行完成。
2.根据权利要求1所述的方法,其特征在于,还包括:
当判定所述维度处理中的维度标识数量与预定线程数量之差的绝对值大于所述预定阈值时,将所述维度处理中的各维度标识对应的处理分别分配到所述预定数量的线程中的对应单一线程上执行,使得同一维度标识对应的处理在同一线程上完成。
3.根据权利要求2所述的方法,其特征在于,所述将所述维度处理中的各维度标识对应的处理都分别分配到所述预定数量的线程中的多个线程上执行,使得同一维度标识对应的处理在所述多个线程上并行完成,进一步包括:
根据对所述维度处理中的每个维度标识的划分,将所述维度处理中的所述维度标识对应的处理分配到所述预定数量的线程中的多个线程上并行执行;以及
合并同一维度标识对应的处理在所述多个线程上的执行结果,以完成所述维度处理中的各维度标识对应的处理。
4.根据权利要求3所述的方法,其特征在于,所述根据对所述维度处理中的每个维度标识的划分,将所述维度处理中的所述维度标识对应的处理分配到所述预定数量的线程中的多个线程上并行执行,进一步包括:
针对当前事件流数据,确定维度标识对应的线程标识集合,所述线程标识集合包括与维度标识对应的处理可用的线程对应的线程标识;以及
从所述线程标识集合中随机选择一个线程标识,以将该线程标识对应的线程用于所述当前事件流数据的处理。
5.根据权利要求3所述的方法,其特征在于,所述合并同一维度标识对应的处理在所述多个线程上的执行结果,进一步包括:
根据维度标识对应的线程标识集合中的线程标识,合并维度标识对应的处理在各线程上的执行结果,以获得与该维度标识对应的处理结果。
6.根据权利要求3所述的方法,其特征在于,所述根据对所述维度处理中的每个维度标识的划分,将所述维度处理中的所述维度标识对应的处理分配到所述预定数量的线程中的多个线程上并行执行,进一步包括:
初始化设置维度标识对应的线程标识集合,使得各维度标识对应的线程标识集合中的线程标识都分别对应于所述预定数量的线程。
7.根据权利要求3所述的方法,其特征在于,所述根据对所述维度处理中的每个维度标识的划分,将所述维度处理中的所述维度标识对应的处理分配到所述预定数量的线程中的多个线程上并行执行,进一步包括:
根据所述事件流数据中的各维度标识在特定时间段内的处理量,更新各维度标识对应的线程标识集合,使得各维度标识对应的线程标识集合中的线程标识对应于所述预定数量的线程中的一部分线程。
8.根据权利要求7所述的方法,其特征在于,所述根据对所述维度处理中的每个维度标识的划分,将所述维度处理中的所述维度标识对应的处理分配到所述预定数量的线程中的多个线程上并行执行,进一步包括:
从特定时间段内的事件流数据中统计所述维度处理中的各维度标识出现的事件数;以及
根据特定维度标识出现的事件数以及各维度标识出现的事件数,计算所述特定维度标识在特定时间段内的处理量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410026143.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于查询日志的数据处理方法和系统
- 下一篇:入口信息显示方法和装置