[发明专利]一种海量数据的处理方法及装置在审
申请号: | 201310726882.5 | 申请日: | 2013-12-25 |
公开(公告)号: | CN104750681A | 公开(公告)日: | 2015-07-01 |
发明(设计)人: | 姜国强;宋炜 | 申请(专利权)人: | 中国移动通信集团辽宁有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京中誉威圣知识产权代理有限公司 11279 | 代理人: | 郭振兴;丛芳 |
地址: | 110179 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 海量 数据 处理 方法 装置 | ||
1.一种海量数据的处理方法,其特征在于,包括:
接收用业务元数据描述的查询请求,所述查询请求中包括查询条件;
根据业务元数据与技术元数据之间的映射关系查找所述查询条件对应的技术元数据;
根据所述技术元数据到数据库中查找符合查询条件的索引范围;
在所述索引范围中根据查询请求确定详单数据。
2.根据权利要求1所述的方法,其特征在于,所述查询条件包含至少一个业务维度;所述根据业务元数据与技术元数据之间的映射关系查找所述查询条件对应的技术元数据,具体包括:
分析用业务元数据描述的查询请求中所包含的业务维度所对应的用技术元数据描述的技术维度;
根据查找到的技术维度确定技术元数据的物理表,所述物理表中包括所述物理表的存放目录,物理表中记录的列字段,物理表中记录的技术元数据的主键rowkey,多级索引和物理表中记录的技术元数据的来源。
3.根据权利要求2所述的方法,其特征在于,所述根据所述技术元数据到数据库中查找符合查询条件的索引范围,具体包括:
在与查询请求的各项业务维度各自相匹配的维度范围索引中查找该项业务维度的rowkey的范围;
将查找到的各项业务维度的rowkey范围取交集作为索引范围。
4.根据权利要求1或2所述的方法,其特征在于,所述在所述索引范围中根据查询请求确定详单数据,具体包括:
到数据库的缓存里的所述索引范围中根据查询请求查找对应的详单数据,若查找到,则返回;若未查找到,则到底层文件存储系统中查找。
5.根据权利要求1或2所述的方法,其特征在于,所述数据库为分布式数据库。
6.一种海量数据的处理装置,其特征在于,包括:
接收模块,用于接收用业务元数据描述的查询请求,所述查询请求中包括查询条件;
映射模块,用于根据业务元数据与技术元数据之间的映射关系查找所述查询条件请求对应的技术元数据;
索引模块,用于根据所述技术元数据到数据库中查找符合查询条件的索引范围;
确定模块,用于在所述索引范围中根据查询条件确定详单数据。
7.根据权利要求6所述的装置,其特征在于,所述查询条件包含至少一个业务维度;
所述映射模块,具体包括:
分析单元,用于分析用业务元数据描述的查找请求中所包含的业务维度所对应的用技术元数据描述的技术维度;
确定单元,用于根据查找到的技术维度确定技术元数据的物理表,所述物理表中包括所述物理表的存放目录,物理表中记录的列字段,物理表中记录的技术元数据的主键rowkey,多级级索引和物理表中记录的技术元数据的来源。
8.根据权利要求7所述的装置,其特征在于,所述索引模块,具体包括:
范围单元,用于在与查询请求的各项业务各自相匹配的维度范围索引中查找该项业务维度的rowkey的范围;
交集单元,用于将查找到的各项查询条件业务维度的rowkey范围取交集作为索引范围。
9.根据权利要求6或7所述的装置,其特征在于,所述确定模块,具体用于到数据库的memstore缓存里的所述索引范围中根据查询请求查找对应的详单数据,若查找到,则返回;若未查找到,则到底层文件存储系统中查找。
10.根据权利要求6或7所述的装置,其特征在于,该装置适用于分布式数据库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团辽宁有限公司,未经中国移动通信集团辽宁有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310726882.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种字符串匹配方法及装置
- 下一篇:文本匹配过滤方法及装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置