[发明专利]数据管理方法及装置有效
| 申请号: | 201711046153.X | 申请日: | 2017-10-31 |
| 公开(公告)号: | CN107832389B | 公开(公告)日: | 2020-12-25 |
| 发明(设计)人: | 黄晓 | 申请(专利权)人: | 新华三大数据技术有限公司 |
| 主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G16H10/60;G16H30/00 |
| 代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
| 地址: | 450000 河南省郑州市郑州高新*** | 国省代码: | 河南;41 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据管理 方法 装置 | ||
1.一种数据管理方法,其特征在于,包括:
采集指定对象的数据,并存储到不同的数据源中,不同的数据源中存储的所述指定对象的数据中均包括所述指定对象的唯一标识,不同数据源的数据属于不同的分类;
针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,其中,根据所述指定对象的唯一标识生成该行的行键,将该指定对象的数据存储在该行的列中;
其中,所述针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,包括:
针对任一数据源存储的所述指定对象的数据,确定该数据源存储的所述指定对象的数据的分类,查找该分类对应的Hbase表,将该指定对象的数据存储到查找到的Hbase表的一行;
所述将该指定对象的数据存储在该行的列中,包括:
若所述指定对象的数据为非结构化数据,则将所述指定对象的数据存储在该行的一列中。
2.根据权利要求1所述的数据管理方法,其特征在于,所述针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,包括:
若未查找到该分类对应的Hbase表,则创建对应的Hbase表,将该分类中存储的指定对象的数据存储到所述创建的Hbase表的一行。
3.根据权利要求2所述的数据管理方法,其特征在于,所述将该指定对象的数据存储在该行的列中,还包括:
若所述指定对象的数据为结构化数据,则将所述指定对象的数据的字段与该行的列一一对应,并将各个字段的数据存储到对应的列中。
4.根据权利要求1所述的数据管理方法,其特征在于,所述行键由散列前缀、时间和所述唯一标识组成,所述散列前缀用于表示存储位置,所述时间用于表示存储时间。
5.根据权利要求1至4任一项所述的数据管理方法,其特征在于,所述方法还包括:
确定满足条件的对象及该对象的唯一标识;
在所有Hbase表中查询包括所述唯一标识的行键,并提取所查询到的行键对应的数据。
6.一种数据管理装置,其特征在于,包括:
采集模块,用于采集指定对象的数据,并存储到不同的数据源中,不同的数据源中存储的所述指定对象的数据中均包括所述指定对象的唯一标识,不同数据源的数据属于不同的分类;
存储模块,用于针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,其中,根据所述指定对象的唯一标识生成该行的行键,将该指定对象的数据存储在该行的列中;
其中,存储模块包括:
查找单元,用于针对任一数据源存储的所述指定对象的数据,确定该数据源存储的所述指定对象的数据的分类,查找该分类对应的Hbase表,将该指定对象的数据存储到查找到的Hbase表的一行;
第一存储单元,用于若所述指定对象的数据为非结构化数据,则将所述指定对象的数据存储在该行的一列中。
7.根据权利要求6所述的数据管理装置,其特征在于,所述存储模块包括:
创建单元,用于若未查找到该分类对应的Hbase表,则创建对应的Hbase表,将该分类中存储的指定对象的数据存储到所述创建的Hbase表的一行。
8.根据权利要求7所述的数据管理装置,其特征在于,存储模块还包括:
第二存储单元,用于若所述指定对象的数据为结构化数据,则将所述指定对象的数据的字段与该行的列一一对应,并将各个字段的数据存储到对应的列中。
9.根据权利要求6所述的数据管理装置,其特征在于,所述行键由散列前缀、时间和所述唯一标识组成,所述散列前缀用于表示存储位置,所述时间用于表示存储时间。
10.根据权利要求6至9任一项所述的数据管理装置,其特征在于,所述装置还包括:
确定模块,用于确定满足条件的对象及该对象的唯一标识;
查询模块,在所有Hbase表中查询包括所述唯一标识的行键,并提取所查询到的行键对应的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711046153.X/1.html,转载请声明来源钻瓜专利网。





