[发明专利]数据管理方法及装置有效

专利信息
申请号: 201711046153.X 申请日: 2017-10-31
公开(公告)号: CN107832389B 公开(公告)日: 2020-12-25
发明(设计)人: 黄晓 申请(专利权)人: 新华三大数据技术有限公司
主分类号: G06F16/22 分类号: G06F16/22;G06F16/23;G16H10/60;G16H30/00
代理公司: 北京林达刘知识产权代理事务所(普通合伙) 11277 代理人: 刘新宇
地址: 450000 河南省郑州市郑州高新*** 国省代码: 河南;41
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据管理 方法 装置
【权利要求书】:

1.一种数据管理方法,其特征在于,包括:

采集指定对象的数据,并存储到不同的数据源中,不同的数据源中存储的所述指定对象的数据中均包括所述指定对象的唯一标识,不同数据源的数据属于不同的分类;

针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,其中,根据所述指定对象的唯一标识生成该行的行键,将该指定对象的数据存储在该行的列中;

其中,所述针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,包括:

针对任一数据源存储的所述指定对象的数据,确定该数据源存储的所述指定对象的数据的分类,查找该分类对应的Hbase表,将该指定对象的数据存储到查找到的Hbase表的一行;

所述将该指定对象的数据存储在该行的列中,包括:

若所述指定对象的数据为非结构化数据,则将所述指定对象的数据存储在该行的一列中。

2.根据权利要求1所述的数据管理方法,其特征在于,所述针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,包括:

若未查找到该分类对应的Hbase表,则创建对应的Hbase表,将该分类中存储的指定对象的数据存储到所述创建的Hbase表的一行。

3.根据权利要求2所述的数据管理方法,其特征在于,所述将该指定对象的数据存储在该行的列中,还包括:

若所述指定对象的数据为结构化数据,则将所述指定对象的数据的字段与该行的列一一对应,并将各个字段的数据存储到对应的列中。

4.根据权利要求1所述的数据管理方法,其特征在于,所述行键由散列前缀、时间和所述唯一标识组成,所述散列前缀用于表示存储位置,所述时间用于表示存储时间。

5.根据权利要求1至4任一项所述的数据管理方法,其特征在于,所述方法还包括:

确定满足条件的对象及该对象的唯一标识;

在所有Hbase表中查询包括所述唯一标识的行键,并提取所查询到的行键对应的数据。

6.一种数据管理装置,其特征在于,包括:

采集模块,用于采集指定对象的数据,并存储到不同的数据源中,不同的数据源中存储的所述指定对象的数据中均包括所述指定对象的唯一标识,不同数据源的数据属于不同的分类;

存储模块,用于针对任一数据源存储的所述指定对象的数据,将该指定对象的数据存储到Hbase表的一行,其中,根据所述指定对象的唯一标识生成该行的行键,将该指定对象的数据存储在该行的列中;

其中,存储模块包括:

查找单元,用于针对任一数据源存储的所述指定对象的数据,确定该数据源存储的所述指定对象的数据的分类,查找该分类对应的Hbase表,将该指定对象的数据存储到查找到的Hbase表的一行;

第一存储单元,用于若所述指定对象的数据为非结构化数据,则将所述指定对象的数据存储在该行的一列中。

7.根据权利要求6所述的数据管理装置,其特征在于,所述存储模块包括:

创建单元,用于若未查找到该分类对应的Hbase表,则创建对应的Hbase表,将该分类中存储的指定对象的数据存储到所述创建的Hbase表的一行。

8.根据权利要求7所述的数据管理装置,其特征在于,存储模块还包括:

第二存储单元,用于若所述指定对象的数据为结构化数据,则将所述指定对象的数据的字段与该行的列一一对应,并将各个字段的数据存储到对应的列中。

9.根据权利要求6所述的数据管理装置,其特征在于,所述行键由散列前缀、时间和所述唯一标识组成,所述散列前缀用于表示存储位置,所述时间用于表示存储时间。

10.根据权利要求6至9任一项所述的数据管理装置,其特征在于,所述装置还包括:

确定模块,用于确定满足条件的对象及该对象的唯一标识;

查询模块,在所有Hbase表中查询包括所述唯一标识的行键,并提取所查询到的行键对应的数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201711046153.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top