[发明专利]基于网格的空间数据分布式存储及检索方法和系统有效
| 申请号: | 201710646027.1 | 申请日: | 2017-08-01 |
| 公开(公告)号: | CN107423422B | 公开(公告)日: | 2019-09-24 |
| 发明(设计)人: | 窦明罡;付智能;廖磊;贺楷锴;杨曦;官磊 | 申请(专利权)人: | 武大吉奥信息技术有限公司 |
| 主分类号: | G06F16/11 | 分类号: | G06F16/11;G06F16/13;G06F16/14;G06F16/182;G06F16/188 |
| 代理公司: | 北京天奇智新知识产权代理有限公司 11340 | 代理人: | 李振文 |
| 地址: | 430223 湖北省武汉*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 网格 空间 数据 分布式 存储 检索 方法 系统 | ||
1.一种基于网格的空间数据分布式存储及检索方法,其特征在于,包括:
数据分块步骤,以网格形式将数据划分为数据块,将数据块存储于节点的内存中,其中,每个数据块包括数据块ID,Hash值,时间戳;
数据查询步骤,计算待检索空间坐标对应的Hash值并判断其所属网格的网格号,根据网格号查询元数据表以获得节点号,根据节点号、网格号和Hash值在存储集群中进行检索;
其中,所述数据分块步骤中,
将数据块划分为分区,每个分区储存在一个节点上,每个分区包括2n个数据块,n≧1;
在向节点分发数据块时采用冗余分区,两个相邻的分区有若干行和/或若干列重复的数据块,分区完成后按照分区的创建顺序依次将分区分配至对应节点中,基于分区结果构造元数据表,描述每个数据块所在的分区和所在的节点;
当一个数据块具有存在于多个分区的副本时,所有分区中的副本使用相同的数据块编号,并在元数据表中记录其每个副本的信息。
2.根据权利要求1所述的一种基于网格的空间数据分布式存储及检索方法,其特征在于,所述数据分块步骤中,采用GeoHash函数来生成HASH值,基于以下步骤生成GeoHash索引:
区间递归子步骤,已知空间坐标(x,y),其中x是纬度,y是经度;首先分别按照区间递归等分的方法进行0-1编码直到编码位数对应的空间划分粒度符合精度要求,得到二进制串bX,bY;
合并拆分子步骤,对bX和bY按照奇偶位数进行合并,bX拆分后作为新二进制串的奇数位,bY拆分后作为新二进制串的偶数位,从而得到新二进制串b;
哈希生成子步骤,令字符串h=base32(b),字符串h即为空间坐标(x,y)的Geohash值。
3.根据权利要求1所述的一种基于网格的空间数据分布式存储及检索方法,其特征在于,所述数据分块步骤中,按照网格划分空间,每个网格对应一个数据块;数据的索引采用数据块编号+Geohash值的形式表示;数据的索引存储在数据索引数据表中。
4.根据权利要求1所述的一种基于网格的空间数据分布式存储及检索方法,其特征在于,
所述数据查询步骤中,通过计算出检索目标点的Geohash值作为待检索HASH值,从数据索引表中检索与待检索HASH值最接近的Geohash值所对应的网格号和/或数据块号;然后通过该网格号和/或数据块号从元数据表中检索到其对应的分区和对应的节点。
5.根据权利要求1所述的一种基于网格的空间数据分布式存储及检索方法,其特征在于,所述数据查询步骤中,
在查询时检索函数如果从元数据表中检索到该数据块具有多个副本,则同时执行多次检索;然后从检索到的多个数据块中选择时间戳与检索发生时间最接近的数据块作为检索结果,同时对其他副本进行更新,实现冗余数据块的同步。
6.一种基于网格的空间数据分布式存储及检索系统,其特征在于,包括:
数据分块模块,以网格形式将数据划分为数据块,将数据块存储于节点的内存中,其中,每个数据块包括数据块ID,Hash值,时间戳;
数据查询模块,计算待检索空间坐标对应的Hash值并判断其所属网格的网格号,根据网格号查询元数据表以获得节点号,根据节点号、网格号和Hash值在存储集群中进行检索;
所述数据分块模块中,将数据块划分为分区,每个分区储存在一个节点上,每个分区包括2n个数据块,n≧1;
在向节点分发数据块时采用冗余分区,两个相邻的分区有若干行和/或若干列重复的数据块,分区完成后按照分区的创建顺序依次将分区分配至对应节点中,基于分区结果构造元数据表,描述每个数据块所在的分区和所在的节点;
当一个数据块具有存在于多个分区的副本时,所有分区中的副本使用相同的数据块编号,并在元数据表中记录其每个副本的信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武大吉奥信息技术有限公司,未经武大吉奥信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710646027.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:隐藏式新能源电动车充电桩
- 下一篇:一种耐低温的电动汽车充电桩
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





