[发明专利]一种基于分布式存储的非结构化数据管理系统及其方法有效
申请号: | 202111041709.2 | 申请日: | 2021-09-07 |
公开(公告)号: | CN113792111B | 公开(公告)日: | 2023-10-13 |
发明(设计)人: | 张岳平;岳强;王永阁;李豪杰;王郑芳;石莹 | 申请(专利权)人: | 中科星云物连科技(北京)有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/33;G06F16/35;H04L67/1097 |
代理公司: | 河北冀狮专利代理事务所(特殊普通合伙) 13174 | 代理人: | 陈玉 |
地址: | 100000 北京市西城区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 分布式 存储 结构 数据管理 系统 及其 方法 | ||
1.一种基于分布式存储的非结构化数据管理系统,其特征在于:包括云管理中心和分布式存储子系统,所述的云管理中心与分布式存储子系统数据连接,且云管理中心数据连接有若干外部的管理终端和若干非结构化数据的数据采集终端。
2.根据权利要求1所述的基于分布式存储的非结构化数据管理系统,其特征在于:所述的云管理中心包括管理服务器和通信单元,所述的管理服务器通过通信单元分别与若干外部的管理终端、分布式存储子系统以及数据采集终端数据连接,所述的云管理中心预设有用户数据库和缓存数据库。
3.根据权利要求2所述的基于分布式存储的非结构化数据管理系统,其特征在于:所述的管理服务器包括MCU、分布式消息模块、数据存储模块、查询信息分析模块以及特征提取模块,所述的数据存储模块预设有用户数据库和缓存数据库,所述的MCU分别与通信单元、分布式消息模块、数据存储模块、信息分析模块以及特征提取模块数据连接。
4.根据权利要求1所述的基于分布式存储的非结构化数据管理系统,其特征在于:所述的分布式存储子系统包括若干相互数据连接的分布式服务器,每个分布式服务器均与管理中心数据连接。
5.根据权利要求4所述的基于分布式存储的非结构化数据管理系统,其特征在于:所述的分布式服务器包括源数据服务器、更新服务器以及搜索服务器。
6.一种基于分布式存储的非结构化数据管理方法,基于如权利要求1-5所述的非结构化数据管理系统,其特征在于,包括如下步骤:
云管理中心实时采集非结构化数据,并将非结构化数据存储至分布式存储子系统;
云管理中心实时采集管理终端的数据查询信息和数据操作信息;
根据数据查询信息进行搜索并向管理终端返回对应的非结构化数据;
根据数据操作信息对目标非结构化数据进行操作并返回操作记录,根据操作记录更新预设的表单。
7.根据权利要求6所述的基于分布式存储的非结构化数据管理方法,其特征在于:所述的云管理中心实时采集非结构化数据,并将非结构化数据存储至分布式存储子系统,包括如下步骤:
初始化分布式存储子系统,在云管理中心建立特征数据搜索表单和操作记录表单,将每个分布式服务器分配一个私有的时间片;
云管理中心采集非结构化数据,提取非结构化数据的特征数据;
在当前时间片向分布式存储子系统中所有的分布式服务器广播存储指令;
当前的分布式服务器在私有的时间片内收到存储指令,返回当前的源数据地址;
云管理中心根据源数据地址将非结构化数据存储至对应的分布式服务器;
根据当前的特征数据和源数据地址更新特征数据搜索表单。
8.根据权利要求7所述的基于分布式存储的非结构化数据管理方法,其特征在于:所述的数据查询信息包括进行查询的目标非结构化数据的源数据地址和特征数据,所述的数据操作信息包括进行操作的目标非结构化数据的源数据地址、特征数据以及操作指令。
9.根据权利要求8所述的基于分布式存储的非结构化数据管理方法,其特征在于:所述的根据数据查询信息进行查询并向管理终端返回对应的非结构化数据,包括如下步骤:
若数据查询信息中仅包括查询的源数据地址,根据源数据地址搜索到对应的分布式服务器,提取所有的非结构化数据;
若数据查询信息中仅包括查询的特征数据,根据当前的特征数据使用K均值聚类方法与特征数据搜索表单中的所有特征数据进行查询和匹配,得到目标非结构化数据的源数据地址,根据源数据地址搜索到对应的分布式服务器,提取目标非结构化数据;
若数据查询信息中包括查询的源数据地址和特征数据,根据源数据地址得到所有的非结构化数据,根据查询的特征数据与所有的非结构化数据的特征数据进行匹配,得到目标非结构化数据。
10.根据权利要求8所述的基于分布式存储的非结构化数据管理方法,其特征在于:所述的根据数据操作信息对目标非结构化数据进行操作并返回操作记录,根据操作记录更新预设的表单,包括如下步骤:
若数据操作信息中仅包括操作的源数据地址,根据源数据地址搜索到对应的分布式服务器,定位所有的非结构化数据;
若数据操作信息中仅包括操作的特征数据,根据当前的特征数据使用K均值聚类方法与特征数据搜索表单中的所有特征数据进行查询和匹配,得到目标非结构化数据的源数据地址,根据源数据地址搜索到对应的分布式服务器,定位目标非结构化数据;
若数据操作信息中包括查询的源数据地址和特征数据,根据源数据地址定位对应的分布式服务器,根据操作的特征数据与所有的非结构化数据的特征数据进行匹配,定位目标非结构化数据;
根据数据操作信息中的操作指令对目标非结构化数据进行对应的修改操作、添加操作以及删除操作,并向云管理中心返回操作记录;
云管理中心根据操作记录更新非结构化数据管理系统预设的表单。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科星云物连科技(北京)有限公司,未经中科星云物连科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111041709.2/1.html,转载请声明来源钻瓜专利网。