[发明专利]一种跨数据中心的数据存储和查询方法与系统有效

专利信息
申请号: 202110604500.6 申请日: 2021-05-31
公开(公告)号: CN113032338B 公开(公告)日: 2021-09-07
发明(设计)人: 胡梦宇;李大海 申请(专利权)人: 智者四海(北京)技术有限公司
主分类号: G06F16/14 分类号: G06F16/14;G06F16/172;G06F16/178;G06F16/182;H04L29/08
代理公司: 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 代理人: 何明伦
地址: 100000 北京市海淀区*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据中心 数据 存储 查询 方法 系统
【权利要求书】:

1.一种跨数据中心的数据存储和查询方法,包括:

接收文件查询请求,检查第二数据中心是否缓存了被查询的文件,所述文件存储在第一数据中心;

针对第二数据中心缓存了所述文件的情况,校验第一数据中心的主文件系统与第二数据中心的缓存文件系统中存储的所述文件的一致性;

如果一致性检查通过,则直接返回所述文件;

如果未通过一致性检查或未查询到所述文件,则生成一个缓存任务,并向第二数据中心的任务队列提交该缓存任务;

所述任务队列接收到所述缓存任务后,会根据队列中的排队情况安排运行所述缓存任务;

在运行缓存任务期间,向任务队列轮询任务状态,若有异常则重新提交缓存任务;

所述缓存任务运行完成后,返回缓存文件系统中的所述文件;

其中,所述文件查询请求来自一个或多个客户端,其中,第二数据中心的数据接口自动适配和兼容任一个客户端发送的文件查询请求的代码;所述运行缓存任务只包括对文件内容的缓存,主文件系统与缓存文件系统中的对应文件的文件视图一致;

与所述一个或多个客户端对接的数据中心包括对象存储系统或HDFS文件系统;

所述运行缓存任务的方法包括:通过数据中心之间的专线拷贝所述主文件系统的文件到所述缓存文件系统中;如果所述专线空闲,则会开启多线程拷贝所述主文件系统的文件到所述缓存文件系统中;如果所述专线繁忙,则会单线程拷贝所述主文件系统的文件到所述缓存文件系统中;如果专线爆满,则会等待直到专线空闲。

2.如权利要求1所述的方法,所述一致性检查包括:文件大小、文件修改时间、文件摘要。

3.如权利要求1所述的方法,其中,所述数据接口的安全认证接口包括:HTTPS和BASICAUTH的认证方式,以及AWS签名算法和KERBEROS算法。

4.一种跨数据中心的数据存储和查询系统,包括:

文件请求单元,用于接收文件查询请求,检查第二数据中心是否缓存了被查询的文件,所述文件存储在第一数据中心;

一致性检查单元,用于针对第二数据中心缓存了所述文件的情况,校验第一数据中心的主文件系统与第二数据中心的缓存文件系统中存储的所述文件的一致性;如果一致性检查通过,则直接返回所述文件;如果未通过一致性检查或未查询到所述文件,则生成一个缓存任务,并向第二数据中心的任务队列提交该缓存任务;

缓存任务单元,用于所述任务队列接收到所述缓存任务后,会根据队列中的排队情况安排运行所述缓存任务;在运行缓存任务期间,向任务队列轮询任务状态,若有异常则重新提交缓存任务;

文件返回单元,用于所述缓存任务运行完成后,返回缓存文件系统中的所述文件;

其中,所述文件查询请求来自一个或多个客户端,其中,第二数据中心的数据接口自动适配和兼容任一个客户端发送的文件查询请求的代码;所述运行缓存任务只包括对文件内容的缓存,主文件系统与缓存文件系统中的对应文件的文件视图一致;

与所述一个或多个客户端对接的数据中心包括对象存储系统或HDFS文件系统;

所述运行缓存任务的方法包括:通过数据中心之间的专线拷贝所述主文件系统的文件到所述缓存文件系统中;如果所述专线空闲,则会开启多线程拷贝所述主文件系统的文件到所述缓存文件系统中;如果所述专线繁忙,则会单线程拷贝所述主文件系统的文件到所述缓存文件系统中;如果专线爆满,则会等待直到专线空闲。

5.一种电子设备,包括:

一个或多个处理器;

存储器,用于存储一个或多个程序;

其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行如权利要求1至3任一项所述方法。

6.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器执行如权利要求1至3任一项所述方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于智者四海(北京)技术有限公司,未经智者四海(北京)技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110604500.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top