[发明专利]数据处理方法及服务器集群在审
| 申请号: | 201710504831.6 | 申请日: | 2017-06-27 |
| 公开(公告)号: | CN107239570A | 公开(公告)日: | 2017-10-10 |
| 发明(设计)人: | 尹正军 | 申请(专利权)人: | 联想(北京)有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 中科专利商标代理有限责任公司11021 | 代理人: | 吕雁葭 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 服务器 集群 | ||
1.一种数据处理方法,应用于包括至少两种计算框架的集群计算过程,所述方法包括:
当第一计算框架执行针对第一数据表的操作时,判断分布式内存系统中是否存在所述第一数据表对应的数据信息;以及
若不存在,则执行所述针对第一数据表的操作,并将所述第一数据表对应的数据信息同步到所述分布式内存系统中。
2.根据权利要求1所述的方法,还包括:
若分布式内存系统中存在所述第一数据表对应的数据信息,则所述第一计算框架从所述分布式内存系统中加载所述第一数据表对应的数据信息。
3.根据权利要求1所述的方法,其中,所述将所述第一数据表对应的数据信息同步到所述分布式内存系统中,包括:
判断所述第一数据表是否属于可能被不同计算框架共用的数据表,所述可能被不同计算框架共用的数据表是基于数据表查询计划的统计数据确定的;以及
若属于,则将所述第一数据表对应的数据信息同步到所述分布式内存系统中。
4.根据权利要求1所述的方法,其中,所述执行针对第一数据表的操作包括:
运行针对第一数据表的查询执行计划。
5.根据权利要求1所述的方法,其中,所述判断分布式内存系统中是否存在所述第一数据表对应的数据信息,包括:
所述第一计算框架获取其他计算框架同步到所述分布式内存系统的数据表对应的数据信息,其中,所述至少两个计算框架中的每个计算框架的存储类是经过扩展的;以及
判断分布式内存系统中是否存在所述第一数据表对应的数据信息。
6.一种服务器集群,包括:
至少一个处理器;以及
至少一个存储器,其上存储有计算机可读程序,当所述程序被所述至少一个处理器执行时,使得所述至少一个处理器:
在第一计算框架执行针对第一数据表的操作的情况下,判断分布式内存系统中是否存在所述第一数据表对应的数据信息;以及
在分布式内存系统中不存在所述第一数据表的情况下,执行所述针对第一数据表的操作,并将所述第一数据表同步到所述分布式内存系统中。
7.根据权利要求6所述的服务器集群,所述至少一个处理器还执行:
在分布式内存系统中存在所述第一数据表对应的数据信息的情况下,使所述第一计算框架从所述分布式内存系统中加载所述第一数据表中的数据对应的数据信息。
8.根据权利要求6所述的服务器集群,所述至少一个处理器执行将所述第一数据表对应的数据信息同步到所述分布式内存系统中,包括:
判断所述第一数据表是否属于可能被不同计算框架共用的数据表,所述可能被不同计算框架共用的数据表是基于数据表查询计划的统计数据确定的;以及
若属于,则将所述第一数据表对应的数据信息同步到所述分布式内存系统中。
9.根据权利要求6所述的服务器集群,其中,所述至少一个处理器执行针对第一数据表的操作包括:
运行针对第一数据表的查询执行计划。
10.根据权利要求6所述的服务器集群,其中,所述至少一个处理器判断分布式内存系统中是否存在所述第一数据表对应的数据信息,包括:
所述第一计算框架获取其他计算框架同步到所述分布式内存系统的数据表对应的数据信息,其中,所述至少两个计算框架中的每个计算框架的存储类是经过扩展的;以及
判断分布式内存系统中是否存在所述第一数据表对应的数据信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联想(北京)有限公司,未经联想(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710504831.6/1.html,转载请声明来源钻瓜专利网。





