[发明专利]一种提升Spark运行效能的方法及装置在审
| 申请号： | 201610482075.7 | 申请日： | 2016-06-27 |
| 公开（公告）号： | CN107544844A | 公开（公告）日： | 2018-01-05 |
| 发明（设计）人： | 肖丽华;王跃;刘晏 | 申请（专利权）人： | 中兴通讯股份有限公司 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50 |
| 代理公司： | 北京元本知识产权代理事务所11308 | 代理人： | 秦力军 |
| 地址： | 518057 广东省深圳市*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种提升Spark运行效能的方法及装置，涉及大数据分析及处理领域，所述方法包括对系统中需要高速缓存cache的表进行确定；对以所确定的需要cache的表作为输入或输出的cache任务进行识别；对所识别的cache任务进行分组，并为相应的cache任务组创建处理进程；根据每个处理进程的当前状态和Spark集群资源的实时使用情况，对待提交的cache任务进行组合，并发送至Spark集群处理。本发明实施例能够充分利用集群的系统资源，合理地确定待cache的表和内容，对进程进行动态决策和调度，在资源许可的情况下，最大限度增加并行度，达到提升spark运行效能的目的。 | ||
| 搜索关键词： | 一种 提升 spark 运行 效能 方法 装置 | ||
【主权项】：
一种提升Spark运行效能的方法，包括：对系统中需要高速缓存cache的表进行确定；对以所确定的需要cache的表作为输入或输出的cache任务进行识别；对所识别的cache任务进行分组，并为相应的cache任务组创建处理进程；根据每个处理进程的当前状态和Spark集群资源的实时使用情况，对待提交的cache任务进行组合，并发送至Spark集群处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中兴通讯股份有限公司，未经中兴通讯股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610482075.7/，转载请声明来源钻瓜专利网。
- 上一篇：一种多功能蒸具
- 下一篇：GPU资源调度方法及装置
