[发明专利]一种基于历史任务分析的Apache Spark应用自动化调优方法有效
| 申请号： | 201810026098.6 | 申请日： | 2018-01-11 |
| 公开（公告）号： | CN108255689B | 公开（公告）日： | 2021-02-12 |
| 发明（设计）人： | 石胜飞;高宏;王宏志;巢泽敏 | 申请（专利权）人： | 哈尔滨工业大学 |
| 主分类号： | G06F11/34 | 分类号： | G06F11/34 |
| 代理公司： | 哈尔滨市阳光惠远知识产权代理有限公司 23211 | 代理人： | 孙莉莉 |
| 地址： | 150001 黑龙*** | 国省代码： | 黑龙江;23 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提出了一种基于历史任务分析的Apache Spark应用自动化调优方法，包括对Spark应用的任务提交接口进行封装，判断是否已有该Spark应用的分层灰盒时间预测模型，访问数据库，读取并更新所述分层灰盒时间预测模型，用户选择是否进行优化；如果进行优化则生成优化参数，如果不进行优化则按原参数执行，调用shell命令运行任务。本发明充分地利用了已知的集群硬件资源信息，选择并实现一了个能够在高维参数空间上对最优参数进行高效搜索方案，从而筛选出在建立的分层灰盒时间预测模型下，性能表现较优的配置参数，达到实现自动化Spark参数调优的目的。 | ||
| 搜索关键词： | 一种 基于 历史 任务 分析 apache spark 应用 自动化 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学，未经哈尔滨工业大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810026098.6/，转载请声明来源钻瓜专利网。
