[发明专利]用于在分布式ETL作业中控制倾斜的装置及方法在审
| 申请号： | 201710389398.6 | 申请日： | 2017-05-27 |
| 公开（公告）号： | CN107436913A | 公开（公告）日： | 2017-12-05 |
| 发明（设计）人： | 赵成桓;高允元 | 申请（专利权）人： | 三星SDS株式会社 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;G06F9/46 |
| 代理公司： | 北京铭硕知识产权代理有限公司11286 | 代理人： | 孙昌浩,李盛泉 |
| 地址： | 韩国*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开一种用于在分布式ETL作业中控制倾斜的装置及方法。根据本发明的一实施例的在分布式ETL作业中控制倾斜的装置包括分割部，将原始数据分割而生成将要通过多个ETL(Extract、Transform、Load)任务(Task)而被分布式处理的多个分区(partition)；再分割部，基于所述多个分区各自的大小来识别所述多个分区中的落后者(straggler)，并基于可用容器(container)的数量来将所述落后者分割。 | ||
| 搜索关键词： | 用于 分布式 etl 作业 控制 倾斜 装置 方法 | ||
【主权项】：
一种在分布式ETL作业中控制倾斜的装置，包括：分割部，将原始数据分割而生成将要通过多个ETL任务而被分布式处理的多个分区；再分割部，基于所述多个分区各自的大小来识别所述多个分区中的落后者，并基于可用容器的数量来将所述落后者分割。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于三星SDS株式会社，未经三星SDS株式会社许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710389398.6/，转载请声明来源钻瓜专利网。
