[发明专利]一种基于Spark的数据处理方法及系统在审
| 申请号： | 201710335307.0 | 申请日： | 2017-05-12 |
| 公开（公告）号： | CN107463595A | 公开（公告）日： | 2017-12-12 |
| 发明（设计）人： | 木伟民;张云;李名扬;张明诚;王伟平 | 申请（专利权）人： | 中国科学院信息工程研究所 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 北京君尚知识产权代理事务所(普通合伙)11200 | 代理人： | 司立彬 |
| 地址： | 100093 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于Spark的数据处理方法及系统。本方法为1)用户根据待处理文档的需求选取算子并配置所选取的算子参数，然后建立所选算子的连接关系，生成场景的XML文件；该场景的XML文件中包括每一所选算子的XML内容以及各算子的连接关系；2)根据场景的XML文件生成相应的有向无环图DAG；3)将该有向无环图DAG切分成若干能够在分布式计算环境下执行的子任务subJob，在Spark计算框架下执行切分后得到的子任务subJob，实现对该待处理文档的处理。本发明能够实现对接各种异构数据，提高了数据处理灵活性。 | ||
| 搜索关键词： | 一种 基于 spark 数据处理 方法 系统 | ||
【主权项】：
一种基于分布式计算平台的数据处理方法，其步骤为：1)用户根据待处理文档的需求选取算子并配置所选取的算子参数，然后建立所选算子的连接关系，生成场景的XML文件；该场景的XML文件中包括每一所选算子的XML内容以及各算子的连接关系；2)根据场景的XML文件生成相应的有向无环图DAG；3)将该有向无环图DAG切分成若干能够在分布式计算环境下执行的子任务subJob，在Spark计算框架下执行切分后得到的子任务subJob，实现对该待处理文档的处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所，未经中国科学院信息工程研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710335307.0/，转载请声明来源钻瓜专利网。
- 上一篇：水龙头（LY1122）
- 下一篇：酒瓶（JPY礼酒30典藏）
