[发明专利]海量数据处理方法和系统在审
| 申请号: | 201210215717.9 | 申请日: | 2012-06-27 |
| 公开(公告)号: | CN103514205A | 公开(公告)日: | 2014-01-15 |
| 发明(设计)人: | 闻剑峰;贺仁龙;石屹嵘;龚德志;段勇 | 申请(专利权)人: | 中国电信股份有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 中国国际贸易促进委员会专利商标事务所 11038 | 代理人: | 孙宝海 |
| 地址: | 100033 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了一种海量数据处理方法和系统,涉及数据处理领域,包括并行采集多个数据文件;将每个所述数据文件划分成多个独立的数据块,分别存储所述数据块;对每个所述数据块进行清洗;将清洗后的每个所述数据块保存到数据仓库。本发明通过并行采集和分散存储的数据处理方式,有效解决了数据输入的瓶颈限制,提高数据输入的效率,并且数据块分散存储为后续的并行处理提供了前提条件。 | ||
| 搜索关键词: | 海量 数据处理 方法 系统 | ||
【主权项】:
一种海量数据处理方法,其特征在于,所述方法包括:并行采集多个数据文件;将每个所述数据文件划分成多个独立的数据块,分别存储所述数据块;对每个所述数据块进行清洗;将清洗后的每个所述数据块保存到数据仓库。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电信股份有限公司,未经中国电信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201210215717.9/,转载请声明来源钻瓜专利网。





