[发明专利]一种基于Spark框架的数据表同步方法、同步装置和存储介质在审
| 申请号: | 202111299817.X | 申请日: | 2021-11-04 | 
| 公开(公告)号: | CN114020843A | 公开(公告)日: | 2022-02-08 | 
| 发明(设计)人: | 王雨松 | 申请(专利权)人: | 北京房江湖科技有限公司 | 
| 主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/22;G06F16/28 | 
| 代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 张驰;宋志强 | 
| 地址: | 101399 北京市*** | 国省代码: | 北京;11 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | 本申请公开了基于Spark框架的数据表同步方法、同步装置和存储介质。基于本申请,基于Spark框架获取待处理数据表中的元数据的数量,为各元数据对应生成自增字段,形成自增字段表;以及,基于各数据分区的数据处理能力和需要处理的元数据的平均长度,计算数据分区的平均可处理数据量。进一步地,基于平均可处理数据量对自增字段表进行划分,以完成对待处理数据表中的各元数据对应数据分区的划分,使得各数据分区中的数据均匀,提升数据处理效率。 | ||
| 搜索关键词: | 一种 基于 spark 框架 数据表 同步 方法 装置 存储 介质 | ||
【主权项】:
                暂无信息
            
                    下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
                
                
            该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京房江湖科技有限公司,未经北京房江湖科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111299817.X/,转载请声明来源钻瓜专利网。
- 上一篇:一种查询方法、装置、存储介质及电子设备
- 下一篇:一种环保型水性油墨制备系统





