[发明专利]数据处理方法及装置在审
申请号: | 201711395391.1 | 申请日: | 2017-12-21 |
公开(公告)号: | CN108062399A | 公开(公告)日: | 2018-05-22 |
发明(设计)人: | 陈玉强;黄哲 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 逯恒 |
地址: | 450000 河南省郑州市郑州高新*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
建立源数据库对应的第一指纹集和目标数据库对应的第二指纹集,其中,所述第一指纹集包括源数据库中每条源数据的源数据指纹,所述第二指纹集包括目标数据库中每条目标数据的目标数据指纹,所述源数据指纹包括源数据哈希值,所述目标数据指纹包括目标数据哈希值;
获取待更新的数据对应的更新指纹集,其中,所述更新指纹集包括:第一指纹集中与目标数据指纹不同的源数据指纹,以及第二指纹集中与源数据指纹不同的目标数据指纹。
2.如权利要求1所述的数据处理方法,其特征在于,所述建立源数据库对应的第一指纹集和目标数据库对应的第二指纹集的步骤之前,还包括:
获取源数据库中的所有源数据和目标数据库中的所有目标数据;
将所有源数据和所有目标数据记载到内存。
3.如权利要求2所述的数据处理方法,其特征在于,所述建立源数据库对应的第一指纹集和目标数据库对应的第二指纹集的步骤,包括:
从内存读取所有源数据和所有目标数据,依据哈希算法依次计算每条源数据的源数据哈希值和每条目标数据的目标数据哈希值;
依据每条源数据的源数据哈希值和源数据ID值生成该源数据的源数据指纹,并将所有源数据的源数据指纹放入第一指纹集;
依据每条目标数据的目标数据哈希值和目标数据ID值生成该目标数据的目标数据指纹,并将所有目标数据的目标数据指纹放入第二指纹集。
4.如权利要求1所述的数据处理方法,其特征在于,所述获取待更新的数据对应的更新指纹集合的步骤,包括:
将每条目标数据的目标数据哈希值与所有源数据的源数据哈希值进行逐个比对;
当所述目标数据哈希值与所述源数据哈希值一致时,在所述第一指纹集中删除所述源数据哈希值对应的源数据指纹以得到第一更新指纹集;
当所述目标数据哈希值与所有源数据的源数据哈希值均不一致时,则将所述目标数据哈希值对应的目标数据指纹加入第二更新指纹集,其中,所述待更新的数据对应的更新指纹集包括所述第一更新指纹集和所述第二更新指纹集。
5.如权利要求4所述的数据处理方法,其特征在于,所述源数据指纹还包括源数据ID值,所述目标数据指纹还包括目标数据ID值,所述方法还包括:
根据所述第二更新指纹集中的目标数据指纹的目标数据ID值,删除所述目标数据库中与所述目标数据ID值对应的目标数据;
将与所述第一更新指纹集中的源数据指纹的源数据ID值对应的源数据同步到所述目标数据库中。
6.一种数据处理装置,其特征在于,所述装置包括:
指纹集建立模块,用于建立源数据库对应的第一指纹集和目标数据库对应的第二指纹集,其中,所述第一指纹集包括源数据库中每条源数据的源数据指纹,所述第二指纹集包括目标数据库中每条目标数据的目标数据指纹,所述源数据指纹包括源数据哈希值,所述目标数据指纹包括目标数据哈希值;
更新指纹集获取模块,用于获取待更新的数据对应的更新指纹集,其中,所述更新指纹集包括:第一指纹集中与目标数据指纹不同的源数据指纹,以及第二指纹集中与源数据指纹不同的目标数据指纹。
7.如权利要求6所述的数据处理装置,其特征在于,所述装置还包括:
数据获取模块,用于获取源数据库中的所有源数据和目标数据库中的所有目标数据;
数据记载模块,用于将所有源数据和所有目标数据记载到内存。
8.如权利要求7所述的数据处理装置,其特征在于,所述指纹集建立模块具体用于:
从内存读取所有源数据和所有目标数据,依据哈希算法依次计算每条源数据的源数据哈希值和每条目标数据的目标数据哈希值;
依据每条源数据的源数据哈希值和源数据ID值生成该源数据的源数据指纹,并将所有源数据的源数据指纹放入第一指纹集;
依据每条目标数据的目标数据哈希值和目标数据ID值生成该目标数据的目标数据指纹,并将所有目标数据的目标数据指纹放入第二指纹集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711395391.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种大容量存储器电路的3D封装结构
- 下一篇:一种嵌缝材料及其制备方法