[发明专利]一种脏数据识别方法、装置和系统在审

专利信息
申请号: 201911081473.8 申请日: 2019-11-07
公开(公告)号: CN112783924A 公开(公告)日: 2021-05-11
发明(设计)人: 吴帅;袁建军;刘业辉;张志刚 申请(专利权)人: 北京沃东天骏信息技术有限公司
主分类号: G06F16/2455 分类号: G06F16/2455;G06F16/2458
代理公司: 中原信达知识产权代理有限责任公司 11219 代理人: 张一军;王安娜
地址: 100176 北京市北京经济技术*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 识别 方法 装置 系统
【权利要求书】:

1.一种脏数据识别方法,其特征在于,应用于生产方,包括:

接收或者生产数据,将业务主键相同的数据分发到同一个算子中;

在同一个算子中,当所述算子处理所述数据时采用自增方式生成标签,并将所述标签加入到所述数据中;

将加入标签后的所述数据下发至消费方。

2.根据权利要求1所述的方法,其特征在于,所述标签包括生成标签时的时间戳和自增序列;

其中,所述自增序列基于所述算子的编号和算子的总数量生成。

3.根据权利要求2所述的方法,其特征在于,所述自增序列以所述算子的编号作为初始值、且以算子的总数量作为步长进行递增。

4.一种脏数据识别方法,其特征在于,应用于消费方,包括:

接收生产方下发的数据,将业务主键相同的数据分发到同一个算子中;

在同一个算子中,基于所述数据的业务主键和标签,识别所述算子中的脏数据。

5.根据权利要求4所述的方法,其特征在于,在同一个算子中,基于所述数据的业务主键和标签,识别所述算子中的脏数据,包括:

在同一个算子中,判断所述数据的业务主键是否在所述算子中出现过;

若是,则继续判断所述数据的标签是否小于所述算子中最后一次更新的标签;

若是,则认定所述数据为脏数据。

6.一种脏数据识别装置,其特征在于,包括:

第一分发模块,用于接收或者生产数据,将业务主键相同的数据分发到同一个算子中;

标签模块,用于在同一个算子中,当所述算子处理所述数据时采用自增方式生成标签,并将所述标签加入到所述数据中;

下发模块,用于将加入标签后的所述数据下发至消费方。

7.一种脏数据识别装置,其特征在于,包括:

第二分发模块,用于接收生产方下发的数据,将业务主键相同的数据分发到同一个算子中;

识别模块,用于在同一个算子中,基于所述数据的业务主键和标签,识别所述算子中的脏数据。

8.一种脏数据识别方法,其特征在于,包括:

生产方接收或者生产数据,将业务主键相同的数据分发到同一个算子中;在同一个算子中,当所述算子处理所述数据时采用自增方式生成标签,并将所述标签加入到所述数据中;将加入标签后的所述数据下发至消费方;

消费方接收生产方下发的数据,将业务主键相同的数据分发到同一个算子中;在同一个算子中,基于所述数据的业务主键和标签,识别所述算子中的脏数据。

9.一种脏数据识别系统,其特征在于,包括:

生产方,用于接收或者生产数据,将业务主键相同的数据分发到同一个算子中;在同一个算子中,当所述算子处理所述数据时采用自增方式生成标签,并将所述标签加入到所述数据中;将加入标签后的所述数据下发至消费方;

消费方,用于接收生产方下发的数据,将业务主键相同的数据分发到同一个算子中;在同一个算子中,基于所述数据的业务主键和标签,识别所述算子中的脏数据。

10.一种电子设备,其特征在于,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。

11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司,未经北京沃东天骏信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911081473.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top