[发明专利]基于JAVA的防止父子依赖JOB执行后数据错乱的方法及系统在审
申请号: | 202110316898.3 | 申请日: | 2021-03-23 |
公开(公告)号: | CN113050949A | 公开(公告)日: | 2021-06-29 |
发明(设计)人: | 谢怡珺 | 申请(专利权)人: | 上海万向区块链股份公司 |
主分类号: | G06F8/41 | 分类号: | G06F8/41;G06F8/71 |
代理公司: | 上海段和段律师事务所 31334 | 代理人: | 李佳俊;郭国中 |
地址: | 200086 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 java 防止 父子 依赖 job 执行 数据 错乱 方法 系统 | ||
本发明提供了一种基于JAVA的防止父子依赖JOB执行后数据错乱的方法及系统,包括:步骤S1:对Job中间件进行封装,使封装后的Job中间件支持父子Job依赖;步骤S2:将多项数据Check规则通过组ID关联配置成组,并包装成数据校验Job;步骤S3:Job中间件按业务Job顺序依次执行业务Job,当当前业务Job执行成功后,则执行相应的数据校验Job,相应的数据校验Job执行成功后,下一个业务Job继承当前数据校验Job,重复执行步骤S3,直至执行结束。
技术领域
本发明涉及区块链技术领域,具体地,涉及一种基于JAVA的防止父子依赖JOB执行后数据错乱的方法及系统,更为具体地,涉及基于JAVA的防止父子依赖JOB执行后数据错乱的解决方案。
背景技术
大数据作为时下最火热的IT行业的词汇,随之而来的数据仓库、数据安全、数据分析、数据挖掘等等围绕大数据的商业价值的利用逐渐成为行业人士争相追捧的利润焦点。随着大数据时代的来临,大数据分析也应运而生。
现有技术中,大量的数据需要录入到标准的表格中,由于延迟、录入失败等原因,将导致原始数据与表格中的目标数据不一致,这是就需要对数据进行检测,保证目标数据与原始数据的一致性。
专利文献CN112199184A(申请号:202011203431.X)公开了一种跨语言任务调度方法、装置、设备及可读存储介质,该方法包括获取具有任务依赖关系的上游任务和下游任务;分配上游任务给上游节点,分配下游任务给下游节点;上游节点与下游节点对应不同编程语言;利用任务依赖关系,确定数据交换规则;在上游节点和下游节点之间,建立远程过程调用对应的通讯连接;利用通讯连接并结合数据交换规则,在上游节点和下游节点之间,进行跨语言的实时数据传输。该专利可满足分布式任务的调度和计算的情况下,便省去了单独存储中间结果数据,减少系统存储IO开销,能够加快任务执行效率。本发明JOB调度部分是仅基于JAVA的父子Job二次开发,语言范围小于该专利的“跨语言”范围。该专利注重在上游节点和下游节点之间,进行跨语言的实时数据传输,本发明着重父子Job间的调度机制的完备性,并未涉及“实时数据传输”,且包含把数据校验规则封装成Job的部分,意在解决“父子依赖JOB执行后数据错乱”的问题,即侧重点不同。
专利文献CN109828979A(申请号:201910100217.2)公开了一种数据一致性检测方法,属于大数据处理技术领域,实现了目标数据与原始数据的一致性检测。包括如下步骤:S1:主机接收原始数据和目标数据;S2:主机设定检测节点;S3:主机根据检测节点,提取原始数据与目标数据中对应的数据,进行数据数量比较,判断数据一致性,若数量一致,则该检测节点对应的原始数据与目标数据一致,若数量不一致,则该检测节点对应的原始数据与目标数据不一致,返回步骤S2。本发明数据校验部分,重在通过二次开发,将数据校验规则封装成Job,并通过父子Job的配置,达到防止父子依赖JOB执行后数据错乱的效果。该专利仅支持根据目标数据和原始数据的数量一致性校验,判断数据的一致性。所以本发明和该专利切入点不同。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种基于JAVA的防止父子依赖JOB执行后数据错乱的方法及系统。
根据本发明提供的一种基于JAVA的防止父子依赖JOB执行后数据错乱的方法,包括:
步骤S1:对Job中间件进行封装,使封装后的Job中间件支持父子Job依赖;
步骤S2:将多项数据Check规则通过组ID关联配置成组,并包装成数据校验Job;
步骤S3:Job中间件按业务Job顺序依次执行业务Job,当当前业务Job执行成功后,则执行相应的数据校验Job,相应的数据校验Job执行成功后,下一个业务Job继承当前数据校验Job,重复执行步骤S3,直至执行结束。
优选地,所述封装后的Job中间件包括:封装后的Job中间件支持父子Job多层依赖的配置与执行;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海万向区块链股份公司,未经上海万向区块链股份公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110316898.3/2.html,转载请声明来源钻瓜专利网。