[发明专利]自动化数据回溯的方法与系统有效
申请号: | 201610608902.2 | 申请日: | 2016-07-29 |
公开(公告)号: | CN107665163B | 公开(公告)日: | 2021-03-30 |
发明(设计)人: | 张成 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F11/32 | 分类号: | G06F11/32 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;赵静 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 自动化 数据 回溯 方法 系统 | ||
1.一种数据回溯的方法,其特征在于,包括:
数据集市客户端把获取的数据回溯任务放入任务池;
所述数据集市客户端按照根据集市服务器的任务执行能力而设定的检测周期定期检测数据集市服务器的资源占用情况,当资源占用情况不超过占用阈值时,所述数据集市客户端串行地提交任务池中的数据回溯任务;当资源占用情况超过占用阈值时,所述数据集市客户端中断当前数据回溯任务的提交和/或请求所述数据集市服务器中断当前数据回溯任务的执行,并将当前中断的数据回溯任务放回任务池中;
数据集市服务器将已经回溯的数据保存至数据集市。
2.根据权利要求1所述的方法,其特征在于,所述资源占用情况包括以下一个或多个:CPU使用率、可用内存量、交换区使用情况、网络I/O状况。
3.根据权利要求1所述的方法,其特征在于,所述数据集市客户端串行地提交任务池中的数据回溯任务还包括:定时检测当前提交的数据回溯任务的执行情况,若当前数据回溯任务执行完成,则继续提交下一数据回溯任务,若当前数据回溯任务未完成,则等待提交。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
数据集市服务器在执行数据回溯任务的过程中,自动校验数据回溯任务的执行结果。
5.根据权利要求4所述的方法,其特征在于,数据集市服务器在执行数据回溯任务的过程中,自动校验数据回溯任务的执行结果还包括:
配置错误监控信息,其中错误监控信息中包括:错误类别、错误信息以及处理手段;
在执行数据回溯任务的过程中,根据配置的错误监控信息自动校验任务执行结果,若执行失败则根据错误类别分类处理,其中,对于可自动修复的错误,则将数据回溯任务或自动修复参数后的数据回溯任务返回至数据集市客户端,以重新放入任务池等待提交;对于不可自动修复的错误,则将生成错误信息文件推送至监控人员。
6.一种数据回溯的系统,其特征在于,包括:数据集市客户端、数据集市服务器以及数据集市,其中:
所述数据集市客户端按照根据集市服务器的任务执行能力而设定的检测周期定期检测数据集市服务器的资源占用情况,当资源占用情况不超过占用阈值时,所述数据集市客户端串行地提交任务池中的数据回溯任务;当资源占用情况超过占用阈值时,所述数据集市客户端中断当前数据回溯任务的提交和/或请求所述数据集市服务器中断当前数据回溯任务的执行,并将当前中断的数据回溯任务放回任务池中;
数据集市服务器将已经回溯的数据保存至数据集市。
7.根据权利要求6所述的系统,其特征在于,所述资源占用情况包括以下一个或多个:CPU使用率、可用内存量、交换区使用情况、网络I/O状况。
8.根据权利要求6所述的系统,其特征在于,所述数据集市客户端串行地提交任务池中的数据回溯任务还包括:定时检测当前提交的数据回溯任务的执行情况,若当前数据回溯任务执行完成,则继续提交下一数据回溯任务,若当前数据回溯任务未完成,则等待提交。
9.根据权利要求6所述的系统,其特征在于,所述数据集市服务器还用于:在执行数据回溯任务的过程中,自动校验数据回溯任务的执行结果。
10.根据权利要求9所述的系统,其特征在于,数据集市服务器在执行数据回溯任务的过程中,自动校验数据回溯任务的执行结果还包括:
配置错误监控信息,其中错误监控信息中包括:错误类别、错误信息以及处理手段;
在执行数据回溯任务的过程中,根据配置的错误监控信息自动校验任务执行结果,若执行失败则根据错误类别分类处理,其中,对于可自动修复的错误,则将数据回溯任务或自动修复参数后的数据回溯任务返回至数据集市客户端,以重新放入任务池等待提交;对于不可自动修复的错误,则将生成错误信息文件推送至监控人员。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610608902.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:智能共享车桩
- 下一篇:一种公共场所的滑板车存放装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置