[发明专利]数据处理方法、装置、设备及存储介质有效
申请号: | 202010879229.2 | 申请日: | 2020-08-27 |
公开(公告)号: | CN112001160B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 周强 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
主分类号: | G06F40/186 | 分类号: | G06F40/186;G06F40/18;G06F16/22;G06F11/14;G06F16/27 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 姚维 |
地址: | 518048 广东省深圳市福田区益田路*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
1.一种网络订单数据处理方法,其特征在于,所述网络订单数据处理方法包括:
获取网络订单数据;
根据动态第一分片值对所述网络订单数据进行预分片处理,生成第一分片数据集,其中,所述第一分片数据集包括至少两块第一分片数据,且每个所述第一分片数据的数据片大小相等;
根据预设的第二分片值对所述第一分片数据集中的每块第一分片数据进行分片处理,得到对应的第二分片数据集;
将所有的所述第二分片数据集导入模板数据表中,生成分片数据表;
将所述分片数据表载入处理平台,并依次执行每个分片数据的指令;
在所述获取网络订单数据之后,所述根据动态第一分片值对所述网络订单数据进行预分片处理,生成第一分片数据集之前,还包括:
读取所述网络订单数据的数据类型,判断所述数据类型是否为数字类型;
若所述数据类型是数字类型,则获取所述动态第一分片值;
若所述数据类型不是数字类型,将所述网络订单数据转为数字类型,并向控制服务器发送确认函件;
所述获取所述动态第一分片值包括:
分析获得所述网络订单数据的数据量;
根据所述数据量与预设的动态对应关系获得动态分片数量;
根据所述数据量与所述动态分片数量的商值得出所述网络订单数据对应的动态第一分片值;
所述将所有的所述第二分片数据集导入模板数据表中,生成分片数据表包括:
读取所述模板数据表的表格类型,判断所述表格类型是否在系统处理类型范围内;
若所述表格类型在系统处理类型范围内,则读取模板数据表将所述第一分片数据对应的第二分片数据集中的第二分片数据依次写入其中;
若所述表格类型不在系统处理类型范围内,则判断所述表格类型是否属于能自动修正的表格类型;
若所述表格类型属于能自动修正的表格类型,则对所述表格类型进行自动修正,并将所述第一分片数据对应的第二分片数据集中的第二分片数据写入至修正后的模板数据表中;
在所述将所有的所述第二分片数据集导入模板数据表中,生成分片数据表之后,还包括:
判断所述分片数据表中数据量是否超过读取数据量阈值;
若超过读取数据量阈值,则将所述分片数据表根据所述第一分片数据平均拆分,直至拆分后的每个数据表的数据量小于所述读取数据量阈值;
若未超过读取数据量阈值,将所述分片数据表发送至云端数据库进行备份;
在所述根据预设的第二分片值对所述第一分片数据集中的每块第一分片数据进行分片处理,得到对应的第二分片数据集之后,还包括:
扫描所有所述第二分片数据集中的第二分片数据,判断是否存在分片错误数据;
若存在分片错误数据,则根据所述分片错误数据对应的第一分片数据从所述网络订单数据中获取修复分片数据,并将修复分片数据替换所述分片错误数据;
若不存在分片错误数据,将获得分片数据表在内置存储设备中锁定备份,若写入所述模板数据表中发生数据错误,则从所述锁定备份中恢复数据。
2.根据权利要求1所述的网络订单数据处理方法,其特征在于,所述根据预设的第二分片值对所述第一分片数据集中的每块第一分片数据进行分片处理,得到对应的第二分片数据集包括:
判断所述动态第一分片值是否大于所述第二分片值;
若所述动态第一分片值大于所述第二分片值,则将所述第二分片数据导入模板数据表中,生成分片数据表;
若所述动态第一分片值不大于所述第二分片值,则根据所述动态第一分片值对所述第一分片数据进行分片,获得数字类型的第二分片数据集。
3.一种网络订单数据处理装置,其用于如权利要求1所述的网络订单数据处理方法,其特征在于,所述网络订单数据处理装置包括:
获取模块,用于获取网络订单数据;
第一分片模块,用于根据动态第一分片值对所述网络订单数据进行预分片处理,生成第一分片数据集,其中,所述第一分片数据集包括至少两块第一分片数据,且每个所述第一分片数据的数据片大小相等;
第二分片模块,用于根据预设的第二分片值对所述第一分片数据集中的每块第一分片数据进行分片处理,得到对应的第二分片数据集;
写入模块,用于将所有的所述第二分片数据集导入模板数据表中,生成分片数据表;
执行模块,用于将所述分片数据表载入处理平台,并依次执行每个分片数据的指令。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010879229.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种抗生素截止阀
- 下一篇:一种指纹识别认证方法和系统