[发明专利]多线程多维度的数据处理方法、装置、设备及存储介质在审
申请号: | 202011611194.0 | 申请日: | 2020-12-30 |
公开(公告)号: | CN112685070A | 公开(公告)日: | 2021-04-20 |
发明(设计)人: | 庞雪莲 | 申请(专利权)人: | 平安普惠企业管理有限公司 |
主分类号: | G06F8/70 | 分类号: | G06F8/70;G06F8/71;G06F11/30 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 姚维 |
地址: | 518027 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 多线程 多维 数据处理 方法 装置 设备 存储 介质 | ||
1.一种多线程多维度的数据处理方法,其特征在于,包括:
获取原始数据集,所述原始数据集包括同一批次的多种业务数据;
根据预置的分类规则对所述原始数据集进行识别,得到多个二维数组,其中,每个二维数组包括外层维度标识和内层维度标识;
对所述多个二维数组进行配置,得到多个目标LIST容器,其中,每个目标LIST容器包括多个对象,一个对象对应一个外层维度标识;
根据所述多个目标LIST容器的大小分别生成对应的子线程,得到多个子线程;
通过预置的线程阻塞工具和所述多个子线程对所述原始数据集进行处理,得到批量处理后的数据。
2.根据权利要求1所述的多线程多维度的数据处理方法,其特征在于,所述根据预置的分类规则对所述原始数据集进行识别,得到多个二维数组,其中,每个二维数组包括外层维度标识和内层维度标识,包括:
对所述原始数据集进行解析,得到多个目标业务数据;
根据预置的第一分类规则确定所述多个目标业务数据对应的产品大类,得到多个外层维度标识,所述外层维度标识用于指示目标业务数据所属的产品大类;
根据预置的第二分类规则确定所述多个目标业务数据对应的产品子类,得到多个内层维度标识,所述内层维度标识用于指示目标业务数据所属的产品子类,其中,每个产品大类包括多个产品子类;
根据每个目标业务数据对应的外层维度标识和内层维度标识,生成每个目标业务数据对应的二维数组,得到多个二维数组。
3.根据权利要求1所述的多线程多维度的数据处理方法,其特征在于,所述对所述多个二维数组进行配置,得到多个目标LIST容器,其中,每个目标LIST容器包括多个对象,一个对象对应一个外层维度标识,包括:
获取预置的配置信息并根据所述配置信息获取需要的多个预置LIST容器;
根据所述多个二维数组确定多个类对象,每个类对象对应一个外层维度标识;
基于所述预置的配置信息确定每个预置LIST容器的类对象数量;
基于每个所述预置LIST容器的类对象数量将所述多个类对象依次导入到每个所述预置LIST容器中,得到多个目标LIST容器。
4.根据权利要求1所述的多线程多维度的数据处理方法,其特征在于,所述根据所述多个目标LIST容器的大小分别生成对应的子线程,得到多个子线程,包括:
根据所述多个目标LIST容器的大小计算得到每个目标LIST容器的长度;
按照每个目标LIST容器的长度计算每个目标LIST容器所能存储的内层维度标识的最大数量;
按照所述每个目标LIST容器所能存储的内层维度标识的最大数量调用预置线程池分别生成每个目标LIST容器对应的最大数量子线程,得到多个子线程。
5.根据权利要求1所述的多线程多维度的数据处理方法,其特征在于,所述通过预置的线程阻塞工具和所述多个子线程对所述原始数据集进行处理,得到批量处理后的数据,包括:
构造公共处理类接口,并将需要处理的类对象注入到所述公共处理类接口,得到目标处理类接口;
通过所述目标处理类接口调用所述多个子线程对所述原始数据集进行批量处理;
当所述多个子线程未执行完成时,通过预置的线程阻塞工具对主线程进行阻塞;
当所述多个子线程全部执行完成时,通过预置的线程阻塞工具释放阻塞的主线程。
6.根据权利要求1-5中任一项所述的多线程多维度的数据处理方法,其特征在于,在所述根据所述多个目标LIST容器的大小分别生成对应的子线程,得到多个子线程之后,所述多线程多维度的数据处理方法还包括:
对所述多个子线程的执行时长进行监控。
7.根据权利要求6所述的多线程多维度的数据处理方法,其特征在于,所述对所述多个子线程的执行时长进行监控,包括:
获取所述多个子线程中每个所述子线程的开始时刻;
根据所述每个所述子线程的开始时刻和当前时刻确定每个所述子线程的执行时长,并对所述每个所述子线程的执行时长进行监控;
若目标子线程的执行时长超过阈值,则停止执行所述目标子线程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011611194.0/1.html,转载请声明来源钻瓜专利网。