[发明专利]数据并行处理方法、装置、设备及存储介质

说明书

本发明实施例提供一种数据并行处理方法、装置、设备及存储介质。包括：若待处理任务支持分片，获取数据拆分规则；根据所述拆分规则将所述待处理任务拆分为多个子任务；将所述多个子任务分配至对应的线程进行处理，获得多个子结果；将所述多个子结果进行合并，获得数据处理结果。本发明实施例提供的数据并行处理方法，将待处理任务拆分为多个子任务，然后将多个子任务分配至对应的线程中并行处理，最后将各个子结果合并，获得最终的数据处理结果，可以减少单个作业处理的批处理时间，从而提高数据的处理效率。

技术领域

本发明实施例涉及数据处理技术领域，尤其涉及一种数据并行处理方法、装置、设备及存储介质。

背景技术

商业银行核心系统基于IBM大型机构建，大型机上的联机、批处理基于文件，并在计算过程中没有网络损耗，但是从大型机下移到X86开放系统后，X86系统CPU、网络通讯、IO等损耗增加，单一机器无法满足大型银行10亿级以上的业务处理，通过对业务数据进行业务领域垂直拆分，数据量水平拆分来解决数据库瓶颈，但是在批处理中，一个批次的数据文件达到百万级，如果按由单台进行处理，仍然无法实现高效的计算。因而提高数据的处理效率显得尤为重要。

发明内容

本发明实施例提供一种数据并行处理方法、装置、设备及存储介质，通过数据分片，把一个任务按一定比例拆分成多片，并在不同机器上并行运行，来减少单个作业处理的批处理时间，从而提高数据的处理效率。

第一方面，本发明实施例提供了一种数据并行处理方法，包括：

若待处理任务支持分片，获取数据拆分规则；

根据所述拆分规则将所述待处理任务拆分为多个子任务；

将所述多个子任务分配至对应的线程进行处理，获得多个子结果；

将所述多个子结果进行合并，获得数据处理结果。

进一步地，获取数据拆分规则，包括：

根据所述待处理任务的身份标识码获取分片参数；

根据所述分片参数确定数据拆分规则。

进一步地，在根据设定拆分规则将所述待处理任务拆分为多个子任务，包括：

注册拆分表；

将拆分的多个子任务的信息登记至所述拆分表中；所述拆分表用于记录拆分进度。

进一步地，所述子任务的信息包括：子任务的身份识别码、输入文件路径、输出文件路径及记录条数。

进一步地，将所述多个子任务分配至对应的线程进行处理，获得多个子结果，包括：

根据子任务的信息按照锁机制将所述多个子任务分配至对应的线程进行处理，获得多个子结果。

第二方面，本发明实施例还提供了一种数据并行处理装置，包括：

数据拆分规则获取模块，用于若待处理任务支持分片，获取数据拆分规则；

子任务获取模块，用于根据所述拆分规则将所述待处理任务拆分为多个子任务；

子结果获取模块，用于将所述多个子任务分配至对应的线程进行处理，获得多个子结果；

数据处理结果获取模块，用于将所述多个子结果进行合并，获得数据处理结果。

进一步地，所述数据拆分规则获取模块，还用于：

根据所述待处理任务的身份标识码获取分片参数；

根据所述分片参数确定数据拆分规则。

进一步地，所述子任务获取模块，还用于：

注册拆分表；