[发明专利]数据批量处理方法、装置和存储介质

说明书

本申请涉及人工智能中的人脸识别，具体涉及一种数据批量处理方法、装置和存储介质。所述方法包括获取目标任务，并确定与目标任务对应的指令流；确定与目标任务对应的索引全集；索引全集中的各索引元素用于指向待处理矩阵中的各内容元素；将索引全集划分成多个数据索引集，并将各数据索引集分别分配至对应的处理通道；其中，每个处理通道所分配的数据索引集的元素数量，大于缓存单元所对应的缓存数量；基于各处理通道分别对应分配的数据索引集，并行地通过各处理通道分别执行与指令流对应的至少一轮的目标操作，直至得到与目标任务对应的操作结果。采用本方法可以提升数据批量处理的处理效率。

技术领域

本申请涉及计算机技术领域，特别是涉及一种数据批量处理方法、装置和存储介质。

背景技术

学习模型可以通过大量的计算来提高模型精度，而在实际应用中可通过机器学习模型来部署丰富的线上服务。机器学习模型中通常包括多个访问密集型算子，比如一元算子、二元算子以及规约算子等。

在传统方案中，一般是按照流水线的方式对访问密集型算子进行计算，例如，对于一元算子，常常是按顺序处理待处理数据。由于在进行数据处理的过程中，不同的待处理数据具有依赖，例如，在对第二个待处理数据进行数据处理的过程中需要依赖于第一个待处理数据的数据处理结果，因此，后面的数据处理过程就必须等待前面的数据处理过程执行结束后才可执行，从而容易造成的数据处理卡顿现象。这样，对访问密集型算子进行处理的整体耗时就非常大，存在对大量数据进行批量处理的效率低的问题。

发明内容

基于此，有必要针对上述技术问题，提供一种能够提升数据批量处理效率的数据批量处理方法、装置、计算机设备和存储介质。

一种数据批量处理方法，所述方法包括：

获取目标任务，并确定与所述目标任务对应的指令流；

确定与所述目标任务对应的索引全集；所述索引全集中的各索引元素用于指向待处理矩阵中的各内容元素；

将所述索引全集划分成多个数据索引集，并将各所述数据索引集分别分配至对应的处理通道；其中，每个处理通道所分配的数据索引集的元素数量，大于缓存单元所对应的缓存数量；

基于各处理通道分别对应分配的数据索引集，并行地通过各处理通道分别执行与所述指令流对应的至少一轮的目标操作，直至得到与所述目标任务对应的操作结果；

其中，每个处理通道在执行当前轮次的目标操作时，均按照相对应的数据索引集中的当前索引元素，从所述缓存单元中查找对应的内容元素以作为操作对象，当未从所述缓存单元中查找到对应的内容元素时，触发所述缓存单元根据所述当前索引元素获取缓存数量个的内容元素进行覆盖更新。

在一个实施例中，每个轮次的目标操作包括多次循环执行的一组操作，每组操作均包括有第一目标操作和第二目标操作；

所述每个处理通道在执行当前轮次的目标操作时，均按照相对应的数据索引集中的当前索引元素，从所述缓存单元中查找对应的内容元素以作为操作对象，包括：

在每个处理通道在执行当前轮次的当前循环中的第一目标操作时，根据相对应的当前索引元素，从所述缓存单元中查找对应的内容元素以作为第一目标操作的操作对象；

在每个处理通道在执行当前轮次的当前循环中的第二目标操作时，获取前次循环中执行第二目标操作所得到的中间操作数据，并将所述中间操作数据和通过所述第一目标操作查找到的所述内容元素，共同作为操作对象。

在一个实施例中，所述每个处理通道在执行当前轮次的目标操作时，均按照相对应的数据索引集中的当前索引元素，从所述缓存单元中查找对应的内容元素以作为操作对象，包括：

确定本地资源所支持的最大并发数量；