[发明专利]数据处理方法、装置及设备

说明书

本发明提供一种数据处理方法、装置及设备。本发明的方法，通过将所有计算核分为至少两组，每组计算核用于共同执行一个数据帧的深度模型计算任务；CPU调度所述至少两组计算核并行地执行至少两帧数据的深度模型计算任务，实现了在进行一次深度模型计算的过程中，多组计算核并行地执行多帧数据的深度模型计算任务；对于每一组计算核，在对深度模型中不适于多个计算核完成该层计算的层进行计算时，该组内一个计算核负责该层的计算，该组内其他计算核空闲，而其他组的计算核同时在对其他帧数据进行深度模型计算，而不是空闲等待，减少了空闲计算核的数量，提高了计算核的单核利用率，从而提高了AI芯片的整体处理帧率。

技术领域

本发明涉及人工智能芯片技术领域，尤其涉及一种数据处理方法、装置及设备。

背景技术

人工智能(Artificial Intelligence，简称AI)芯片包括中央处理器(CentralProcessing Unit，简称CPU)和用于深度模型计算的多个计算核，通常用于基于视觉的深度模型的处理。通常深度模型包括多个需计算的层，对于输入深度模型的任意一帧数据，均需要经过逐层地计算。

目前，AI芯片中的全部计算核均参与深度模型的每一层的计算。在进行每一层的计算时，CPU将当前层的计算任务划分为多个子任务，由全部计算核并行地完成分配到的子任务，目的是为了提高深度模型计算的效率。

但是，深度模型中通常存在若干特殊层的计算任务不适合划分为多个子任务，这种特殊层的计算任务需由一个计算核执行，在该计算核执行其中一特殊层的计算任务期间，其他计算核空闲；需等待该计算核完成该特殊层的计算任务之后，才有可能参与下一个层的计算，造成AI芯片中计算核的单核利用率低，导致AI芯片的深度模型的处理效率低。

发明内容

本发明提供一种数据处理方法、装置及设备，用以解决现有AI芯片中计算核的单核利用率低，导致AI芯片的深度模型的处理效率低的问题。

本发明的一个方面是提供一种数据处理方法，包括：

将所有计算核分为至少两组，每组计算核用于共同执行一个数据帧的深度模型计算任务；

调度所述至少两组计算核并行地执行至少两帧数据的深度模型计算任务。

本发明的另一个方面是提供一种数据处理装置，包括：

分组模块，用于将所有计算核分为至少两组，每组计算核用于共同执行一个数据帧的深度模型计算任务；

调度模块，用于调度所述至少两组计算核并行地执行至少两帧数据的深度模型计算任务。

本发明的另一个方面是提供一种AI芯片，包括：CPU，多个用于深度模型计算的计算核，存储器，以及存储在所述存储器上并可所述CPU运行的计算机程序，

所述CPU运行所述计算机程序时实现上述所述的数据处理方法。

本发明的另一个方面是提供一种计算机可读存储介质，存储有计算机程序，

所述计算机程序被处理器执行时实现上述所述的数据处理方法。

本发明提供的数据处理方法、装置及设备，通过将所有计算核分为至少两组，每组计算核用于共同执行一个数据帧的深度模型计算任务；CPU调度所述至少两组计算核并行地执行至少两帧数据的深度模型计算任务，实现了在进行一次深度模型计算的过程中，多组计算核并行地执行多帧数据的深度模型计算任务；对于每一组计算核，在对深度模型中不适于多个计算核完成该层计算的层进行计算时，该组内一个计算核负责该层的计算，该组内其他计算核空闲，而其他组的计算核同时在对其他帧数据进行深度模型计算，而不是空闲等待，减少了空闲计算核的数量，提高了计算核的单核利用率，从而提高了AI芯片的整体处理帧率。

附图说明