[发明专利]一种任务处理方法及处理装置、计算机系统

说明书

本申请涉及计算机技术领域，公开了一种任务处理方法及处理装置、计算机系统，方法的实现包括：第一处理装置生成多个任务，并确定所述多个任务的任务描述信息，所述多个任务的任务描述信息用于指示所述多个任务之间的依赖关系，其中，存在依赖关系的任意两个任务中，其中一个任务的处理需要等待另一个任务的处理结果；所述第一处理装置向第二处理装置发送指令，所述指令中包括所述多个任务和所述多个任务的任务描述信息；所述第二处理装置接收所述指令，并根据所述多个任务之间的依赖关系对所述多个任务进行处理。如此，本申请实施例中的方案能够有效降低等待时延，充分发挥加速芯片的计算能力，提高任务处理效率。

技术领域

本申请涉及计算机技术领域，尤其涉及一种任务处理方法及处理装置、计算机系统。

背景技术

在信息产业高速发展的今天，计算需求日益丰富，计算机的计算性能不断提升，并由过去的同构计算发展到现在的异构计算。异构计算是指采用了中央处理器(centralprocessing unit，CPU)之外的处理器完成计算任务，不同的计算任务可能采用不同的处理器，比如：数字信号处理器(digital signal processing，DSP)、图形处理器(graphicsprocessing unit，GPU)、现场可编程门阵列(field programmable gate array，FPGA)，以及近年来出现的神经网络处理器(neural network processing unit，NPU)。NPU服务于人工智能(artificial intelligence，AI)计算，特长在于海量的矩阵乘法，可以高效地完成神经网络中的卷积计算。由于异构计算采用多核并行的处理架构，所需的计算时间极低，因此对任务的调度效率提出了更高的要求。

当前主流的异构计算均采用主机-设备(Host-Device)模型，由Host向Device异步分发计算任务和相关(输入/输出)数据搬移任务，然后由Device完成计算和数据搬移。其中，Host在向Device分发任务时，需要保证该任务所依赖的前提条件都满足(比如，该任务所依赖的任务均已处理完成)后才分发该任务，而没有相互依赖关系的任务则可以随机发送。具体来说，Host根据应用程序的调用生成多个任务，并把多个任务放入不同的队列中，然后从队列中取任务发送给Device；Host需要在接收到Device返回的处理结果后，再发送下一个任务。

然而，由于AI计算任务间的多层数据依赖特征，Device将当前任务处理完成后，需要通过高延迟的Host-Device线再次通知Host获取后继任务，从而增加了任务的等待时延，造成Device的计算停顿，不能充分发挥加速芯片的计算能力。

发明内容

本申请提供了一种任务处理方法及处理装置、计算机系统，用以解决任务的等待时延较大、不能充分发挥加速芯片的计算能力的问题。

第一方面，本申请实施例提供一种任务处理方法，包括：

第一处理装置生成多个任务，并确定所述多个任务的任务描述信息，所述多个任务的任务描述信息用于指示所述多个任务之间的依赖关系，其中，存在依赖关系的任意两个任务中，其中一个任务的处理需要等待另一个任务的处理结果；

所述第一处理装置向第二处理装置发送指令，所述指令中包括所述多个任务和所述多个任务的任务描述信息。

本申请实施例中，第一处理装置将多个任务以及多个任务的任务描述信息一并发送第二处理装置，如此，第二处理装置在处理完成一个任务后，可以直接根据多个任务之间的依赖关系获取下一个任务进行处理，相比于现有技术中，第二处理装置处理完成一个任务后需要通知给第一处理装置，并由第一处理装置下发下一个任务来说，本申请实施例中的方案能够有效降低等待时延，充分发挥加速芯片的计算能力，提高任务处理效率；且，能够降低第一处理装置的处理负载，满足未来第二处理装置计算能力扩展的场景下，第一处理装置与第二处理装置的负载平衡，并能够更好地满足芯片算力提升、高数据吞吐量、多层数据依赖特征的AI场景下，计算能力与数据搬移能力的平衡和整体性能提升。