[发明专利]一种动态调度多核融合计算处理器的方法及其系统

说明书

本发明提供一种动态调度多核融合计算处理器的方法及其系统，该方法包括启动运行系统调度程序，调度任务至融合处理器管理程序；读取用户预设的场景类型信息，并设置不同场景类型信息的权重；收集各个应用任务信息，对各个任务负载进行估算；制定计算节点分配方案；根据应用场景信息、调度到融合处理器的任务信息、融合处理器的资源信息，配置融合处理器的计算节点类型，派发相应任务到计算节点，动态调度融合处理器，从而形成同构或异构多核处理器系统。本发明系统应用于上述的方法。本发明可以解决现有技术中存在的不足，能够自动地分析系统的工作状态并做出合理的任务分配和调度，可以最大化发挥融合处理器的性能。

技术领域

本发明涉及多核处理器技术领域，具体涉及一种动态调度多核融合计算处理器的方法以及应用该方法的系统。

背景技术

随着微电子技术的不断进步，微处理器有了迅速的发展，随着智能手机的流行，越来越多的人都知道了手机芯片的相关知识，更是知道了CPU、GPU、NPU等等“深奥”的知识点。在手机SOC中，CPU是至关重要的部分，同样在自动驾驶行业处理深度学习AI算法方面，GPU和NPU都需要和CPU协同才能发挥其性能优势。

CPU(CentralProcessing Unit)中央处理器，是一块超大规模的集成电路，主要逻辑架构包括控制单元Control、运算单元ALU和高速缓冲存储器(Cache)及实现它们之间联系的数据(Data)、控制及状态的总线(Bus)。CPU遵循的是冯·诺依曼架构，其核心是存储程序/数据、串行顺序执行。因此CPU的架构中需要大量的空间去放置存储单元(Cache)和控制单元(Control)，相比之下计算单元(ALU)只占据了很小的一部分，所以CPU在进行大规模并行计算方面受到限制，相对而言更擅长于处理逻辑控制。

GPU(GraphicsProcessing Unit)，即图形处理器，是一种由大量运算单元组成的大规模并行计算架构，早先由CPU中分出来专门用于处理图像并行计算数据，专为同时处理多重并行计算任务而设计。GPU虽然在并行计算能力上尽显优势，但并不能单独工作，需要CPU的协同处理，对于神经网络模型的构建和数据流的传递还是在CPU上进行。但是GPU也有天生缺陷，那就是功耗高，体积大，价格贵，性能越高的GPU体积越大，功耗越高，价格也昂贵，对于一些小型设备、移动设备来说将无法使用。

NPU(NeuralNetworks Process Units)神经网络处理单元。NPU工作原理是在电路层模拟人类神经元和突触，并且用深度学习指令集直接处理大规模的神经元和突触，一条指令完成一组神经元的处理。相比于CPU和GPU，NPU通过突出权重实现存储和计算一体化，从而提高运行效率。NPU是模仿生物神经网络而构建的，CPU、GPU处理器需要用数千条指令完成的神经元处理，NPU只要一条或几条就能完成，因此在深度学习的处理效率方面优势明显。

在过去的几十年里，随着人工智能的热潮和AI算法的广泛应用，深度学习已成为当前AI研究的重点，在自动驾驶领域，环境感知、传感器融合、控制决策等等都会多少涉及到深度学习，而自动驾驶性能的优劣直接和AI算法相关，说白了就是深度学习算法的优劣。要想在面对海量数据的并行运算的同时做到高效、可靠，那就意味着承载AI算法的计算平台需要提供足够的性能加速，也就是AI芯片的算力要足够用，同时考虑其他因素，功耗还不能超标，能效比越高越好。在AI芯片领域，可供选择的，首先是需要一个CPU或者ARM内核来执行调度处理，然后大量的并行计算靠GPU、FPGA或者ASIC来完成，而ASIC里面有多种架构，谷歌的TPU、地平线BPU、寒武纪和华为都推出的NPU等。

CPU和GPU都属于通用芯片，不过GPU在近几年专门针对AI算法加强了并行计算单元，因此除CPU外，GPU、NPU、FPGA等芯片作为AI算法的硬件加速器在不同的应用场景和深度学习算法中发挥着各自的优势，