[发明专利]流式应用程序的任务动态调度方法和装置

说明书

本发明提供一种流式应用程序的任务动态调度方法，包括：1)可用计算单元数目发生变化时，读取预存的当前流式应用程序静态最优策略；2)选出为当前流式应用程序保留的N_r个计算单元；3)基于最优静态策略下所有计算单元的任务负载之和，以及当前的可用计算单元个数N_r，得到保持负载均衡所需的每个可用计算单元的负载阈值；4)基于负载阈值将剩下的需释放的N‑N_r个计算单元上的任务映射到保留的N_r个计算单元上；对于静态最优策略下在不同计算单元上并行执行的多个任务，基于所述负载阈值，尽量将这些任务合并至同一计算单元下。本发明还提供了对应的任务动态调度装置。本发明能够完整地支持在多种资源变化场景下提升用户体验，且计算复杂度低。

技术领域

本发明涉及嵌入式系统技术领域，具体地说，本发明涉及流式应用程序在嵌入式系统中的数据处理技术。

背景技术

近年来，嵌入式系统应用程序对计算能力的需求不断增长。例如第四代无线通信系统标准的长期演进技术(Long Term Evolution,LTE)R13版本技术标准系统的峰值速率已经达到下行600Mbps，上行300Mbps；多媒体音视频处理领域随着增强现实(AugmentedReality，AR)、虚拟现实(Virtual Reality，VR)等技术的成熟，对于计算能力的需求也达到了1000GOPS甚至更高。不同于高性能处理机和桌面机系统，嵌入式系统的应用程序以流式应用程序为主，需要对源源不断到来的数据进行处理，而且对实时性具有很高要求。

面对嵌入式系统的发展现状，随着半导体集成电路设计能力不断增长，异构片上多核系统成为嵌入式系统的主流解决方案。一个片上系统中往往集成了一到多个通用处理处理器和多个专用DSP处理器，通用处理器负责完成系统的主要控制和调度，而专用处理器完成对密集数据的运算。这就需要充分挖掘应用程序各个层次的并行度从而充分利用硬件提供的资源。由于嵌入式系统对实时性要求较高，所以应用程序的并行度提取、任务划分和计算资源分配等大多在离线完成，可以使用复杂的算法来获得优化的策略，实际运行的系统直接使用经过优化的策略即可。

然而，近年来嵌入式随着应用程序的不断复杂和多样化，嵌入式系统面临着比以往更加复杂的场景。有时，多个应用程序以动态变化的方式共享同一个异构多核计算平台。例如，一个视频处理程序占用整个异构计算平台的处理资源，当另一个拍照程序启动的时候，视频处理程序不得不动态改变它的任务映射，因为一部分处理单元将分配给拍照程序。这意味着，系统需要在线地改变任务的并行度和映射，来适应变化的计算资源。

面对上述复杂的应用场景，有人提出了一种半静态的解决方案，即离线地准备多个不同计算资源场景下的任务并行度和映射方案，根据实际情况进行在线选择。然而，这种方案能够适应的场景会受到预先考虑的场景的限制，并且，由于需要额外的存储资源去保存这些预先设计好的任务划分和映射的方案，这种方案还会消耗大量的存储资源。

现有技术中还存在一些动态的解决方案。然而，为了控制在线算法的复杂度，现有的动态解决方案往往只考虑了动态改变任务分配或者部分并行度，欠缺对各种不同类型的并行度的深入分析，导致资源分配方案的优化效果不佳，直接影响系统性能。

另一方面，不同于任务的动态调度由操作系统来完成的传统高性能计算和桌面机领域，嵌入式系统对实时性的要求很高。与此同时，流式应用程序需要处理源源不断到来的数据，这本身就具备与通用计算的应用程序不同的特征，所以传统的操作系统对任务的动态调度方式并不适用于此。

综上所述，已有的技术方案难以解决流式应用程序在异构多核片上系统上的复杂场景动态调度问题(例如多个应用程序以动态变化的方式共享同一个异构多核计算平台这一场景下的调度问题)，当前迫切需要一种流式应用程序的任务动态调度的解决方案。

发明内容

因此，本发明的任务是提供一种流式应用程序的任务动态调度的解决方案。