[发明专利]存储器受限调度

说明书

本公开的某些方面提供了用于生成执行调度的技术，包括：接收用于进程的数据流图表，其中数据流图表包括多个节点和多条边；至少部分地基于该进程的存储器利用来生成该数据流图表的拓扑排序；通过基于预定义的存储器容量将与存储器存取相对应的一个或多个新节点插入到该拓扑排序中来生成第一经修改拓扑排序；基于第一经修改拓扑排序来分配存储器单元；以及通过按第一经修改拓扑排序重新排列一个或多个节点来生成第二经修改拓扑排序，其中第二经修改拓扑排序使得能够增加多个硬件组件的并行利用。

相关申请的交叉引用

本申请要求于2021年8月31日提交的美国专利申请S/N.17/463,393的优先权，该美国专利申请要求于2020年9月1日提交的美国临时专利申请S/N.63/073,269的权益和优先权，其中每件申请的全部内容通过援引整体纳入于此。

引言

本公开的各方面涉及计算机处理器操作调度，尤其涉及针对存储器受限系统的改进的操作调度。

如今各种各样的计算进程涉及顺序地或并行地执行数个离散的操作。调度这些操作应当计及数据依赖关系(例如，在特定操作必须在某些后续操作之前完成的情况下)。计算系统往往利用具有快速存取的存储器(诸如高速缓存、紧密耦合存储器(TCM)、静态随机存取存储器(SRAM)等)来存储每个操作的执行所需的相关联数据。然而，在存储器受限系统中，这些快速存取存储器中可能没有足够的空间来存储整个操作序列和伴随的数据。

在存储器受限系统上执行此类进程会以各种方式降低性能。尽管一些数据通常会被存储在快速存取存储器(诸如高速缓存)中，但存储器受限系统往往需要依赖于更大更慢的存储器来存储其余数据。因为较大的主机存储器相比于快速存取存储器(诸如SRAM)通常会引致显著更多的计算成本，所以减少此类存储器存取的次数以改进进程的执行是有用的。一般而言，对主机存储器的存取增加了功耗和等待时间，并减少了计算机的总带宽。由此，调度此类操作的一个重要方面是减少对较慢存储器(例如，主机处理系统动态随机存取存储器(DRAM))的存储器存取。

一些现有的调度器利用贪婪启发法和局部优化朝着开发减少功耗、等待时间和存储器存取的最优调度的目标迈进。存在各种办法来平衡这些相互竞争的目标，但此类办法本质上是由计算进程和操作的全局结构驱动的问题的局部和次优解决方案。

相应地，所需要的是用于改进进程调度的系统和方法，以便更高效地执行计算机处理。

简要概述

某些实施例提供一种用于生成执行调度的方法，该方法包括：接收用于进程的数据流图表，其中数据流图表包括多个节点和多条边；至少部分地基于该进程的存储器利用来生成该数据流图表的拓扑排序；通过基于预定义的存储器容量将与存储器存取相对应的一个或多个新节点插入到该拓扑排序中来生成第一经修改拓扑排序；基于第一经修改拓扑排序来分配存储器单元；以及通过按第一经修改拓扑排序重新排列一个或多个节点来生成第二经修改拓扑排序，其中第二经修改拓扑排序使得能够增加多个硬件组件的并行利用。

其他方面提供了：处理系统，其被配置成执行前述方法以及本文中所描述的那些方法；非瞬态计算机可读介质，其包括在由处理系统的一个或多个处理器执行时使该处理系统执行前述方法以及本文中所描述的那些方法的指令；计算机程序产品，其被实施在计算机可读存储介质上，该计算机可读存储介质包括用于执行前述方法以及本文中进一步描述的那些方法的代码；以及处理系统，其包括用于执行前述方法以及本文中进一步描述的那些方法的装置。

以下描述和相关附图详细阐述了一个或多个实施例的某些解说性特征。

附图简述

附图描绘了该一个或多个实施例的某些方面，并且因此不被认为限制本公开的范围。

图1描绘了用于改进进程调度以确保进程的高效执行的工作流。

图2A描绘了解说执行进程所涉及的操作集和对应数据流的图表。