[发明专利]在TVM中加速调优收敛的调度方法、存储介质和电子设备

说明书

本发明公开了一种在TVM中加速调优收敛的调度方法，包括以下步骤：统计调度任务的类型，确定同类型调度任务的数量；首轮遍历调优，记录调度任务对应的耗时；按照耗时长短为调度任务附上调度权重；计算同类型调度任务的得分；以所有调度任务的得分之和作为目标函数值与设定的目标阈值作比较，若目标函数值大于目标阈值，则进行调度权重反馈；调度权重反馈，进行再次调优，并判断调优前后的耗时比较调整调度权重；本发明还同步公开一种、存储介质和电子设备。本发明对调优后的耗时与调优前进行比较，并进行相应的调度权重奖励与惩罚，使调度能够更加快速地收敛。

技术领域

本发明涉及计算机技术领域，尤其涉及一种在TVM中加速调优收敛的调度方法、存储介质和电子设备。

背景技术

在深度学习网络中，通常包含多种任务，为了使整体网络性能更优，通常需要对任务进行调度。如文献：Zheng L , Jia C , Sun M , et al. Ansor : Generating High-Performance Tensor Programs for Deep Learning[J]. 2020即提出了两种策略用于调优任务的调度，分别是round-robin、gradient。其中Round-robin是类枚举调度方法，使用该方法每个任务都能够调度到，对于优化权重低和优化权重高的任务被调度的机会是一样的，这会导致非常耗时。gradient是基于梯度思想的调度策略，这种策略的收敛速度较快，但易陷入局部最优，不利于进一步的调度优化。

发明内容

本发明的目的在于提供一种在TVM中加速调优收敛的调度方法，以解决背景技术中提到的至少一种技术问题。

为实现上述目的，本发明提供如下技术方案：

一种在TVM中加速调优收敛的调度方法，包括以下步骤：

S1，统计调度任务的类型，确定同类型调度任务的数量；

S2，首轮遍历调优，依次对调度任务进行首轮调优，记录调度任务对应的耗时；

S3，按照耗时长短为调度任务附上调度权重，耗时越长调度权重越重；

S4，计算耗时、同类型调度任务的数量、调度权重三者的乘积为同类型调度任务的得分；

S5，以所有调度任务的得分之和作为目标函数值与设定的目标阈值作比较，若目标函数值大于目标阈值，则跳至S6进行调度权重反馈，否则结束调优；

S6，调度权重反馈，对得分最大的同类型调度任务进行再次调优，并判断调优前后的耗时，若调优后的耗时比调优前的耗时短，则加重其调度权重作为奖励，否则减轻其调度权重作为惩罚；跳回至S4。

进一步的，所述S2中，首轮遍历调优的具体内容为：初始化首轮遍历索引；对所述首轮遍历索引累加1，并依次对所述首轮遍历索引对应的调度任务进行调优直至所有调度任务完成首轮遍历调优。

进一步的，所述S6中，调度权重反馈的具体内容为：

S61，选取得分最大的同类型调度任务，将其索引值赋给任务调度索引，将得分最大值赋给中间判断值；

S62，对所述得分最大的同类型调度任务进行再次调优，并记录调优后的耗时；

S63，将调优后的耗时与中间判断值进行比较，若调优后的耗时比中间判断值短，则加重对应的调度权重作为奖励，否则将减轻对应的调度权重作为惩罚。

进一步的，所述奖励值大于惩罚值。

进一步的，所述奖励内容为，在原调度权重的基础上加0.3；所述惩罚内容为，在原调度权重的基础上减0.2。

进一步的，在所述S63中，还包括边界防护，当出现任一调度权重小于设定权重阈值时，进行调度任务进行重新洗牌。

进一步的，所述重新洗牌的内容为：按照S3的方法，对当前的调度任务按照耗时长短为调度任务重新附上调度权重，耗时越长调度权重越重。