[发明专利]超参数优化过程中的资源调度方法、装置、设备及介质

权利要求书

1.一种机器学习模型超参数优化过程中的资源调度方法，其中，该方法融合了多个超参数调优策略，每个所述超参数调优策略用于基于自身所对应的超参数选择策略为所述机器学习模型选择超参数组合，该方法的每一轮迭代过程包括：

确定当前可用的资源；

为所述多个超参数调优策略分配当前可用的资源；

获取分配到资源的各超参数调优策略分别基于所分配到的资源生成的一个或多个超参数组合。

2.根据权利要求1所述的方法，其中，所述多个超参数调优策略包括：

一个或多个非模型导向搜索策略，所述非模型导向搜索策略用于基于预定的搜索方式从超参数搜索空间内选择超参数组合；和/或

一个或多个模型导向策略，所述模型导向策略用于基于预测模型选择超参数组合，其中，所述预测模型是基于迭代过程中生成的至少部分超参数组合进行训练得到的。

3.根据权利要求2所述的方法，其中，所述为所述多个超参数调优策略分配当前可用的资源包括：

将当前可用的资源平均分配给所述多个超参数调优策略；

或者，

将当前可用的资源按照预设的比例分配给所述多个超参数调优策略。

4.根据权利要求2所述的方法，其中，所述为所述多个超参数调优策略分配当前可用的资源包括：

分别对所述多个超参数调优策略进行评分；

根据评分结果为所述多个超参数调优策略分配当前可用的资源。

5.根据权利要求4所述的方法，其中，当所述多个超参数调优策略包括一个或多个模型导向策略时，在每一轮迭代过程中，该方法还包括：

获取在该轮迭代过程中生成的一个或多个超参数组合分别对应的评价指标，将所述一个或多个超参数组合及其评价指标加入到所述机器学习模型的超参数组合样本集。

6.根据权利要求5所述的方法，其中，在每一轮迭代过程中，该方法还包括：

在该轮分配到资源的模型导向策略以所述机器学习模型当前的超参数组合样本集中的至少部分超参数组合为训练样本，进行模型训练，以得到所述预测模型。

7.根据权利要求4所述的方法，其中，分别对多个超参数调优策略进行评分包括：

根据各超参数调优策略的可用度，分别对所述多个超参数调优策略进行评分；以及/或者

根据各超参数调优策略的置信度，分别对所述多个超参数调优策略进行评分；以及/或者

根据各超参数调优策略在之前一轮或多轮迭代中生成的超参数组合的评价指标，分别对所述多个超参数调优策略进行评分。

8.一种机器学习模型超参数优化过程中的资源调度装置，包括：资源确定单元、分配单元以及超参数组合获取单元，在每一轮迭代过程中：

所述资源确定单元用于确定当前可用的资源；

所述分配单元用于为多个超参数调优策略分配当前可用的资源，其中，每个所述超参数调优策略用于基于自身所对应的超参数选择策略为所述机器学习模型选择超参数组合；

所述超参数组合获取单元用于获取分配到资源的各超参数调优策略分别基于所分配到的资源生成的一个或多个超参数组合。

9.一种计算设备，包括：

处理器；以及

存储器，其上存储有可执行代码，当所述可执行代码被所述处理器执行时，使所述处理器执行如权利要求1至7中任何一项所述的方法。

10.一种非暂时性机器可读存储介质，其上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器执行如权利要求1至7中任一项所述的方法。