[发明专利]一种超参数的调整方法、装置及计算机可读存储介质

说明书

一种超参数的调整方法、装置及计算机可读存储介质，包括：利用采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息；将获得的采样信息输入机器学习模型，得到与采样信息个数对应的计算结果；获取符合预设条件的目标计算结果，并将目标计算结果对应的采样函数作为目标采样函数；将目标采样函数作为贝叶斯优化调参方法中的采样函数对机器学习模型的超参数进行调整。本申请由于对机器学习模型的超参数进行调整时会判定采样函数集合中哪种采样函数更适合该学习模型，以采用最适合机器学习模型的采样函数进行超参数调整，因此提升了超参数的调整效果。

技术领域

本文涉及计算机技术，尤指一种超参数的调整方法、装置及计算机可读存储介质。

背景技术

机器学习中的超参数(Hyper parameter)是指不能从训练数据中学习到的，需要在模型训练之前人为设置的参数，由于超参数对模型的训练精度、速度有较大的影响，因此超参数的调整至关重要。

相关技术中，较为常用的调参方法是贝叶斯优化调参方法，现有的贝叶斯优化调参方法中，往往需要预先选定一种采样函数，然后利用这种采样函数进行超参数的调整。

然而，每一种采样函数都有其各自适应的范围，采用这种方法预先选定的采样函数并不一定是合适机器学习模型的采样函数，因此导致超参数调整效果不佳。

发明内容

本申请提供了一种超参数的调整方法、装置及计算机可读存储介质，能够提升超参数的调整效果。

本申请提供了一种超参数的调整方法，包括：

利用采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息；

将获得的采样信息输入机器学习模型，得到与采样信息个数对应的计算结果；

获取符合预设条件的目标计算结果，并将所述目标计算结果对应的采样函数作为目标采样函数；

将所述目标采样函数作为贝叶斯优化调参方法中的采样函数对机器学习模型的超参数进行调整。

所述采样函数集合至少包括以下至少两种采样函数：期望提升策略(ExpectedImprovement，EI)采样函数、概率提升策略(Probability of Improvement，PI)采样函数、高斯过程上置信边界策略(Gaussian Process Upper Confidence Bound，GP-UCB)采样函数、基于信息的汤普森采样函数和熵增加策略采样函数。

所述预设条件包括：精度小于第一预设阈值。

所述预设条件包括：损失值小于第二预设阈值。

所述利用采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息，包括：

当所述机器学习模型的运行步数超过预设步数，利用所述采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息；

或者，

当所述机器学习模型的运行时间超过预设时间，利用所述采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息。

本申请还提供了一种超参数的调整装置，包括：

获取模块，用于利用采集函数集合中每一个采集函数分别选取采样点进行采样，以获得采样信息；

处理模块，用于将获得的采样信息输入机器学习模型，得到与采样信息个数对应的计算结果；

所述获取模块，还用于获取符合预设条件的目标计算结果，并将所述目标计算结果对应的采样函数作为目标采样函数；