[发明专利]超参数优化方法、装置、计算机设备和存储介质在审
| 申请号: | 201911110640.7 | 申请日: | 2019-11-14 |
| 公开(公告)号: | CN111105040A | 公开(公告)日: | 2020-05-05 |
| 发明(设计)人: | 侯皓龄;刘云峰 | 申请(专利权)人: | 深圳追一科技有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62 |
| 代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 刘羚 |
| 地址: | 518051 广东省深圳市南山区粤海街道*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 参数 优化 方法 装置 计算机 设备 存储 介质 | ||
1.一种超参数优化方法,所述方法包括:
获取预设数量的超参数组,通过已训练好的经验模型分别预测每个超参数组的超参数组评分;
根据所述超参数组评分从所获取到的超参数组中筛选候选超参数组;
按照所述候选超参数组和预设的机器学习算子,根据目标问题对应的训练样本集进行模型训练,得到已训练的目标问题预测模型;
根据所述目标问题对应的测试样本集对所述目标问题预测模型进行测试,得到所述候选超参数组对应的评估值;
根据所述评估值更新所述目标问题当前对应的参考评估值,并返回至所述获取预设数量的超参数组,通过已训练好的经验模型分别预测每个超参数组的超参数组评分的步骤继续执行,直至符合迭代停止条件;
将所述目标问题对应的参考评估值所对应的候选超参数组,确定为目标超参数组。
2.根据权利要求1所述的方法,其特征在于,已训练好的经验模型有多个;所述获取预设数量的超参数组,通过已训练好的经验模型分别预测每个超参数组的超参数组评分,包括:
获取超参数组;
通过已训练好的多个经验模型分别对所述超参数组进行预测,得到所述超参数组的多个超参数组子评分;
根据所述多个超参数组子评分得到所述超参数组的超参数组评分,并返回至所述获取超参数组的步骤继续执行,直至得到预设数量的超参数组评分。
3.根据权利要求2所述的方法,其特征在于,所述根据所述多个超参数组子评分得到所述超参数组的超参数组评分,包括:
将所述多个超参数组子评分按照相应经验模型所对应的权重进行加权求和,得到所述超参数组的超参数组评分;
所述方法还包括:
根据所述候选超参数组对应的多个超参数组子评分,动态更新每个经验模型所对应的权重。
4.根据权利要求3所述的方法,其特征在于,所述根据所述候选超参数组对应的多个超参数组子评分,动态更新每个经验模型所对应的权重,包括:
获取所述候选超参数组对应的多个超参数组子评分;
根据所获取到的所述超参数组子评分,确定每个经验模型对应的目标问题标签;
根据每个经验模型对应的超参数组子评分和目标问题标签,动态更新相应经验模型所对应的权重。
5.根据权利要求4所述的方法,其特征在于,所述根据每个经验模型对应的超参数组子评分和目标问题标签,动态更新相应经验模型所对应的权重,包括:
根据每个经验模型对应的超参数组子评分、目标问题标签和权重,按照预设映射关系动态确定相应的目标权重;
对所述目标权重进行归一化处理,得到每个经验模型对应的更新后的权重。
6.根据权利要求1所述的方法,其特征在于,所述根据所述超参数组评分从所获取到的超参数组中筛选候选超参数组,包括:
从预测得到的超参数组评分中筛选最大的超参数组评分;
将筛选出的超参数组评分对应的超参数组确定为候选超参数组;
所述根据所述评估值更新所述目标问题当前对应的参考评估值,包括:
当所述评估值大于或等于所述目标问题当前对应的参考评估值时,将所述参考评估值更新为所述评估值。
7.根据权利要求1至6任意一项所述的方法,其特征在于,所述经验模型的训练步骤,包括:
获取经验数据集;所述经验数据集包括经验超参数组和相应的经验超参数组评分;
将所述经验超参数组作为输入特征,将相应的经验超参数组评分作为期望的输出特征进行模型训练,得到已训练的经验模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳追一科技有限公司,未经深圳追一科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911110640.7/1.html,转载请声明来源钻瓜专利网。





