[发明专利]模型优化方法、装置、存储介质及设备在审
申请号: | 202010423371.6 | 申请日: | 2020-05-19 |
公开(公告)号: | CN112529207A | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 谢凯源;白小龙;付纹琦;于成辉;周卫民 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 颜晶 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 优化 方法 装置 存储 介质 设备 | ||
1.一种模型优化方法,其特征在于,所述方法包括:
获取原模型和搜索配置信息,所述搜索配置信息包括多个搜索项,不同搜索项表示对所述原模型进行优化信息搜索的不同搜索类别;
根据所述搜索配置信息,对多个搜索算子进行编排,得到组合算子,每个被编排的搜索算子与一个搜索项对应,搜索算子表示执行对应的搜索项使用的算法;
根据所述组合算子,对所述原模型进行优化,获得优化后的模型。
2.根据权利要求1所述的方法,其特征在于,所述多个搜索项包括超参搜索、网络架构搜索、数据增强搜索、损失函数搜索、优化器搜索、模型压缩策略搜索中的至少两种。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述搜索配置信息,对多个搜索算子进行编排,得到组合算子,包括:
根据所述搜索配置信息,确定所述多个搜索算子的运算顺序、运算次数或每次运算时的综合搜索空间;
根据所述多个搜索算子的运算顺序、运算次数或每次运算时的综合搜索空间,生成所述组合算子。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述搜索配置信息还包括:搜索项信息和搜索模式,其中,每个搜索项对应各自的搜索项信息,所述搜索模式用于表示对所述原模型进行优化时遵循的原则。
5.根据权利要求4所述的方法,其特征在于,所述搜索模式包括精度模式、速度模式、经济模式和资源模式中的任一种。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述搜索配置信息由用户在图形用户界面GUI上进行输入或选择得到。
7.根据权利要求1-6任一项所述的方法,其特征在于,在根据所述组合算子,对所述原模型进行优化之前,所述方法还包括:
根据所述组合算子,预估对所述原模型进行优化的资源消耗;
根据所述资源消耗,为执行对所述原模型进行优化的操作进行资源调度。
8.根据权利要求1-7任一项所述的方法,其特征在于,所述方法还包括:
获取评价指标,所述评价指标表示对所述原模型进行优化后应达到的性能目标;
所述根据所述组合算子,对所述原模型进行优化,获得优化后的模型,包括:
根据所述组合算子在综合搜索空间进行优化信息搜索,根据所述优化信息对所述原模型进行优化,获得优化后的模型,所述优化后的模型的性能满足所述评价指标。
9.根据权利要求8所述的方法,其特征在于,所述评价指标包括以下指标中的任意一种或多种:模型的准确率、模型的损失、模型的精确度、模型的召回率。
10.一种模型优化方法,其特征在于,所述方法包括:
向用户提供配置界面,所述配置界面包括供所述用户选择的搜索项列表;
获取原模型和搜索配置信息,所述搜索配置信息包括所述用户在所述搜索项列表中选择的多个搜索项,不同搜索项表示对所述原模型进行优化信息搜索的不同搜索类别;
根据所述搜索配置信息对所述原模型进行优化;
向所述用户提供优化后的模型。
11.根据权利要求10所述的方法,其特征在于,所述用户在所述搜索项列表中选择的多个搜索项包括超参搜索、网络架构搜索、数据增强搜索、损失函数搜索、优化器搜索、模型压缩策略搜索中的至少两种。
12.根据权利要求10或11所述的方法,其特征在于,所述配置界面还包括搜索项信息配置页和搜索模式配置页,所述搜索配置信息还包括所述用户在所述配置界面配置的搜索项信息和搜索模式。
13.根据权利要求12所述的方法,其特征在于,所述搜索模式用于表示对所述原模型进行优化时遵循的原则,所述搜索模式包括精度模式、速度模式、经济模式和资源模式中的任一种。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010423371.6/1.html,转载请声明来源钻瓜专利网。