[发明专利]神经网络搜索方法及装置在审
申请号: | 201910471323.1 | 申请日: | 2019-05-31 |
公开(公告)号: | CN110188878A | 公开(公告)日: | 2019-08-30 |
发明(设计)人: | 周心池;周东展;伊帅;欧阳万里 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 100084 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 搜索 预设 神经网络库 训练数据集 训练周期 搜索方法及装置 训练神经网络 阶段训练 计算资源 目标神经 序列集 减小 申请 排序 网络 | ||
本申请公开了一种神经网络搜索方法及装置。该方法包括:获取待搜索神经网络库和训练数据集;按对所述训练数据集的识别精度从高到低的顺序将所述待搜索神经网络库中已训练周期数为第一预设值的神经网络排序得到第一神经网络序列集,并将所述第一神经网络序列集中前M个神经网络作为第一待训练神经网络集;使用所述训练数据集对所述第一待训练神经网络集进行第一阶段训练;所述第一阶段训练的训练周期数为第二预设值;将所述待搜索神经网络库中已训练周期数为第一预设值与第二预设值的和的神经网络作为目标神经网络。还公开了相应的装置。通过本申请公开的技术方案可减小神经网络搜索耗费的计算资源和搜索时间。
技术领域
本申请涉及图像处理技术领域,尤其涉及一种神经网络搜索方法及装置。
背景技术
神经网络在计算机视觉领域被广泛应用,神经网络的性能与神经网络的结构相关,如何确定性能好的神经网络的结构就变得非常重要。
通过对神经网络库中具有不同结构的神经网络进行大量的训练,可确定神经网络库中性能较好的神经网络的结构,进而从神经网络库中获得目标神经网络。然而,该种方法需要耗费大量的计算资源。
发明内容
本申请提供一种神经网络搜索装置,以快速完成神经网络搜索。
第一方面,提供了一种神经网络搜索方法,所述方法包括:获取待搜索神经网络库和训练数据集;按对所述训练数据集的识别精度从高到低的顺序将所述待搜索神经网络库中已训练周期数为第一预设值的神经网络排序得到第一神经网络序列集,并将所述第一神经网络序列集前M个神经网络作为第一待训练神经网络集;使用所述训练数据集对所述第一待训练神经网络集进行第一阶段训练;所述第一阶段训练的训练周期数为第二预设值;将所述待搜索神经网络库中已训练周期数为第一预设值与第二预设值的和的神经网络作为目标神经网络。
在第一方面中,通过对第一待训练神经网络进行第一阶段训练,实现对待搜索神经网络库中的神经网络进行分阶段训练,即对前一阶段训练后性能较好的神经网络进行下一阶段的训练,这样,可减少在前一阶段训练后性能较差的神经网络上耗费计算资源和时间,进而减少搜索过程所耗费的计算资源和时间。
在一种可能实现的方式中,所述按对所述训练数据集的识别精度从高到低的顺序将所述待搜索神经网络库中已训练周期数为第一预设值的神经网络排序得到第一神经网络序列集,并将所述第一神经网络序列集中前M个神经网络作为第一待训练神经网络集之前,所述方法还包括:按对所述训练数据集的识别精度从高到低的顺序将所述待搜索神经网络库中已训练周期数为第三预设值的神经网络排序得到第二神经网络序列集,并将所述第二神经网络序列集中前N个神经网络作为第二待训练神经网络集;使用所述训练数据集对所述第二待训练神经网络集进行第二阶段训练;所述第二阶段训练的训练周期数与所述第三预设值的和等于所述第一预设值。
在该种可能实现的方式中,首先对待搜索神经网络库中的已训练周期数为第三预设值的神经网络按识别精度排序,再对排序后的前N个神经网络进行第二阶段训练。结合上一种可能实现的方式,相当于对待搜索神经网络库中的神经网络采用了分阶段训练的方式,即对在上一阶段训练完后识别精度高的神经网络进行下一阶段的训练,而在上一阶段训练完后识别精度低的神经网络将不进行下一阶段训练,这样,可减少神经网络搜索耗费的计算资源,并缩短搜索时间。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910471323.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种神经网络压缩方法与装置
- 下一篇:运算方法、装置及相关产品