[发明专利]神经网络生成方法及装置、电子设备及存储介质在审
| 申请号: | 202010882925.9 | 申请日: | 2020-08-28 |
| 公开(公告)号: | CN111985644A | 公开(公告)日: | 2020-11-24 |
| 发明(设计)人: | 游山;苏修;黄涛;王飞;钱晨 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
| 代理公司: | 北京中知恒瑞知识产权代理事务所(普通合伙) 11889 | 代理人: | 王文红 |
| 地址: | 100080 北京市海淀区北*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经网络 生成 方法 装置 电子设备 存储 介质 | ||
本申请提供了一种神经网络生成方法及装置、电子设备和存储介质,其中,首先基于预设负载确定目标神经网络对应的多个通道数配置方案;之后针对每个通道数配置方案,基于预设自由权重和该通道数配置方案中各个网络层所包括的通道数,确定该通道数配置方案下的多种神经网络结构;以及,基于每个通道数配置方案下的每种神经网络结构对应的测量精度,确定目标神经网络中各个网络层所包括的目标通道数,最后基于目标神经网络中各个网络层所包括的目标通道数,生成目标神经网络。本申请利用预设自由权重在一定自由度范围内选取通道进行通道数学习,提高了神经网络通道数学习的质量和搜索效率,从而提高了生成的目标神经网络的精确度和速度。
技术领域
本申请涉及计算机及深度学习技术领域,具体而言,涉及一种神经网络生成方法及装置、电子设备及存储介质。
背景技术
在生成神经网络之前,首先需要学习神经网络中各个网络层的通道数,神经网络通道数学习的质量对神经网络的精确度和速度至关重要。目前,一般是人工根据经验来设定神经网络的通道数,不仅无法保证神经网络的精确度和速度,而且大量的人工设定和测试造成学习成本过高,不利于进一步提高神经网络的精确度和速度。
另外,目前还有自动学习神经网络通道数的方法,但是自动学习的方法在选取通道的时候一般是从前到后选择,这就造成位于前面的通道训练次数多,而位于后面的通道训练次数少,降低了神经网络通道数学习的质量,并且需要巨大的计算成本、搜索效率低下。
发明内容
本申请实施例至少提供一种神经网络生成方法及装置,以提高神经网络通道数学习的质量,提高生成的神经网络的精确度。
第一方面,本申请实施例提供了一种神经网络生成方法,包括:
基于预设负载,确定目标神经网络对应的多个通道数配置方案;其中,每个通道数配置方案均包括所述目标神经网络中各个网络层所包括的通道数;
针对每个通道数配置方案,基于预设自由权重和该通道数配置方案中各个网络层所包括的通道数,确定该通道数配置方案下的多种神经网络结构;
基于每个通道数配置方案下的每种神经网络结构对应的测量精度,确定所述目标神经网络中各个网络层所包括的目标通道数;
基于所述目标神经网络中各个网络层所包括的目标通道数,生成所述目标神经网络。
该方面,利用预设自由权重构建多种神经网络结构,进行神经网络通道数的学习,克服了人工设定通道数对学习质量提高的限制以及学习成本高的缺陷;同时该方面利用预设自由权重可以在一定范围内灵活选择参与训练的通道,克服了现有技术自动学习网络通道数中通道选择固定的缺陷,能够提高神经网络通道数学习的质量和搜索效率,从而提高了生成的目标神经网络的精确度和速度。
在一种可能的实施方式中,确定所述多种神经网络结构,包括:
针对每个通道数配置方案,基于所述预设自由权重和该通道数配置方案中各个网络层所包括的通道数,确定该通道数配置方案下,各个网络层中的自由通道区;其中,所述自由通道区包括对应的网络层中的多个通道;
基于所述预设自由权重,从各个自由通道区中分别为对应的网络层选取目标通道,形成该通道数配置方案下的多种神经网络结构。
该实施方式,利用预设自由权重设置自由通道区,并从自由通道区内选择组成神经网络结构的通道,克服了现有技术自动学习网络通道数中通道选择固定的缺陷,能够较为灵活的选择神经网络中的通道,提高了神经网络通道数学习的质量和搜索效率。
在一种可能的实施方式中,所述基于所述预设自由权重,从各个自由通道区中分别为对应的网络层选取目标通道,形成该通道数配置方案下的多种神经网络结构,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010882925.9/2.html,转载请声明来源钻瓜专利网。





