[发明专利]生成神经网络模型的方法和装置有效

专利信息
申请号: 202010387575.9 申请日: 2020-05-09
公开(公告)号: CN111582454B 公开(公告)日: 2023-08-25
发明(设计)人: 希滕;张刚;温圣召 申请(专利权)人: 北京百度网讯科技有限公司
主分类号: G06N3/0464 分类号: G06N3/0464;G06N3/08
代理公司: 北京英赛嘉华知识产权代理有限责任公司 11204 代理人: 王达佐;马晓亚
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 生成 神经网络 模型 方法 装置
【说明书】:

本申请涉及人工智能领域,公开了生成神经网络模型的方法和装置。该方法包括:构建包含多个卷积层的超网络,超网络的每一个卷积层包括第一分支和第二分支,第一分支包括第一卷积核,第二分支包括第一卷积核以及至少一个第二卷积核,第一卷积核为对称结构,第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个,第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加后得到;获取样本数据,并基于样本数据对超网络进行训练;从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。该方法实现了卷积神经网络结构的优化。

技术领域

本公开的实施例涉及计算机技术领域,具体涉及人工智能技术领域,尤其涉及生成神经网络模型的方法和装置。

背景技术

随着人工智能技术和数据存储技术的发展,深度神经网络在许多领域的任务中取得了重要的成果。其中,卷积神经网络因具有良好的特征辨识和提取能力,可处理复杂场景的问题等优势而被广泛应用。

卷积神经网络的结构对深度学习任务的性能具有直接的影响。目前,卷积神经网络结构的设计主要集中于层与层之间的连接方式。传统的卷积神经网络结构设计中,通常采用对称卷积核来提取待处理数据(例如图像)的各个方向和各个尺度的特征。

发明内容

本公开的实施例提供了生成神经网络模型的方法和装置、电子设备以及计算机可读存储介质。

根据第一方面,提供了一种生成神经网络模型的方法,包括:构建包含多个卷积层的超网络,超网络的每一个卷积层包括第一分支和第二分支,第一分支包括第一卷积核,第二分支包括第一卷积核以及至少一个第二卷积核,第一卷积核为对称结构,第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个,第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到;获取样本数据,并基于样本数据对超网络进行训练;从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

根据第二方面,提供了一种生成神经网络模型的装置,包括:构建单元,被配置为构建包含多个卷积层的超网络,超网络的每一个卷积层包括第一分支和第二分支,第一分支包括第一卷积核,第二分支包括第一卷积核以及至少一个第二卷积核,第一卷积核为对称结构,第二卷积核为将同一第二分支的第一卷积核沿其长度或高度方向拆分得到的至少两个子卷积核中的一个,第二分支的输出由第二分支中的第一卷积核和各个第二卷积核并行运算的结果累加得到;训练单元,被配置为获取样本数据,并基于样本数据对超网络进行训练;确定单元,被配置为从训练完成的超网络中采样出性能信息满足预设的第一条件的卷积神经网络作为目标神经网络模型。

根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面提供的生成神经网络模型的方法。

根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行第一方面提供的生成神经网络模型的方法。

根据本申请的技术通过构建并训练包含非对称卷积核的超网络,实现了卷积神经网络结构的自动优化。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:

图1是本公开的生成神经网络模型的方法的一个实施例的流程图;

图2是本公开的实施例的中的超网络的一个结构示意图;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010387575.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top