[发明专利]一种卷积神经单元块、构成的神经网络及图像分类方法有效

专利信息
申请号: 201910170897.5 申请日: 2019-03-07
公开(公告)号: CN109858618B 公开(公告)日: 2020-04-14
发明(设计)人: 李帅;朱策;张铁;郑龙飞;高艳博 申请(专利权)人: 电子科技大学
主分类号: G06N3/04 分类号: G06N3/04;G06K9/62
代理公司: 成都信博专利代理有限责任公司 51200 代理人: 王沙沙
地址: 611731 四川省成*** 国省代码: 四川;51
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 卷积 神经 单元 构成 神经网络 图像 分类 方法
【说明书】:

发明公开了一种卷积神经单元块、构成的神经网络及图像分类方法,卷积神经单元块,包括n个不同方向的卷积核和一个m×m的卷积核堆叠后连接a个1×1的卷积核构成;还包括恒等变换的跳跃连接,其中a与输入特征图的通道数相等;本发明将卷积核进行分解,在保证卷积核拥有大感受野的同时,减小原先的参数数量;提出采用对角卷积,直接获取原特征图斜对角的方向的相关性,对空间变换的适应能力增强。

技术领域

本发明涉及神经网络的构建及应用技术领域,具体涉及一种卷积神经单元块、构成的神经网络及图像分类方法。

背景技术

现有的计算机视觉领域,卷积神经网络是常用的工具;卷积神经网络一般由连续的卷积层、激活层和池化层堆叠而成;卷积层由多个卷积神经单元组成,接受上一层的输入特征,运用该层的卷积神经单元进行计算,并输出通道数等于该层卷积神经单元数量的特征图。激活层由线性修正单元构成;一般一个激活层里面只包含一个线性修正单元,对上一层输出的特征图进行非线性映射;一个池化层同样是对上一层输出的特征图进行池化映射。

现有的神经网络一般包含两种,第一种resnet网络,Resnet是2016年提出的一种网络框架,它在原本直接堆叠的卷积层之间,加入了跳跃连接的identity mapping(恒等映射),使得网络本身只需要拟合原本网络的残差;在此之前,网络是通过堆叠卷积层、激活层和池化层来实现非线性变换。第二种是inception第三个版本结构,在inception v3结构中,有一部分结构将3×3的卷积核分解成连续的3×1的卷积核与1×3的卷积核叠加。这部分结构与本发明结构类似。

但是现有的卷积神经网络中,由于网络的层数很多,模型参数都是十分巨大,为了减少网络的参数,卷积神经网络主要采用3×3和1×1的卷积核;这使得卷积层的直接感受野很小;如果采用大感受野的卷积核,又会导致参数量的增加,从而导致计算量大、对空间不变形的适应能力差。

发明内容

本发明提供一种可以减少参数数量的卷积神经单元块、构成的神经网络及图像分类方法。

本发明采用的技术方案是:一种卷积神经单元块,包括n个不同方向的卷积核和一个m×m的卷积核堆叠后连接a个1×1的卷积核构成;还包括恒等变换的跳跃连接,其中a与输入特征图的通道数相等。

进一步的,所述不同方向的卷积核包括一个左斜卷积核b×1和一个右斜卷积核1×b;左斜卷积核为b×b卷积核除了左斜对角之外的所有位置全部保持为0;右斜卷积核为b×b卷积核除了右斜对角之外的所有位置全部保持为0。

进一步的,所述n个不同方向的卷积核中,每个方向均包括两个垂直方向的方向卷积的堆叠。

一种采用卷积神经单元块的神经网络,包括依次连接的m×m的卷积核、c个卷积神经单元块、步长为d的卷积核、e个卷积神经单元块、步长为d的残差块、e个卷积神经单元块、步长为f感受野为f×f的池化层、全连接层。

一种采用神经网络的图像分类方法,包括以下步骤:

步骤1:构建神经网络;

步骤2:训练步骤1构建得到的神经网络;

步骤3:对测试集图片进行数据增强处理,将其输入步骤2训练后得到的神经网络中,即可完成图像的分类。

本发明的有益效果是:

(1)本发明将卷积核进行分解,在保证卷积核拥有大感受野的同时,减小原先的参数数量;

(2)本发明提出采用对角卷积,直接获取原特征图斜对角的方向的相关性,对空间变换的适应能力增强;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910170897.5/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top