[发明专利]一种卷积神经单元块、构成的神经网络及图像分类方法有效
申请号: | 201910170897.5 | 申请日: | 2019-03-07 |
公开(公告)号: | CN109858618B | 公开(公告)日: | 2020-04-14 |
发明(设计)人: | 李帅;朱策;张铁;郑龙飞;高艳博 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06K9/62 |
代理公司: | 成都信博专利代理有限责任公司 51200 | 代理人: | 王沙沙 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 卷积 神经 单元 构成 神经网络 图像 分类 方法 | ||
本发明公开了一种卷积神经单元块、构成的神经网络及图像分类方法,卷积神经单元块,包括
技术领域
本发明涉及神经网络的构建及应用技术领域,具体涉及一种卷积神经单元块、构成的神经网络及图像分类方法。
背景技术
现有的计算机视觉领域,卷积神经网络是常用的工具;卷积神经网络一般由连续的卷积层、激活层和池化层堆叠而成;卷积层由多个卷积神经单元组成,接受上一层的输入特征,运用该层的卷积神经单元进行计算,并输出通道数等于该层卷积神经单元数量的特征图。激活层由线性修正单元构成;一般一个激活层里面只包含一个线性修正单元,对上一层输出的特征图进行非线性映射;一个池化层同样是对上一层输出的特征图进行池化映射。
现有的神经网络一般包含两种,第一种resnet网络,Resnet是2016年提出的一种网络框架,它在原本直接堆叠的卷积层之间,加入了跳跃连接的identity mapping(恒等映射),使得网络本身只需要拟合原本网络的残差;在此之前,网络是通过堆叠卷积层、激活层和池化层来实现非线性变换。第二种是inception第三个版本结构,在inception v3结构中,有一部分结构将3×3的卷积核分解成连续的3×1的卷积核与1×3的卷积核叠加。这部分结构与本发明结构类似。
但是现有的卷积神经网络中,由于网络的层数很多,模型参数都是十分巨大,为了减少网络的参数,卷积神经网络主要采用3×3和1×1的卷积核;这使得卷积层的直接感受野很小;如果采用大感受野的卷积核,又会导致参数量的增加,从而导致计算量大、对空间不变形的适应能力差。
发明内容
本发明提供一种可以减少参数数量的卷积神经单元块、构成的神经网络及图像分类方法。
本发明采用的技术方案是:一种卷积神经单元块,包括n个不同方向的卷积核和一个m×m的卷积核堆叠后连接a个1×1的卷积核构成;还包括恒等变换的跳跃连接,其中a与输入特征图的通道数相等。
进一步的,所述不同方向的卷积核包括一个左斜卷积核b×1和一个右斜卷积核1×b;左斜卷积核为b×b卷积核除了左斜对角之外的所有位置全部保持为0;右斜卷积核为b×b卷积核除了右斜对角之外的所有位置全部保持为0。
进一步的,所述n个不同方向的卷积核中,每个方向均包括两个垂直方向的方向卷积的堆叠。
一种采用卷积神经单元块的神经网络,包括依次连接的m×m的卷积核、c个卷积神经单元块、步长为d的卷积核、e个卷积神经单元块、步长为d的残差块、e个卷积神经单元块、步长为f感受野为f×f的池化层、全连接层。
一种采用神经网络的图像分类方法,包括以下步骤:
步骤1:构建神经网络;
步骤2:训练步骤1构建得到的神经网络;
步骤3:对测试集图片进行数据增强处理,将其输入步骤2训练后得到的神经网络中,即可完成图像的分类。
本发明的有益效果是:
(1)本发明将卷积核进行分解,在保证卷积核拥有大感受野的同时,减小原先的参数数量;
(2)本发明提出采用对角卷积,直接获取原特征图斜对角的方向的相关性,对空间变换的适应能力增强;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910170897.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种优化初始化方式的烟花计算方法
- 下一篇:基于自旋振荡器的神经脉冲发生电路