[发明专利]一种有效防止卷积神经网络过拟合的图像分类方法有效

专利信息
申请号: 201410333924.3 申请日: 2014-07-14
公开(公告)号: CN104102919B 公开(公告)日: 2017-05-24
发明(设计)人: 王瀚漓;俞定君 申请(专利权)人: 同济大学
主分类号: G06K9/62 分类号: G06K9/62
代理公司: 上海科盛知识产权代理有限公司31225 代理人: 赵继明
地址: 200092 *** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 有效 防止 卷积 神经网络 拟合 图像 分类 方法
【权利要求书】:

1.一种有效防止卷积神经网络过拟合的图像分类方法,其特征在于,该方法运行在GPU中,包括:

步骤一,获得图像训练集和图像测试集;

步骤二,卷积神经网络模型的训练,具体包括以下步骤:

a)设定卷积神经网络的结构和训练次数上限N,初始化神经网络权值矩阵W,所述结构包括卷积神经网络的层数和每层中特征图的数量;

b)从所述图像训练集中获取图像数据进行预处理,并进行样本扩增,形成训练样本;

c)对所述训练样本进行前向传播提取图像特征,所述前向传播包括卷积层、非线性归一化层和混合pooling层的计算;

d)在Softmax分类器中计算各样本的分类概率:

<mrow><msub><mi>y</mi><mi>i</mi></msub><mo>=</mo><mfrac><mrow><mi>exp</mi><mrow><mo>(</mo><msub><mi>s</mi><mi>i</mi></msub><mo>)</mo></mrow></mrow><mrow><msubsup><mi>&Sigma;</mi><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></msubsup><mi>exp</mi><mrow><mo>(</mo><msub><mi>s</mi><mi>k</mi></msub><mo>)</mo></mrow></mrow></mfrac></mrow>

式中,si表示Softmax分类器第i个神经元的输出值,si=F·η,F为某个训练样本的图像特征向量,η为相应的权值,n为需要分类的类别数量;

e)根据概率yi计算得到训练误差

<mrow><msub><mi>&delta;</mi><mi>i</mi></msub><mo>=</mo><munderover><mo>&Sigma;</mo><mrow><mi>k</mi><mo>=</mo><mn>1</mn></mrow><mi>n</mi></munderover><mfrac><msubsup><mi>y</mi><mi>k</mi><mo>*</mo></msubsup><msub><mi>y</mi><mi>k</mi></msub></mfrac><msub><mi>y</mi><mi>k</mi></msub><mrow><mo>(</mo><msub><mi>&theta;</mi><mrow><mi>i</mi><mi>k</mi></mrow></msub><mo>-</mo><msub><mi>y</mi><mi>i</mi></msub><mo>)</mo></mrow></mrow>

当i=k时,θik=1,i表示第i个类别,当原始输入属于类别i时,

f)利用所述训练误差从卷积神经网络的最后一层依次往前反向传播,同时利用随机梯度下降法SGD修改网络权值矩阵W;

g)判断模型训练是否完成,若是,则保存卷积神经网络模型和Softmax分类器后执行步骤三,若否,则返回步骤b);

步骤三,利用训练后的卷积神经网络模型对图像测试集进行图像分类。

2.根据权利要求1所述的一种有效防止卷积神经网络过拟合的图像分类方法,其特征在于,所述步骤二的a)中,初始权值矩阵W的元素的取值范围为[-0.01,0.01]。

3.根据权利要求1所述的一种有效防止卷积神经网络过拟合的图像分类方法,其特征在于,所述步骤二的b)具体为:

b1)对于长宽相等的图像,利用OPENCV中的cvResize函数进行缩放,缩放后的图片大小为N×N;

b2)对长宽不相等的图像,固定短边S不变,截取长边中间的连续S个像素,形成S×S大小的图像,再重复步骤b1)最终形成N×N大小的图像;

b3)计算所有图像的像素值之和,并除以图像的数量得到一个均值图像,在每一幅图像中减去所述均值图像得到输入样本;

b4)对所述输入样本进行数据扩增,形成最终的训练样本。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同济大学,未经同济大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201410333924.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top