[发明专利]一种微型神经网络模型在审
申请号: | 202010771817.4 | 申请日: | 2020-08-04 |
公开(公告)号: | CN111882043A | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 律方成;金潮伟;王胜辉 | 申请(专利权)人: | 华北电力大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京化育知识产权代理有限公司 11833 | 代理人: | 尹均利 |
地址: | 102206*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 微型 神经网络 模型 | ||
本发明公开了一种微型神经网络模型,包括高度优化的Core卷积核子网络和基于SSD的辅助特征提取子网络,所述Core卷积核子网络包括Core卷积核子网络方法,包括以下步骤:S1、将Core卷积核初步提取后生成多个特征图,S2、经过选取特定特征图传入辅助特征提取子网络用于预测,S3、在保证目标检测精度的同时最小化模型,所述S1中Core卷积组包含3×3卷积核,所述Core卷积组中的3×3卷积核的数量比正常卷积组的数量减少。本发明,Core卷积组均由低维度卷积核组成,极大的压缩了神经网络计算参数量,该卷积组方便将神经网络模型部署于嵌入式边缘计算设备,更小的Core卷积组网络结构体系实现更为高效的特征提取。
技术领域
本发明涉及卷积组技术领域,尤其涉及一种微型神经网络模型。
背景技术
组卷积是把输入特征图在通道方向分成若干组,对每一组的特征分别做卷积后再拼接起来,以减少参数数量,提高运算速度。
传统目标检测算法大都将VGG16等模型用于底层特征提取,此类模型多采用3×3卷积核作为特征图的滤波器,具有两方面弊端:一方面卷积的深度不足;另一方面若卷积核的数量过多,导致输出特征图的通道数过多,产生大量的参数,对硬件的算力和内存要求高。
发明内容
本发明的目的是为了解决现有技术中卷积的深度不足和卷积核的数量过多,导致输出特征图的通道数过多的缺点,而提出的一种微型神经网络模型。
为了实现上述目的,本发明采用了如下技术方案:
一种微型神经网络模型,包括高度优化的Core卷积核子网络和基于SSD的辅助特征提取子网络,所述Core卷积核子网络包括Core 卷积核子网络方法,包括以下步骤:
S1、将Core卷积核初步提取后生成多个特征图,
S2、经过选取特定特征图传入辅助特征提取子网络用于预测,
S3、在保证目标检测精度的同时最小化模型。
优选地,所述S1中Core卷积组包含3×3卷积核,所述Core卷积组中的3×3卷积核的数量比正常卷积组的数量减少,所述3×3卷积核输入特征图的通道数量比正常卷积组的数量减少。
优选地,所述Core卷积组共由10个Core卷积核组成且分别为 Core1-Core10,每个所述Core卷积核包含两个卷积层:压缩卷积层 S和扩张卷积层E,所述压缩卷积层中均为1×1卷积核,所述扩张卷积层为1×1卷积和3×3卷积的混合。
优选地,所述S3中在保证模型精度的前提下,尽可能减少了S 层和E层中卷积核的数量,并在多次Core卷积后增加Pool下采样层以降低特征图的通道数。
优选地,所述Core卷积组均由低维度卷积核组成,极大的压缩了神经网络计算参数量,假设卷积核的输入通道数为M,输出通道数为N,优化卷积,参数量为:
表中s1x1、e1x1、 e3x3分别代表S层中1×1卷积核的数量、E层中1×1卷积核的数量和E层中3×3卷积核的数量。
优选地,所述辅助特征提取网络中的每一层再使用一组卷积来预测该特征层上每个预测框的位置以及预测框内目标对应的种类。
优选地,所述Core卷积组均由低维度卷积核组成。
相比现有技术,本发明的有益效果为:
1、Core卷积组均由低维度卷积核组成,极大的压缩了神经网络计算参数量,该卷积组方便将神经网络模型部署于嵌入式边缘计算设备,更小的Core卷积组网络结构体系实现更为高效的特征提取。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华北电力大学,未经华北电力大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010771817.4/2.html,转载请声明来源钻瓜专利网。