[发明专利]一种卷积神经网络感受野量化的方法及其应用在审
| 申请号: | 201810500490.X | 申请日: | 2018-05-23 |
| 公开(公告)号: | CN108805284A | 公开(公告)日: | 2018-11-13 |
| 发明(设计)人: | 吴帅;徐勇;赵勇 | 申请(专利权)人: | 哈尔滨工业大学深圳研究生院 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
| 代理公司: | 深圳市添源知识产权代理事务所(普通合伙) 44451 | 代理人: | 罗志伟 |
| 地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 网络层 量化 卷积神经网络 初始化 卷积 输出 网络 尺度 神经元 感受野尺度 网络初始化 量化结果 前向传播 前向计算 有效应用 内存 应用 传播 申请 | ||
1.一种卷积神经网络感受野量化的方法,其特征在于:包括如下步骤:
(1)在网络初始化的过程中通过前向传播的方式计算各个网络层输出的stride值,其中,Stride值表示原输入尺度与该网络层feature map的尺度的比例大小;
(2)计算不同层输出的感受野尺度大小,申请相应大小的内存并设置初始化的值,其中,不同类型的网络层对输出感受野尺度的计算方法是不同的;
(3)对不同网络层输出的感受野进行初始化后就可以利用网络中卷积参数通过前向计算对不同层的感受野进行量化。
2.根据权利要求1所述的卷积神经网络感受野量化的方法,其特征在于:所述网络层包括Data数据层、卷积层、池化层、Eltwise层以及激活函数中的一种或多种;
其中,所述卷积层和所述池化层输出感受野尺度的计算方法相同的,均通过公式获取:
fout_h=(k_h-1)×fin_stride_h+fin_h
fout_w=(k_w-1)×fin_stride_w+fin_w
其中,fout_h表示输出感受野的高度,fout_w表示输出感受野宽度,fin_h表示输入感受野的高度,fin_w表示所述卷积层和所述池化层的输入感受野的宽度,k_h表示该卷积核的高度或池化的高度,k_w表示该卷积核的宽度或池化的宽度,fin_stride_h和fin_stride_w分别表示所述卷积层和所述池化层输入感受野的高度和宽度,且计算出尺度大小后申请相应大小的空间初始值全部设置为0;
Eltwise层,对不同的输入进行合并,其通过公式:
fout_h=max(fini_h)i∈(1,...,n)
fout_w=max(fini_w)i∈(1,...,n)
计算该层输出感受野的尺度:其中,fini_h表示Eltwise层输入感受野fini的高度,fini_w表示Eltwise层输入感受野fini的宽度。
3.根据权利要求2所述的卷积神经网络感受野量化的方法,其特征在于:在进行感受野进行量化时,将输入设为B,输出设为T,输入B对应的感受野为fin,输出T对应的感受野为fout,其采用公式:
fout[istart:istart+fin_h,jstart:jstart+w]+=kij×fin
istart=i×stride_h(for i in(0,k_h))
jstart=j×stride_w(for j in(0,k_w))
来对卷积层的卷积核的进行计算,其中,kij表示卷积核第i,j位置上的元素值,fout[istart:istart+fin_h,jstart:jstart+w]表示fout上从(istarth,istartw)到(istarth+fin_h,istartw+fin_w)的整个区域,是由k_h×k_w个fin在不同位置叠加得到;
而采用公式:
fout[istart:istart+fin_h,jstart:jstart+w]+=k_mean×fin
k_mean=1/(k_h×k_w)
istart=i×stride_h(for i in(0,k_h))
jstart=j×stride_w(for j in(0,k_w))
来计算池化层输出感受野,其中,池化层对fout的计算k_mean是一个固定的值,fin_h与fin_w表示输入感受野的宽度和高度。
4.根据权利要求2所述的卷积神经网络感受野量化的方法,其特征在于:在进行感受野进行量化时,Eltwise层将尺度大小的不同的输入进行叠加,通过设(B1,…,Bn)为eltwise层的所有输入,对应的(fin1,…,finn)为不同输入对应的感受野,T为eltwise层的输出,fout为输出T的感受野,采用公式:
fo ut[istart_h:istart_h+fin_h,istart_w:istart_w+w]+=fin i∈(1,n)
istart_h=(fout_h-fini_h)/2
istart_w=(fout_w-fini_w)/2
对其量化进行计算。
5.卷积神经网络感受野量化的方法的应用,其特征在于:VGG、GoogleNet、ResNet中的一种或多种卷积神经网络感受野应用权利要求1或2任一所述的卷积神经网络感受野量化的方法进行量化计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学深圳研究生院,未经哈尔滨工业大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810500490.X/1.html,转载请声明来源钻瓜专利网。





