[发明专利]为了元学习用于调整残差网络的方法及装置有效
申请号: | 201910998750.5 | 申请日: | 2019-10-21 |
公开(公告)号: | CN111488978B | 公开(公告)日: | 2023-10-10 |
发明(设计)人: | 金桂贤;金镕重;金寅洙;金鹤京;南云铉;夫硕焄;成明哲;吕东勋;柳宇宙;张泰雄;郑景中;诸泓模;赵浩辰 | 申请(专利权)人: | 斯特拉德视觉公司 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/0464 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 杨文娟;臧建明 |
地址: | 韩国庆*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 为了 学习 用于 调整 网络 方法 装置 | ||
1.一种学习方法,是利用包括i)对输入图像或与其对应的一个以上的编码的输入特征图进行一个以上的卷积运算,依次生成一个以上的编码的输出特征图的一个以上的卷积层及ii)迂回所述卷积层的至少一个或包含于其中的子卷积层中的至少一个,将所述输入图像或与其对应的所述编码的输入特征图前馈到与其对应的下一个卷积层的一个以上的残差网络的学习装置的基于CNN学习方法,其特征在于,包括:
a)所述学习装置在获取到所述输入图像的情况下,执行从所述残差网络中任意选择将随机失活的特定残差网络的过程的步骤;
b)所述学习装置i)向所述特定残差网络随机失活的至少一个变形CNN输入所述输入图像生成经过调整的编码的输出特征图,ii)利用所述经过调整的编码的输出特征图生成CNN输出的步骤;以及
c)所述学习装置利用所述CNN输出及与其对应的基础事实计算一个以上的损失,并反向传播所述损失以调整所述变形CNN的至少一个参数的步骤。
2.根据权利要求1所述的学习方法,其特征在于:
在所述卷积层的个数为N个且N个所述卷积层分别具有L个子卷积层时,N个所述卷积层分别包括具有迂回所述L个子卷积层的至少一个的各自不同的迂回路径的M个子残差网络,
在所述a)步骤,
从NxM个所述子残差网络中任意选择将随机失活的至少一个特定子残差网络。
3.根据权利要求1所述的学习方法,其特征在于:
使用相同的输入图像重复执行所述a)至c)步骤。
4.根据权利要求1所述的学习方法,其特征在于:
所述学习装置还包括i)对所述经过调整的编码的输出特征图或与其对应的调整的解码的输入特征图中的至少一部分进行一个以上的去卷积运算,依次生成一个以上的调整的解码的输出特征图的一个以上的去卷积层及ii)位于所述去卷积层中的至少一个与所述卷积层中的至少一个之间,对一个以上的输入进行一个以上的卷积运算且将一个以上的输出输入到所述去卷积层中的至少一个的一个以上的中间层,
在所述a)步骤,
所述学习装置执行从所述残差网络及所述中间层中任意选择将随机失活的所述特定残差网络及至少一个特定中间层的过程,
在所述b)步骤,
所述学习装置控制所述变形CNN使得所述特定残差网络及所述特定中间层随机失活。
5.根据权利要求4所述的学习方法,其特征在于:
所述学习装置还包括迂回所述多个去卷积层中的至少一个,将所述经过调整的解码的输入特征图前馈到与其对应的下一个去卷积层的附加残差网络,
i)N个所述卷积层分别包括L个子卷积层,ii)N个所述去卷积层分别包括L个子去卷积层,所述中间层的个数为K个时,1)所述N个卷积层分别包括具有迂回所述L个子卷积层中的至少一个的各自不同的迂回路径的M个子残差网络,2)N个所述去卷积层分别包括具有迂回所述L个子去卷积层中的至少一个的各自不同的迂回路径的M个子残差网络,
在所述a)步骤,
将随机失活的至少一个特定中间层及至少一个特定子残差网络任意选自K个所述中间层及2xNxM个所述子残差网络。
6.根据权利要求4所述的学习方法,其特征在于:
所述中间层中的至少一个为扩张卷积层。
7.根据权利要求6所述的学习方法,其特征在于:
在所述c)步骤,
所述学习装置通过反向传播所述损失调整所述去卷积层、所述中间层及所述卷积层中的至少一个参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于斯特拉德视觉公司,未经斯特拉德视觉公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910998750.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:色谱检测器
- 下一篇:一种高效多主栅半片双面光伏组件