[发明专利]一种针对大卷积核神经网络的优化方法在审

专利信息
申请号: 202310576508.5 申请日: 2023-05-22
公开(公告)号: CN116611475A 公开(公告)日: 2023-08-18
发明(设计)人: 刘玉国;段强;姜凯 申请(专利权)人: 山东浪潮科学研究院有限公司
主分类号: G06N3/0464 分类号: G06N3/0464;G06N3/0985
代理公司: 济南信达专利事务所有限公司 37100 代理人: 姜鹏
地址: 250100 山东省济*** 国省代码: 山东;37
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 针对 卷积 神经网络 优化 方法
【权利要求书】:

1.一种针对大卷积核神经网络的优化方法,其特征在于:所述优化方法包括以下步骤:

将大卷积核进行划分;

特征拼接和归一化;

将归一化后的输出与用于结构重参数化的深度卷积的输出进行相加;

模型进行训练;

模型推理时将5×5深度卷积与改进后的RepLKNet Block中的深度卷积结构进行结构重参数化进行融合。

2.根据权利要求1所述的一种针对大卷积核神经网络的优化方法,其特征在于:将大卷积核进行划分时,将大卷积核划分为四个分支,以13×13的RepLKNet为例,将其每个stage中的13×13大卷积核划分为3×3、1×13、13×1和残差连接四个分支。

3.根据权利要求2所述的一种针对大卷积核神经网络的优化方法,其特征在于:特征拼接和归一化时,将划分后的特征分别通过对应的深度卷积层得到对应输出,然后将这些输出特征按第一维度进行拼接和归一化。

4.根据权利要求1所述的一种针对大卷积核神经网络的优化方法,其特征在于:将归一化后的输出与用于结构重参数化的深度卷积的输出进行相加时,将得到的输出与5×5深度卷积的输出进行相加得到最终的输出,然后进行后续操作。

5.根据权利要求1所述的一种针对大卷积核神经网络的优化方法,其特征在于:模型推理时将5×5深度卷积与改进后的RepLKNet Block中的深度卷积结构进行结构重参数化进行融合时,将改进后的RepLKNet Block中的深度卷积结构中四个分支的参数进行拼接得到13×13的深度卷积模块,然后将其与归一化层融合为一个新的深度卷积层1;其次将5×5深度卷积层进行零填充得到与融合后的13×13尺寸相同的深度卷积层2;最后将深度卷积层2的权重加入到深度卷积层1的权重中,同时将其偏置也加到深度卷积层1的偏置中。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东浪潮科学研究院有限公司,未经山东浪潮科学研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310576508.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top