[发明专利]图像处理方法、装置、电子设备及可读存储介质在审

专利信息
申请号: 202011572699.0 申请日: 2020-12-25
公开(公告)号: CN112766307A 公开(公告)日: 2021-05-07
发明(设计)人: 周争光;姚聪;王鹏;陈坤鹏 申请(专利权)人: 北京迈格威科技有限公司;深圳旷视金智科技有限公司
主分类号: G06K9/62 分类号: G06K9/62;G06N3/08
代理公司: 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 代理人: 何少岩
地址: 100090 北京市海淀区科*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 图像 处理 方法 装置 电子设备 可读 存储 介质
【说明书】:

本申请提供一种图像处理方法、装置、电子设备及可读存储介质,方法包括:将待处理图像输入至量化神经网络模型,并输出图像处理结果。而量化神经网络模型则通过以下方式得到:获取预先标注的训练样本,采用训练样本对待训练的量化神经网络模型,以及该量化神经网络模型与预设的各非量化网络结构结合在一起构成的辅助网络进行迭代训练,得到每次迭代训练过程中辅助网络对应的第一损失值,以及量化神经网络模型对应的第二损失值,进而在满足预设收敛条件时停止迭代。这样得到的量化神经网络模型,量化权重在训练时受非量化网络影响,使量化神经网络模型权重参数更易于训练和收敛,使最终得到的量化神经网络模型性能更优,进而使得图像处理效果更好。

技术领域

本申请涉及数据处理技术领域,具体而言,涉及一种图像处理方法、装置、电子设备及可读存储介质。

背景技术

在移动端等资源受限的平台中,运行复杂的深度神经网络往往不可行,研究人员通过量化神经网络的权重或特征值来解决这个问题。

量化神经网络是将神经网络中的权重或特征值用低比特(即小于32比特)表示的过程,相比非量化网络,量化网络的表示能力大大减小。但因此也导致使用传统的模型训练方法对量化神经网络进行训练时,量化神经网络的权重无法得到有效的更新,这使得量化网络的性能一般较低,进而严重影响量化神经网络的图像处理能力。

发明内容

本申请实施例的目的在于提供一种图像处理方法、装置、电子设备及可读存储介质,用以解决目前量化神经网络模型的权重无法得到有效的更新,使得量化神经网络模型的性能一般较低,进而严重影响量化神经网络的图像处理能力的问题。

本申请实施例提供了一种图像处理方法,包括:将待处理图像输入至量化神经网络模型,并输出图像处理结果;其中,所述量化模型通过以下过程训练得到:获取预先标注的训练样本;采用所述训练样本对待训练的量化神经网络模型与预设的各非量化网络结构结合在一起构成的辅助网络进行迭代训练,得到每次迭代训练过程中所述辅助网络对各所述训练样本处理得到的各所述训练样本对应的第一损失值;采用所述训练样本对所述量化神经网络模型进行迭代训练,得到每次迭代训练过程中所述量化神经网络模型对各所述训练样本处理得到的各所述训练样本对应的第二损失值;根据所述第一损失值和第二损失值,确定最新迭代的所述量化神经网络模型是否满足预设收敛条件;在所述量化神经网络模型满足所述预设收敛条件时,停止迭代,得到训练好的量化神经网络模型。

需要说明的是,对于模型的训练,是一个不断迭代的过程。通过不断迭代更新模型内的权重参数,并不断以迭代更新后的模型对训练样本进行处理,使得最终得到的损失值越来越小,直至损失值收敛。损失值收敛时得到的模型即为训练好的模型,此时模型中的权重参数即为最终更新得到的权重参数。而量化神经网络模型由于权重参数是用低比特表示的,传统的这种训练方式进行模型迭代时,往往会出现在模型效果并不十分理想的情况下,损失值就已收敛了。而在非量化网络中则不会存在该问题。

据此,在本申请实施例中,通过将预设的各非量化网络结构与待训练的量化神经网络模型结合在一起构成的辅助网络,进而同时对量化神经网络模型和辅助网络进行迭代训练,这样量化神经网络模型中量化的权重即被非量化网络结构与量化神经网络模型共享,训练时会受到非量化网络的迭代更新的影响,从而使得量化神经网络模型权重参数更易于训练和收敛,使最终训练得到的量化神经网络模型性能更优,进而使得图像处理效果更好。

进一步地,所述量化神经网络模型的每一卷积层分别与所述各非量化网络结构中的一非量化网络结构结合在一起,构成所述辅助网络。

在上述实现过程中,量化神经网络模型的每一卷积层分别与一非量化网络结构结合在一起,这样构成的辅助网络每一层卷积层对于特征的处理即会同时受到量化神经网络模型和非量化网络结构的双重影响,从而加深训练过程中非量化网络结构对于量化神经网络模型的权重参数的影响,使得训练收敛时,量化神经网络模型的权重参数能够得到更为有效的更新。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京迈格威科技有限公司;深圳旷视金智科技有限公司,未经北京迈格威科技有限公司;深圳旷视金智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011572699.0/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top