[发明专利]计算机视觉任务模型的训练方法、装置、设备和存储介质在审
申请号: | 202010135641.3 | 申请日: | 2020-03-02 |
公开(公告)号: | CN111401415A | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 周锴;张睿 | 申请(专利权)人: | 北京三快在线科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/46;G06N20/00 |
代理公司: | 北京市隆安律师事务所 11323 | 代理人: | 权鲜枝 |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算机 视觉 任务 模型 训练 方法 装置 设备 存储 介质 | ||
本申请公开了计算机视觉任务模型的训练方法、装置、设备和存储介质。所述方法包括:获取计算机视觉任务模型的主干网络输出的图像特征图;基于注意力算法生成所述图像特征图的注意力特征图;对所述注意力特征图进行参数统计,基于参数统计结果生成随机扰动掩模;以所述随机扰动掩模对所述注意力特征图进行扰动,得到注意力扰动特征图;将所述注意力扰动特征图与所述图像特征图进行叠加,得到增强特征图供所述主干网络使用。有益效果在于,加入的随机扰动因素,能够使计算机视觉任务模型在注意力机制的指导下仍能够关注到图像的重点区域,同时鲁棒性有了显著提升,更贴近于实际的应用场景,泛用性强。
技术领域
本申请涉及深度学习领域,具体涉及计算机视觉任务模型的训练方法、装置、设备和存储介质。
背景技术
注意力机制是深度学习发展过程中出现的一项重要技术,可应用于对象分类、检测、识别等计算机视觉任务中。由于有些计算机视觉任务较为复杂,加入注意力机制,可以指导计算机视觉任务模型关注应该关注的图像区域。但是目前注意力机制存在的问题在于,容易产生过拟合问题,使得模型学习到不够鲁棒的注意力参数,即关注的特征区域泛化性能较差。
比如,一张白底黑字的图像,经过引入注意力机制,能够使计算机视觉任务模型更加关注黑色的部分。但是一旦有张图像黑色的字体部分的颜色淡一些,就可能导致这个字的识别错误。
发明内容
鉴于上述问题,提出了本申请以便提供一种克服上述问题或者至少部分地解决上述问题的计算机视觉任务模型的训练方法、装置、设备和存储介质。
依据本申请的一个方面,提供了一种计算机视觉任务模型的训练方法,包括:获取计算机视觉任务模型的主干网络输出的图像特征图;基于注意力算法生成所述图像特征图的注意力特征图;对所述注意力特征图进行参数统计,基于参数统计结果生成随机扰动掩模;以所述随机扰动掩模对所述注意力特征图进行扰动,得到注意力扰动特征图;将所述注意力扰动特征图与所述图像特征图进行叠加,得到增强特征图供所述主干网络使用。
可选地,所述对所述注意力特征图进行参数统计,基于参数统计结果生成随机扰动掩模包括:将所述注意力特征图按指定特征维度进行分离,得到多个注意力子特征图;对各注意力子特征图分别进行参数统计,得到与各注意力子特征图对应的参数统计结果;生成与各参数统计结果分别对应的基础掩模;根据各基础掩模生成所述随机扰动掩模。
可选地,所述指定特征维度为批尺寸维度。
可选地,所述对各注意力子特征图分别进行参数统计包括:基于正态分布分别计算各注意力子特征图的标准差。
可选地,所述生成与各参数统计结果分别对应的基础掩模包括:根据预设的扰动比率和生成与各标准差对应的扰动区间;以均匀分布的方式随机形成与各扰动区间对应的基础掩模。
可选地,所述根据各基础掩模生成所述随机扰动掩模包括:将各基础掩模进行链接,得到维度与所述图像特征图相同的随机扰动掩模。
可选地,所述主干网络中包括若干个批标准化层;所述注意力扰动特征图与所述批标准化层用于避免计算机视觉任务模型训练的过拟合。
依据本申请的另一方面,提供了一种计算机视觉任务模型的训练装置,包括:图像特征图获取单元,用于获取计算机视觉任务模型的主干网络输出的图像特征图;注意力特征图生成单元,用于基于注意力算法生成所述图像特征图的注意力特征图;注意力扰动单元,用于对所述注意力特征图进行参数统计,基于参数统计结果生成随机扰动掩模;以所述随机扰动掩模对所述注意力特征图进行扰动,得到注意力扰动特征图;增强特征图生成单元,用于将所述注意力扰动特征图与所述图像特征图进行叠加,得到增强特征图供所述主干网络使用。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010135641.3/2.html,转载请声明来源钻瓜专利网。