[发明专利]一种多类中心的分类网络模型的设计方法有效

专利信息
申请号: 202010336566.7 申请日: 2020-04-26
公开(公告)号: CN111242245B 公开(公告)日: 2020-10-20
发明(设计)人: 葛益军 申请(专利权)人: 杭州雄迈集成电路技术股份有限公司
主分类号: G06K9/62 分类号: G06K9/62;G06N3/04;G06N3/08
代理公司: 杭州裕阳联合专利代理有限公司 33289 代理人: 田金霞
地址: 311400 浙江省杭州市富阳*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 中心 分类 网络 模型 设计 方法
【说明书】:

发明公开了一种多类中心的分类网络模型的设计方法,涉及深度学习技术领域。本发明针对CNN+FC+Softmax框架在处理那些特征多样性强的分类数据集时模型性能下降的问题,借鉴混合高斯模型的思想,提出一种给每一个分类设定多个聚类中心的方法,并且采用最优值选择机制,让同一类中的特征差异较大的各张不同图片都可以向着一个对它来说最合适的特征中心点去聚拢,可以驱使类内各中心点分离,防止粘连在一起,增加了类特征的丰富性趋势,同时也增加了模型的可分性和可判性,本发明中的这种设计方法,提升训练的速度,保留了各分类的多样性特征,改善了模型性能下降的问题。

技术领域

本发明属于深度学习技术领域,特别是涉及一种多类中心的分类网络模型的设计方法。

背景技术

随着深度学习技术的快速发展,相关技术已经在很多领域得到了广泛应用。其中在机器视觉领域而言主要包含有:目标检测、目标分类、图像分割等重点应用。而目标分类其任务就是为确认图像中的目标所属的类别,是机器视觉领域的核心问题之一,也是机器视觉中理解图像内容中的重要一环。

通常的目标分类任务都是采用CNN+FC(fullyconnected,全连接)+Softmax的处理框架。如附图1中所示,主要包括:输入图像、特征提取(CNN)、全连接(FC)、损失函数(SoftMax)。这种CNN+FC+Softmax的处理框架在面对常规的分类任务时都还是比较有效的。尤其在面对那些具有明显聚类中心的数据集的时候。如常用的人脸识别数据集,每一个人的特征图片都是有一个比较显著的聚类中心。通过训练CNN使得属于同一分类的目标图像的特征向量聚合在一起。

但是,通用处理框架存在一个明显不足,那就是在面对一些具有多样性特征的分类任务数据集时效果不太理想。我们结合CNN+FC+Softmax处理框架的特性,分析模型性能退化的主要原因。发现这些都和“类内聚合,类间分离”这个特性有关。因为,如ObjectNet数据集中的每一个分类的图像数据可能都是对同一个物体在多个不同角度多种不同姿态下的采样结果。也就是说,一个目标都具有多种不同的表现特征。如果按照当前常用的分类方法,那么“类内聚合,类间分离”的特性势必会使这些本来差异很大的特征聚拢到同一个中心区域去。这样显然不能很好的表现出数据集中原有的特征多样性。通用方法的主要缺点列举如下:

缺点1、强制拉拢,训练难度大,不容易收敛;

缺点2、导致训练结果过拟合,损失有效特征,记忆无效噪声;

缺点3、训练得到的聚类中心和实际情况偏差较大,导致模型性能下降。

现提供一种多类中心的分类网络模型的设计方法,针对CNN+FC+Softmax框架在处理那些特征多样性强的分类数据集时模型性能下降的问题。

发明内容

本发明的目的在于提供一种多类中心的分类网络模型的设计方法,通过借鉴混合高斯模型的思想,提出一种给每一个分类设定多个聚类中心的方法,并且采用最优值选择机制,让同一类中的特征差异较大的各张不同图片都可以向着一个对它来说最合适的特征中心点去聚拢,提升训练的速度,保留了各分类的多样性特征,改善了模型性能下降的问题。

为解决上述技术问题,本发明是通过以下技术方案实现的:

本发明为一种多类中心的分类网络模型的设计方法,包括如下步骤:

步骤S001:设计一个多类中心的分类网络模型,具体方式为:

步骤S0011:为每一个分类设定多个类中心;在CNN特征提取网络后,连接一个多路并联的FC组,每一路FC层的权值矩阵的行向量就是一个类中心,就是说每一个分类对应多路FC层中的多个行向量,也就有了多个类中心;

步骤S0012:在多路并联的FC组之后,加入一个多路选择器;以输出值的概率预测值的大小作为挑选的依据,在各个FC通路的同行位置的输出值之间,挑选概率预测的最大值作为这个样本的预测概率;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州雄迈集成电路技术股份有限公司,未经杭州雄迈集成电路技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010336566.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top