[发明专利]人脸特征提取模型的构建方法、计算机存储介质及设备在审
申请号: | 202010597945.1 | 申请日: | 2020-06-28 |
公开(公告)号: | CN111832440A | 公开(公告)日: | 2020-10-27 |
发明(设计)人: | 凌康杰;王祥雪;林焕凯;朱婷婷;刘双广 | 申请(专利权)人: | 高新兴科技集团股份有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06N3/08;G06N3/04 |
代理公司: | 广州国鹏知识产权代理事务所(普通合伙) 44511 | 代理人: | 葛红 |
地址: | 510530 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 特征 提取 模型 构建 方法 计算机 存储 介质 设备 | ||
本发明提供了一种人脸特征提取模型的构建方法、计算机存储介质及电子设备,方法包括以下步骤:S1、获取人脸数据集,通过构建训练批次对收集到的人脸数据进行人脸检测和人脸校正,构建三元组;S2、选取一个训练批次的数据,分别送入导师网络和学生网络中,计算各自的前向传播结果,得到导师网络输出特征向量和学生网络输出特征向量;S3、根据导师网络输出特征向量,计算三元组中的距离;S4、将导师网络的三元组中的距离压缩至指定范围;S5、根据步骤S4计算出的动态阈值,计算对应的双梯度三元组的损失函数;S6、根据损失函数,选择一第一三元组;S7、根据第一三元组,计算其双向梯度,输出到学生网络,学生网络根据双向梯度更新网络权重。
技术领域
本发明涉及人脸识别技术领域,更具体地,涉及一种人脸特征提取模型的构建方法、计算机存储介质及电子设备。
背景技术
人脸识别技术作为一种低成本的生物特征识别技术,目前在安防监控、人机交换、电子商务、移动支付等领域有着广泛的应用。人脸特征提取模型是人脸识别系统的核心技术,是构建人脸属性识别、人脸比对、跨年龄识别、活体检测系统的关键模块。针对人脸特征提取模型中精度低、运算效率低问题,提出一种基于双梯度三元组知识提纯的人脸特征提取模型构建方法,特别适用于构建轻量化人脸识别网络,适用于部署于移动终端和低功耗设备。
当前人脸特征提取模型中,往往采用数十层乃至上百层的深度CNN(卷积神经网络)进行基础模型架构设计,所训练出来的网络模型具有参数量大、计算量大、网络推理时间长等缺点,无法适应部署于终端设备。另一方面,模型训练过程中往往采用交叉熵等损失函数,该方法严重依赖于样本标签,实际数据收集过程中,往往会存在收集样本重复问题,对于同一个人不同标签,会对训练网络产生较大影响,进而降低模型精度。基于上述问题,亟需一种能够将模型轻量化,并减少样本标签干扰,提高模型精度的方法。
专利CN109190521A提出了一种基于柔性最大值传输函数(Softmax)的模型知识提纯方法,该方法将训练好的大型超深卷积神经网络的输出作为导师网络特征向量,将尚未训练的小型轻量化网络的输出作为学生网络特征向量,通过计算两者间交叉熵,得出两个网络特征分布,根据梯度反向传播算法更新与优化基于知识提纯的轻量化网络。该方法的缺点是,模型精度容易受到样本标签影响,需要强监督信号,所训练出的人脸特征提取模型类内间距不够小、类间间距不够大,较难以区分难例样本。
专利CN108805077A提出了一种基于三元组的深度学习网络训练方法,具体方法是利用互关联匹配卷积神经网络、干支集成卷积神经网络、深度卷积网络集成三个网络分布提取静止感兴趣区、静止感兴趣区相似样本、静止感兴趣区不相似样本的特征,通过三元组损失函数计算三个网络的梯度,实现梯度更新迭代训练。该方法的缺点是,使用多个分离网络,大大增加了计算空间复杂度,不适用构建轻量化网络,所使用的三元组函数梯度信号来源计算低效,无法针对大规模人脸样本数据挖掘。
现有技术在构建轻量化网络时,往往会存在模型精度低问题,参数量巨大的深度卷积神经网络(导师网络)往往比参数量小的卷积神经网络(学生网络)学习得更好,人脸特征提取更准确。在进行导师网络与学生网络提纯时,普遍采用基于软目标的Softmax损失函数作为学生网络中监督信号的来源,所构建出的学生网络难以区分人脸难例样本,存在精度低、易受到重复标签影响等问题。其中,难例样本是指相似度过大(相似度大于某阈值)的人脸。具体含义是,在一批不同人的人脸图片中,分别提取出每个人对应的人脸特征,这些特征所构成集合记为FS,集合FS中任意两个特征向量的相似度大于某阈值,则该集合的样本称为难例样本。
发明内容
有鉴于此,本发明提供一种人脸特征提取模型的构建方法、计算机存储介质及电子设备,能有效提高学生模型的精度和泛化能力。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于高新兴科技集团股份有限公司,未经高新兴科技集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010597945.1/2.html,转载请声明来源钻瓜专利网。