[发明专利]网络模型的训练方法、装置、设备和存储介质在审
| 申请号: | 201710993043.8 | 申请日: | 2017-10-23 |
| 公开(公告)号: | CN107633242A | 公开(公告)日: | 2018-01-26 |
| 发明(设计)人: | 张玉兵 | 申请(专利权)人: | 广州视源电子科技股份有限公司 |
| 主分类号: | G06K9/00 | 分类号: | G06K9/00;G06N3/04;G06N3/08 |
| 代理公司: | 北京品源专利代理有限公司11332 | 代理人: | 孟金喆 |
| 地址: | 510530 广东省*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 网络 模型 训练 方法 装置 设备 存储 介质 | ||
技术领域
本发明涉及深度学习领域,尤其涉及一种网络模型的训练方法、装置、设备和存储介质。
背景技术
现有的人脸识别模型通常是基于深度学习算法模型训练得到的,深度学习算法模型训练的好坏影响人脸识别的结果。
目前对于人脸识别的深度学习模型基本是在网络的最高层(特征层)之后加上一个或多个损失函数层,用于训练个更新深度学习网络模型的参数。现有技术通常是在网络的特征层之后加上一个或多个损失函数进行训练,但是在训练过程中由于参数传递路径太长而造成高层特征过拟合而中层特征欠拟合的情况,导致整个网络的训练不够彻底,从而导致深度网络学习模型网络中间层的参数无法得到很好的更新,进而导致训练出来的模型在实际的人脸识别中的处理结果不理想。
发明内容
本发明实施例提供一种网络模型的训练方法、装置、设备和存储介质,解决了网络模型训练过程中参数传递路径太长造成的高层特征过拟合而低层特征欠拟合的情况,使得获得的网络模型训练更彻底、准确度更高。
第一方面,本发明实施例提供了一种网络模型的训练方法,所述方法包括:
当第一网络模型达到预设的更新停止条件,根据所述第一网络模型的更新结果确定第一目标网络模型,在所述第一目标网络模型中的预设池化层后插入中继损失网络层以确定第二网络模型;
根据所述第二网络模型以及所述中继损失网络层确定所述中继损失网络层对应的中继损失函数;
根据所述第二网络模型和所述中继损失函数确定所述第二网络模型的全局损失函数;
应用所述中继损失函数和所述全局损失函数对所述第二网络模型的参数进行更新,以获取更新后的第二网络模型。
第二方面,本发明实施例还提供了一种网络模型的训练装置,所述装置包括:
第二网络模型确定模块,用于当第一网络模型达到预设的更新停止条件,根据所述第一网络模型的更新结果确定第一目标网络模型,在所述第一目标网络模型中的预设池化层后插入中继损失网络层以确定第二网络模型;
中继损失函数确定模块,用于根据所述第二网络模型以及所述中继损失网络层确定所述中继损失网络层对应的中继损失函数;
全局损失函数确定模块,用于根据所述第二网络模型和所述中继损失函数确定所述第二网络模型的全局损失函数;
第二网络模型更新模块,用于应用所述中继损失函数和所述全局损失函数对所述第二网络模型的参数进行更新,以获取更新后的第二网络模型。
第三方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明实施例中任一所述的网络模型的训练方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例中任一所述的网络模型的训练方法。
本发明实施例中,通过在当第一网络模型达到预设的更新停止条件时,根据所述第一网络模型的更新结果确定第一目标网络模型,在所述第一目标网络模型中的预设池化层后插入中继损失网络层以确定第二网络模型,根据所述第二网络模型以及所述中继损失网络层确定所述中继损失网络层对应的中继损失函数,然后根据所述第二网络模型和所述中继损失函数确定所述第二网络模型的全局损失函数,应用所述中继损失函数和所述全局损失函数对所述第二网络模型的参数进行更新,以获取更新后的第二网络模型。解决了网络模型训练过程中参数传递路径太长造成的高层特征过拟合而低层特征欠拟合的情况,使得获得的网络模型训练更彻底、准确度更高。
附图说明
图1a是本发明实施例一中的一种网络模型的训练方法的流程图;
图1b是本发明实施例一所适用的一种第一网络模型的中间层的示意图;
图1c是本发明实施例一所适用的一种结合中继损失函数的第二网络模型的中间层的示意图;
图2a是本发明实施例二中的一种网络模型的训练方法的流程图;
图2b是本发明实施例二所适用的一种人脸关键点检测中各关键点的位置的示意图;
图2c是本发明实施例二所适用的一种人脸关键点对齐后各关键点的位置的示意图;
图3是本发明实施例三中的一种网络模型的训练方法的流程图;
图4是本发明实施例四中的一种网络模型的训练方法的流程图;
图5是本发明实施例五中的一种网络模型的训练装置的结构示意图;
图6是本发明实施例六中的一种计算机设备的结构示意图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州视源电子科技股份有限公司,未经广州视源电子科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710993043.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:纸张收叠机
- 下一篇:一种计算机专用清洁散热装置





