[发明专利]一种目标神经网络模型训练方法、装置以及电子设备有效
| 申请号: | 202010321189.X | 申请日: | 2020-04-22 |
| 公开(公告)号: | CN111523663B | 公开(公告)日: | 2023-06-23 |
| 发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/0464 |
| 代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静;黄灿 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 目标 神经网络 模型 训练 方法 装置 以及 电子设备 | ||
本申请公开了一种目标神经网络模型训练方法、装置以及电子设备,涉及机器学习技术领域。具体实现方案为:获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;将第一样本集输入初始深度神经网络模型,得到第一样本集的特征数据,第一样本集的特征数据包括第一样本集的第一类特征数据;基于第一样本集的第一类特征数据,得到第一样本集的特征分布;利用第一损失函数对初始深度神经网络模型的参数进行调整,得到目标神经网络模型;其中,第一损失函数与第一样本集的特征分布以及第二样本集的特征分布相关。可提高目标深度神经网络模型的准确性。
技术领域
本申请涉及计算机技术中的机器学习技术领域,尤其涉及一种目标神经网络模型训练方法、装置以及电子设备。
背景技术
随着信息技术的不断推进,跨模态应用也越来越广,例如,跨模态识别以及跨模态检索等。
目前,常常用一个模态的数据来训练一个网络模型,训练完成的网路模型可对该模态的待测数据进行有效预测,然而利用该训练完成的网络模型对跨模态数据(与训练网络模型的数据的模态不同,与训练网路模型的数据差异较大)进行预测,容易导致预测不准确,即现有网络模型准确性较低。
发明内容
本申请提供一种目标神经网络模型训练方法、装置和电子设备,以解决现有网络模型准确性较低的问题。
第一方面,本申请一个实施例提供一种目标神经网络模型训练方法,包括:
获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;
将所述第一样本集输入初始深度神经网络模型,得到所述第一样本集的特征数据,所述第一样本集的特征数据包括所述第一样本集的第一类特征数据;
基于所述第一样本集的第一类特征数据,得到所述第一样本集的特征分布;
利用第一损失函数对所述初始深度神经网络模型的参数进行调整,得到目标神经网络模型;
其中,所述第一损失函数与所述第一样本集的特征分布以及所述第二样本集的特征分布相关。
在本申请的实施例的模型训练过程中,首先利用第一模态的第一样本集输入初始深度神经网络,得到第一样本集的特征数据,然后利用第一样本集的特征数据估计第一样本集的特征分布,再利用与第一样本集的特征分布以及第二样本集的特征分布相关的第一损失函数对初始深度神经网络模型的参数进行调整,得到目标神经网络模型,实现对初始深度神经网络模型的训练。由于在模型训练过程中,不但利用了第一模态的第一样本集的特征分布,可训练模型对第一模态的数据的特征提取能力,而且利用了第二模态的第二样本集的特征分布,可训练模型对第二模态的数据的特征提取能力,从而使训练得到的目标深度神经网路模型能够适应于不同模态的数据,即提高目标深度神经网络模型的准确性。
第二方面,本申请一个实施例提供一种目标神经网络模型训练装置,所述装置包括:
第一获取模块,用于获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;
第一特征获取模块,用于将所述第一样本集输入初始深度神经网络模型,得到所述第一样本集的特征数据,所述第一样本集的特征数据包括所述第一样本集的第一类特征数据;
第一特征分布获取模块,用于基于所述第一样本集的第一类特征数据,得到所述第一样本集的特征分布;
确定模块,用于利用第一损失函数对所述初始深度神经网络模型的参数进行调整,得到目标神经网络模型;
其中,所述第一损失函数与所述第一样本集的特征分布以及所述第二样本集的特征分布相关。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010321189.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:光刻胶的涂布方法
- 下一篇:一种用于开心果裂壳加工的智能机械装备及其控制方法





