[发明专利]一种目标神经网络模型训练方法、装置以及电子设备有效

专利信息
申请号: 202010321189.X 申请日: 2020-04-22
公开(公告)号: CN111523663B 公开(公告)日: 2023-06-23
发明(设计)人: 希滕;张刚;温圣召 申请(专利权)人: 北京百度网讯科技有限公司
主分类号: G06N3/082 分类号: G06N3/082;G06N3/0464
代理公司: 北京银龙知识产权代理有限公司 11243 代理人: 许静;黄灿
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 目标 神经网络 模型 训练 方法 装置 以及 电子设备
【说明书】:

本申请公开了一种目标神经网络模型训练方法、装置以及电子设备,涉及机器学习技术领域。具体实现方案为:获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;将第一样本集输入初始深度神经网络模型,得到第一样本集的特征数据,第一样本集的特征数据包括第一样本集的第一类特征数据;基于第一样本集的第一类特征数据,得到第一样本集的特征分布;利用第一损失函数对初始深度神经网络模型的参数进行调整,得到目标神经网络模型;其中,第一损失函数与第一样本集的特征分布以及第二样本集的特征分布相关。可提高目标深度神经网络模型的准确性。

技术领域

本申请涉及计算机技术中的机器学习技术领域,尤其涉及一种目标神经网络模型训练方法、装置以及电子设备。

背景技术

随着信息技术的不断推进,跨模态应用也越来越广,例如,跨模态识别以及跨模态检索等。

目前,常常用一个模态的数据来训练一个网络模型,训练完成的网路模型可对该模态的待测数据进行有效预测,然而利用该训练完成的网络模型对跨模态数据(与训练网络模型的数据的模态不同,与训练网路模型的数据差异较大)进行预测,容易导致预测不准确,即现有网络模型准确性较低。

发明内容

本申请提供一种目标神经网络模型训练方法、装置和电子设备,以解决现有网络模型准确性较低的问题。

第一方面,本申请一个实施例提供一种目标神经网络模型训练方法,包括:

获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;

将所述第一样本集输入初始深度神经网络模型,得到所述第一样本集的特征数据,所述第一样本集的特征数据包括所述第一样本集的第一类特征数据;

基于所述第一样本集的第一类特征数据,得到所述第一样本集的特征分布;

利用第一损失函数对所述初始深度神经网络模型的参数进行调整,得到目标神经网络模型;

其中,所述第一损失函数与所述第一样本集的特征分布以及所述第二样本集的特征分布相关。

在本申请的实施例的模型训练过程中,首先利用第一模态的第一样本集输入初始深度神经网络,得到第一样本集的特征数据,然后利用第一样本集的特征数据估计第一样本集的特征分布,再利用与第一样本集的特征分布以及第二样本集的特征分布相关的第一损失函数对初始深度神经网络模型的参数进行调整,得到目标神经网络模型,实现对初始深度神经网络模型的训练。由于在模型训练过程中,不但利用了第一模态的第一样本集的特征分布,可训练模型对第一模态的数据的特征提取能力,而且利用了第二模态的第二样本集的特征分布,可训练模型对第二模态的数据的特征提取能力,从而使训练得到的目标深度神经网路模型能够适应于不同模态的数据,即提高目标深度神经网络模型的准确性。

第二方面,本申请一个实施例提供一种目标神经网络模型训练装置,所述装置包括:

第一获取模块,用于获取第一模态的第一样本集以及第二模态的第二样本集的特征分布;

第一特征获取模块,用于将所述第一样本集输入初始深度神经网络模型,得到所述第一样本集的特征数据,所述第一样本集的特征数据包括所述第一样本集的第一类特征数据;

第一特征分布获取模块,用于基于所述第一样本集的第一类特征数据,得到所述第一样本集的特征分布;

确定模块,用于利用第一损失函数对所述初始深度神经网络模型的参数进行调整,得到目标神经网络模型;

其中,所述第一损失函数与所述第一样本集的特征分布以及所述第二样本集的特征分布相关。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010321189.X/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top