[发明专利]神经网络训练方法以及目标重识别方法有效
申请号: | 202110578124.8 | 申请日: | 2021-05-26 |
公开(公告)号: | CN113269307B | 公开(公告)日: | 2022-12-27 |
发明(设计)人: | 钱文;何智群;武伟;闫俊杰 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06V10/82 | 分类号: | G06V10/82;G06V10/80;G06V10/764;G06V10/74;G06V10/46;G06N3/04;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强;董文俊 |
地址: | 100080 北京市海淀区北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 以及 目标 识别 | ||
1.一种神经网络训练方法,所述神经网络包括至少一第一网络以及第二网络,其特征在于,所述方法包括:
将样本图像组的第一特征信息输入所述至少一第一网络,得到每一所述第一网络输出的第一处理信息;
将所述样本图像组的第二特征信息输入所述第二网络,得到第二处理信息;
基于所述第一处理信息、所述第二处理信息和所述样本图像组的标签,确定训练损失;
基于所述训练损失优化所述至少一个第一网络和所述第二网络;
其中,所述训练损失基于以下中的至少一部分构成:基于所述第一处理信息和所述第二处理信息确定的迁移损失,以及基于第一分类结果、第二分类结果和所述样本图像组的标签确定的分类损失,所述第一分类结果通过对所述第一处理信息进行分类得到,所述第二分类结果通过对所述第二处理信息进行分类得到;
所述迁移损失基于以下中的至少一部分,或者以下中的至少一部分与逻辑损失分量构成:注意力损失分量、关系损失分量;所述逻辑损失分量基于所述第一分类结果与所述第二分类结果确定;所述注意力损失分量与关系损失分量基于从第一特征信息提取的特征、以及从第二特征信息提取的特征确定。
2.根据权利要求1所述的方法,其特征在于,所述第一处理信息包括基于所述第一特征信息提取的第一显著特征以及对所述第一显著特征降维后得到的第一降维特征;所述第二处理信息包括基于所述第二特征信息提取的第二显著特征以及对所述第二显著特征降维后得到的第二降维特征,
所述注意力损失分量基于所述第一显著特征与所述第二显著特征确定;所述关系损失分量基于所述第一降维特征与所述第二降维特征确定。
3.根据权利要求2所述的方法,其特征在于,基于所述第一显著特征与所述第二显著特征确定注意力损失分量的方法,包括:
确定每一所述第一显著特征与所述第二显著特征的差异;
基于所述差异与设定阈值的差值最小化,确定所述注意力损失分量。
4.根据权利要求2所述的方法,其特征在于,所述第一降维特征包括所述样本图像组中每个样本图像对应的第一降维向量,所述第二降维特征包括所述样本图像组中每个样本图像对应的第二降维向量,基于所述第一降维特征与第二降维特征确定所述关系损失分量的方法,包括:
对于任一第一降维特征,基于所述第一降维特征中各第一降维向量之间的相似性,确定所述第一降维特征对应的第一样本间关系;
基于所述第二降维特征中各第二降维向量之间的相似性,确定所述第二降维特征对应的第二样本间关系;
基于所述第二样本间关系和所述第一样本间关系之间的距离最小化,确定所述关系损失分量。
5.根据权利要求4所述的方法,其特征在于,在所述神经网络包括多个第一网络的情况下,所述基于所述第二样本间关系和所述第一样本间关系之间的距离最小化,确定所述关系损失分量,包括:
将每一所述第一样本间关系的加权平均结果确定为第一目标样本间关系;
确定所述第一目标样本间关系和所述第二样本间关系的范式距离;
基于所述范式距离中的最小距离确定所述关系损失。
6.根据权利要求2所述的方法,其特征在于,基于所述第一分类结果与所述第二分类结果确定所述逻辑损失分量的方法,包括:
根据各所述第一分类结果确定目标第一分类结果;
确定所述目标第一分类结果与所述第二分类结果之间的第一散度分量;
根据所述第一散度分量,确定所述逻辑损失。
7.根据权利要求6所述的方法,其特征在于,在所述神经网络包括多个第一网络的情况下,所述根据所述第一散度分量,确定所述逻辑损失包括:
获取散度对抗阈值;
对于任意两第一分类结果,确定所述两第一分类结果之间的散度,将所述散度与所述散度对抗阈值的差值确定为第二散度分量;
根据所述第一散度分量和各所述第二散度分量,得到所述逻辑损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110578124.8/1.html,转载请声明来源钻瓜专利网。