[发明专利]度量学习方法、装置、设备及存储介质有效
申请号: | 202010319378.3 | 申请日: | 2020-04-21 |
公开(公告)号: | CN111667050B | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 黄振杰;李德紘;张少文;冯琰一 | 申请(专利权)人: | 佳都科技集团股份有限公司;广州佳都科技软件开发有限公司;广州新科佳都科技有限公司;广东华之源信息工程有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 北京泽方誉航专利代理事务所(普通合伙) 11884 | 代理人: | 陈照辉 |
地址: | 511400 广东省广州市番禺区东环街迎宾*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 度量 学习方法 装置 设备 存储 介质 | ||
1.一种度量学习方法,其特征在于,包括:
获取训练数据集,所述训练数据集中每个样本对应一个标签,所述标签用于标识对应样本所属的类别,所述样本为图片;
根据所述训练数据集中各样本所属的类别,构建至少一个第一样本集合,所述第一样本集合对应第一数量的类别,且在第一样本集合中每个类别下具有等量的第一样本;
根据所述第一样本集合中各类别下第一样本对应的第一特征向量计算神经网络模型的损失函数,并基于每个所述第一样本集合对所述神经网络模型进行迭代训练,直到所述损失函数满足第一稳定条件,所述第一特征向量通过所述神经网络模型得到,所述神经网络模型中设置有权重参数矩阵,所述权重参数矩阵在所述神经网络模型的训练过程中修改,所述权重参数矩阵用于使相同类别的样本的第一特征向量之间相似度高,不同类别的样本的第一特征向量之间相似度低,第一特征向量之间的相似度用于明确各样本的分类情况;
其中,所述损失函数满足第一稳定条件之后,还包括:
根据所述神经网络模型得到所述训练数据集中每个样本的第二特征向量;
根据各类别下样本的所述第二特征向量确定难例类别集合以及所述难例类别集合中各难例类别对应的难类别池和随机类别池;
根据每个所述难例类别对应的所述难类别池和所述随机类别池构建至少一个第二样本集合,所述第二样本集合中每个类别下具有等量的第二样本;
根据每个所述第二样本集合中各第二样本对应的第二特征向量更新所述神经网络模型的损失函数,并基于每个所述第二样本集合对所述神经网络模型进行迭代训练,直到所述损失函数满足第二稳定条件,所述第二稳定条件的数值范围小于第一稳定条件的数值范围;
其中,所述根据各类别下样本的所述第二特征向量确定难例类别集合以及所述难例类别集合中各难例类别对应的难类别池和随机类别池包括:
根据每个类别下全部样本的第二特征向量计算每个类别对应的簇中心;
确定当前类别的簇中心与每个其他类别的簇中心之间的余弦相似度;
若计算得到的全部余弦相似度中存在大于设定阈值的余弦相似度,则将所述当前类别确定为难例类别,将大于设定阈值的余弦相似度对应的其他类别加入所述当前类别对应的难类别池中,将小于或等于设定阈值的余弦相似度对应的其他类别加入所述当前类别对应的随机类别池中。
2.根据权利要求1所述的度量学习方法,其特征在于,所述神经网络模型中包含至少一个卷积层,所述卷积层后连接全局池化层和全连接层。
3.根据权利要求1所述的度量学习方法,其特征在于,所述根据所述训练数据集中各样本所属的类别,构建至少一个第一样本集合之前,还包括:
为所述训练数据集中的每个样本分配一个初始化的状态位;
所述根据所述训练数据集中各样本所属的类别,构建至少一个第一样本集合时,还包括:
修改所述第一样本集合中各第一样本对应的状态位;
根据所述状态位确定所述训练数据集中每个类别下的各样本是否均被选择过;
若所述类别下的各样本均被选择过,则将所述类别下的各样本对应的状态位修改为初始化的状态位。
4.根据权利要求1所述的度量学习方法,其特征在于,所述根据所述第一样本集合中各类别下第一样本对应的第一特征向量计算神经网络模型的损失函数包括:
在所述第一样本集合中选择一类别下的全部第一样本作为正样本集合,并选择另一类别下的全部第一样本作为负样本集合;
在所述正样本集合中选择一第一样本作为目标样本;
根据所述目标样本的第一特征向量、所述正样本集合中各第一样本的第一特征向量以及所述负样本集合中各第一样本的第一特征向量确定第一三元组损失函数;
选择所述第一样本集合中其他一类别下的全部第一样本更新为正样本集合,并继续确定第一三元组损失函数,直到所述第一样本集合中每个类别对应的全部第一样本均作为正样本集合;
计算各第一三元组损失函数的平均值,并将平均值作为所述神经网络模型的损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于佳都科技集团股份有限公司;广州佳都科技软件开发有限公司;广州新科佳都科技有限公司;广东华之源信息工程有限公司,未经佳都科技集团股份有限公司;广州佳都科技软件开发有限公司;广州新科佳都科技有限公司;广东华之源信息工程有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010319378.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种违纪识别方法和装置
- 下一篇:具有软芯的外科缝合线