[发明专利]基于最大信息三元组筛选网络的数据主动标注方法和系统有效
申请号: | 201711115401.1 | 申请日: | 2017-11-13 |
公开(公告)号: | CN108090499B | 公开(公告)日: | 2020-08-11 |
发明(设计)人: | 赵鑫;黄凯奇;张靖;康运锋 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 北京市恒有知识产权代理事务所(普通合伙) 11576 | 代理人: | 郭文浩 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 最大 信息 三元 筛选 网络 数据 主动 标注 方法 系统 | ||
1.一种基于最大信息三元组筛选网络的数据主动标注方法,其特征在于,包括以下步骤:
步骤S10,根据样本的深度特征,利用深度筛选网络模型结合主动学习筛选最具标注价值的未标注样本进行人工标注,生成人工标注后的数据;
步骤S20,根据所述人工标注后的数据,更新训练数据集,构建最大信息三元组损失函数,并基于更新后的训练数据集和所述最大信息三元组损失函数训练并更新所述深度筛选网络模型;
步骤S30,当更新后的训练数据集中,未标注数据与已标注数据的类内最大差异均小于预设的第二阈值且类间最小差异均大于预设的第一阈值时执行步骤S40,否则基于步骤S20中更新后的所述深度筛选网络模型重复步骤S10、步骤S20;
步骤S40,采用最终训练并更新的深度筛选网络模型,对剩余的未标注样本进行标注;
其中,
步骤S10之前,所述数据主动标注方法还包括预处理步骤S0和S1:
步骤S0,在ImageNet数据集上预训练,得到所述深度筛选网络模型;
步骤S1,利用所述深度筛选网络模型,对未标注的数据集U粗分类为C个类别,并提取未标注数据集U和已标注数据集L中样本的深度特征;
所述最具标注价值的未标注样本,包括:类间最具不确定性的未标注样本,以及类内最具差异性的未标注样本;
筛选所述最具标注价值的未标注样本的方法为:
将每个类别中已标注样本与其他不同类别的未标注样本分别比较,选择各不同类别中深度特征差异最小的未标注样本,作为所述类间最具不确定性的未标注样本;
将每个类别中已标注样本与该类别中的未标注样本比较,选择深度特征差异最大的未标注样本,作为所述类内最具差异性的未标注样本;
所述最大信息三元组损失函数为:
其中,γ为间隔因子,表示限定类间最具不确定性和类内最具差异性样本之间结构关系的一个阈值;为正则化项,λ为正则化参数;表示类别i中已标注样本的深度特征;表示已标注样本的深度特征;表示已标注样本的深度特征;w表示筛选网络模型的参数,i=1,2,...,C,j=1,2,...,C,且i≠j;D(fw(xa),fw(xb))表示样本深度特征之间的距离;C为类别的个数,Q为在每一类中随机抽取的已标注样本个数。
2.根据权利要求1所述的数据主动标注方法,其特征在于,所述深度特征差异,采用欧几里得距离度量函数进行衡量:
D(fw(xa),fw(yb))=||fw(xa)-fw(yb)||
其中,fw(xa)、fw(yb)分别表示样本xa、yb的深度特征;D(fw(xa),fw(yb))表示两个样本深度特征之间的距离。
3.根据权利要求2所述的数据主动标注方法,其特征在于,
所述类间最具不确定性的未标注样本,用最小距离方法进行筛选:
将最小距离值对应的样本作为类别i和类别j的类间最具不确定性的未标注样本;
所述类内最具差异性的未标注样本,用最大距离方法进行筛选:
将最大距离值对应的样本作为类别i的类内最具差异性的未标注样本;
其中,表示类别i中已标注样本的深度特征;表示类别j中未标注样本的深度特征;表示类别i中未标注样本的深度特征;i=1,2,...,C,j=1,2,...,C,且i≠j;C为类别的个数;Ai为类别i中已标注样本的个数;P为在每一类中随机抽取的未标注样本个数。
4.根据权利要求1所述的数据主动标注方法,其特征在于,所述更新训练数据集,具体为:
将人工标注过的数据集V,合并入已标注的数据集L中;
从未标注的数据集U中,减去所述人工标注过的数据集V。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711115401.1/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置