[发明专利]迁移学习方法及装置有效
| 申请号: | 201510032970.4 | 申请日: | 2015-01-22 |
| 公开(公告)号: | CN104616031B | 公开(公告)日: | 2018-06-12 |
| 发明(设计)人: | 桂林;徐睿峰;陆勤;周俞 | 申请(专利权)人: | 哈尔滨工业大学深圳研究生院 |
| 主分类号: | G06K9/66 | 分类号: | G06K9/66;G06F17/30 |
| 代理公司: | 深圳鼎合诚知识产权代理有限公司 44281 | 代理人: | 林宏津;郭燕 |
| 地址: | 518055 广东省深*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 迁移 样本 迭代 迭代周期 误差检测 学习 学习过程 标注 自动化 输出保留 相关参数 质量确定 自动标注 初始化 分类器 剔除 删除 筛选 保留 应用 | ||
1.一种提高分类器精度的迁移学习方法,其特征在于,包括:
初始步骤:设置迁移学习的相关参数并初始化;
样本获取步骤:开始迁移学习迭代,获得自动化标注数据;
周期计算步骤:当迭代次数满足迭代周期,对该迭代周期内作为样本的自动化标注数据进行误差检测,确定该迭代周期的样本相对质量;
结果处理步骤:根据样本相对质量确定样本的删除或保留,并确定是否继续迁移学习迭代,当终止迁移学习迭代,输出保留的样本和迁移分类器;
其中,所述周期计算步骤包括:
将每次迭代后的自动化标注数据作为一个样本,计算当前迭代周期内各个样本的错误率,所述错误率为根据待分析样本和对应的周期内其它样本之间的相似度及距离按照假设检验的方法计算得到;
根据计算得到的当前迭代周期中各个样本的错误率,计算当前迭代周期的误差界,从而确定当前迭代周期的样本相对质量;
其中,所述错误率的计算公式包括:
其中,ηi表示样本i的错误率,wij表示样本i与其它样本j的相似度,Iij表示样本i与其它样本j的标签距离,||w||1和||w||2为关于w的L1范数和L2范数,w为每一个wij作为向量的一个分量而组成的和向量。
2.如权利要求1所述的方法,其特征在于,所述周期计算步骤包括:
将每次迭代后的自动化标注数据作为一个样本,将当前迭代周期内的所有样本分为至少两个集合,其中一个集合作为测试集,剩余集合作为训练集,利用交叉验证法进行计算,得到每个样本的分类错误概率;
根据计算得到的当前迭代周期中各个样本的分类错误概率,计算当前迭代周期的误差界,从而确定当前迭代周期的样本相对质量。
3.如权利要求1所述的方法,其特征在于,所述结果处理步骤包括:
将当前迭代周期的样本相对质量与前一迭代周期的样本相对质量进行比较,
如果当前迭代周期的样本相对质量高于前一迭代周期的样本相对质量,删除前一迭代周期中错误率大于预定错误率阈值的样本,继续迁移学习迭代,
如果当前迭代周期的样本相对质量低于前一迭代周期的样本相对质量,则终止迁移学习迭代,输出保留的样本和迁移分类器。
4.如权利要求1所述的方法,其特征在于,所述样本获取步骤包括:
利用已有的有标注的元分类数据训练迁移分类器,利用训练得到的迁移分类器对无标注的目标分布数据进行分类,选取置信度大于预定置信度阈值的分类结果进行自动化标注,从而得到自动化标注数据。
5.一种提高分类器精度的迁移学习装置,其特征在于,包括:
初始模块,用于设置迁移学习的相关参数并初始化;
样本获取模块,用于开始迁移学习迭代,获得自动化标注数据;
周期计算模块,用于当迭代次数满足迭代周期,对该迭代周期内作为样本的自动化标注数据进行误差检测,确定该迭代周期的样本相对质量;
结果处理模块,用于根据样本相对质量确定样本的删除或保留,并确定是否继续迁移学习迭代,当终止迁移学习迭代,输出保留的样本和迁移分类器;
其中,所述周期计算模块包括:
错误率计算单元,用于将每次迭代后的自动化标注数据作为一个样本,计算当前迭代周期内各个样本的错误率,所述错误率为根据待分析样本和对应的周期内其它样本之间的相似度及距离按照假设检验的方法计算得到;
质量确定单元,用于根据计算得到的当前迭代周期中各个样本的错误率,计算当前迭代周期的误差界,从而确定当前迭代周期的样本相对质量;
所述错误率的计算公式包括:
其中,ηi表示样本i的错误率,wij表示样本i与其它样本j的相似度,Iij表示样本i与其它样本j的标签距离,||w||1和||w||2为关于w的L1范数和L2范数,w为每一个wij作为向量的一个分量而组成的和向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学深圳研究生院,未经哈尔滨工业大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510032970.4/1.html,转载请声明来源钻瓜专利网。





