[发明专利]一种自监督学习辅助下的半监督学习方法及系统在审
| 申请号: | 202011597645.X | 申请日: | 2020-12-29 |
| 公开(公告)号: | CN112686305A | 公开(公告)日: | 2021-04-20 |
| 发明(设计)人: | 李楠楠;张世雄;龙仕强;李革 | 申请(专利权)人: | 深圳龙岗智能视听研究院 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00 |
| 代理公司: | 北京京万通知识产权代理有限公司 11440 | 代理人: | 万学堂;王跃交 |
| 地址: | 518116 广东省深圳市*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 监督 学习 辅助 学习方法 系统 | ||
1.一种自监督学习辅助下的半监督学习方法,其特征在于,包括以下步骤:
S1:获得样本数据:将训练样本划分为若干个批次,每个批次包括标注数据或无标注数据;
S2:随机数据翻转并与原数据进行合并:将当前批次的数据随机翻转,再与所述原数据进行合并,作为当前输入数据;
S3:用特征提取网络提取所述当前输入数据的特征,得到抽象特征;以及
S4:把提取的所述抽象特征送入到图像类别分类网络或者图像角度翻转分类网络进行图像类别和图像角度翻转判断,若输入数据为标注数据,则将所述抽象特征同时送入所述图像类别分类网络和所述图像角度翻转分类网络进行图像类别和图像角度翻转判断,若输入数据为无标注数据,则只将所述抽象特征送入所述图像角度翻转分类网络,进行图像角度翻转判断。
2.根据权利要求1所述的半监督学习方法,其特征在于,在步骤S2中,数据翻转的角度从集合{90°,180°,270°,0°}中进行随机选择。
3.根据权利要求1所述的半监督学习方法,其特征在于,在现有的半监督图像分类模型下加入了自监督学习损失函数,使得在模型的训练过程中可以同时利用标注和无标注的图像,其中,所述自监督学习损失函数表示为:
Loss=Ll(Dl,θl)+μLu(Du,θu) (1)
其中μ为两项损失函数的调和系数,通常取为0.5,
以及其中,Ll(Dl,θl)对应于所述图像类别分类网络,θl为对应的网络参数,仅适用于标注数据Dl,采用交叉熵损失函数,具体如下式(2)所示:
Ll(Dl,θ)=-∑icilog(pi) (2)
其中,ci为样本i的类别,pi是样本i被分类为类别ci的概率,
Lu(Du,θu)对应于图像角度翻转分类网络,θu为对应的网络参数,适用于标注数据Dl和无标注数据Du,具体如下式(3)所示:
其中,R为选择角度集合{90,180°,270°,0°},r为某一种具体的旋转角度,dr表示对数据d采用r所代表的旋转形式,L采用交差熵损失函数。
4.一种自监督学习辅助下的半监督学习系统,其特征在于,包括:特征提取网络、图像类别分类网络和图像角度翻转分类网络,其中:
所述特征提取网络,用于提取当前输入数据的特征,得到抽象特征,其中,将训练样本划分为若干个批次,每个批次包括标注数据或无标注数据,将当前批次的数据随机翻转,再与原数据进行合并,作为所述当前输入数据;以及
所述图像类别分类网络和所述图像角度翻转分类网络,用于对提取的所述抽象特征进行图像类别和图像角度翻转判断,若输入数据为标注数据,则将所述抽象特征同时送入所述图像类别分类网络和所述图像角度翻转分类网络进行图像类别和图像角度翻转判断,若输入数据为无标注数据,则只将所述抽象特征送入所述图像角度翻转分类网络,进行图像角度翻转判断。
5.根据权利要求4所述的半监督学习系统,其特征在于,所述图像类别分类网络包括:
2个全连接层,每个所述全连接层包含2048个神经元;以及
1个图像分类网络softmax输出层,所述图像分类网络softmax输出层包含的神经元的个数为待分类类别的个数加1。
6.根据权利要求4所述的半监督学习系统,其特征在于,所述图像角度翻转分类网络包括:
2个全连接层,每个所述全连接层包含2048个神经元;以及
1个角度翻转分类网络softmax输出层,其包含4个神经元,输出分别对应{90°,180°,270°,0°}中的一个。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳龙岗智能视听研究院,未经深圳龙岗智能视听研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011597645.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种自增强纸及其制备方法
- 下一篇:一种内科按压止血装置





