[发明专利]一种基于模型框架的半监督学习方法及装置在审
申请号: | 202310469217.6 | 申请日: | 2023-04-25 |
公开(公告)号: | CN116563537A | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 胡战利;黄正勇;张娜;梁栋;郑海荣 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G06V10/26 | 分类号: | G06V10/26;G06T7/00;G06N3/0464;G06N3/0895 |
代理公司: | 深圳市科进知识产权代理事务所(普通合伙) 44316 | 代理人: | 张桂平 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 模型 框架 监督 学习方法 装置 | ||
1.一种基于模型框架的半监督学习方法,其特征在于,包括以下步骤:
S101:设置网络整体框架,网络整体框架包含学生模型、教师模型、投影器网络以及输出层网络;
S102:将医学图像输入至学生模型、教师模型,将学生模型、教师模型的输出经过投影器网络得到投影特征表示;
S103:将投影特征表示输入至输出层网络,得到学生模型、教师模型的最终分割结果;
S104:设计网络损失函数,使用网络损失函数对网络整体框架进行训练。
2.根据权利要求1所述的基于模型框架的半监督学习方法,其特征在于,学生模型和教师模型均采用V-Net作为主干网络,网络编码器和解码器分别包含4个卷积-池化层,卷积层的卷积核为3x3x3,池化层的卷积核为2x2x2,输出通道分别为16、32、64、128、128、64、32、16,激活函数使用ReLU。
3.根据权利要求1所述的基于模型框架的半监督学习方法,其特征在于,投影器网络包含两个卷积层,第一个卷积层的输出通道为16,第二个卷积层的输出通道为8,卷积核大小均为3x3x3。
4.根据权利要求1所述的基于模型框架的半监督学习方法,其特征在于,输出层网络为一个卷积层,输入为V-Net的输出,通道数为16,输出层网络的输出通道为2,卷积核大小为1x1x1。
5.根据权利要求1所述的基于模型框架的半监督学习方法,其特征在于,网络损失函数分为四个部分,为学生模型有监督损失、学生-教师模型一致性损失、学生-教师模型交叉损失以及学生-教师模型对比损失之和。
6.根据权利要求5所述的基于模型框架的半监督学习方法,其特征在于,对于学生模型的有监督损失,给定训练数据集D={(x1,y1),(x2,y2),…,(xN,yN)},其中,x={x1,x2,…,xN}网络输入图像,y={y1,y2,…,yN}是从医生标注的图像,N是训练样本的总数;学生监督损失使用Dice损失和交叉熵损失,表示为:
其中表示学生模型对带标签数据的预测结果,ε是一个很小的常数。
7.根据权利要求5所述的基于模型框架的半监督学习方法,其特征在于,学生模型、教师模型的一致性损失和交叉损失均使用均方误差损失,表示为:
y1i和分别为学生模型和教师模型的输出结果。
8.根据权利要求5所述的基于模型框架的半监督学习方法,其特征在于,学生模型、教师模型对比损失表示为:
其中是一个指示性函数,当且仅当k≠i时,其值为1,否为0;τ是一个常数;是一个余弦相似度函数;zi和zj分别为学生模型和教师模型的投影输出结果。
9.根据权利要求1所述的基于模型框架的半监督学习方法,其特征在于,采用Adam优化器来优化损失函数。
10.一种基于模型框架的半监督学习装置,其特征在于,包括:
框架设置单元,用于设置网络整体框架,网络整体框架包含学生模型、教师模型、投影器网络以及输出层网络;
投影特征表示获取单元,用于将医学图像输入至学生模型、教师模型,将学生模型、教师模型的输出经过投影器网络得到投影特征表示;
最终分割结果获取单元,用于将投影特征表示输入至输出层网络,得到学生模型、教师模型的最终分割结果;
网络损失函数设计单元,用于设计网络损失函数,使用网络损失函数对网络整体框架进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310469217.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:融合边缘相减与权重均值标准化策略的快速车道线检测方法
- 下一篇:一种均流电路