[发明专利]胎儿超声标准切面图像识别网络模型的训练方法和装置有效
| 申请号: | 202111047127.5 | 申请日: | 2021-09-08 |
| 公开(公告)号: | CN113487614B | 公开(公告)日: | 2021-11-30 |
| 发明(设计)人: | 章毅;张欣培;章维;周尧 | 申请(专利权)人: | 四川大学 |
| 主分类号: | G06T7/00 | 分类号: | G06T7/00;G06K9/62;G06N3/04;G16H50/20 |
| 代理公司: | 成都弘毅天承知识产权代理有限公司 51230 | 代理人: | 黄海斌 |
| 地址: | 610065 四川*** | 国省代码: | 四川;51 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 胎儿 超声 标准 切面 图像 识别 网络 模型 训练 方法 装置 | ||
1.胎儿超声标准切面图像识别网络模型的训练方法,其特征在于,包括:
构建已完成预训练的教师网络模型和未训练的第一学生网络模型,所述教师网络模型和所述第一学生网络模型均是残差连接的卷积神经网络;
基于所述教师网络模型的隐藏层知识训练所述第一学生网络模型的中间层获得第二学生网络模型;
基于所述第二学生网络模型的自蒸馏监督信息和所述教师网络模型与所述第二学生网络模型输出样本间的相似度矩阵预测信息训练所述第二学生网络模型得到胎儿超声标准切面图像识别网络模型;
其中,基于所述第二学生网络模型的自蒸馏监督信息和所述教师网络模型与所述第二学生网络模型输出样本间的相似度矩阵预测信息训练所述第二学生网络模型得到所述胎儿超声标准切面图像识别网络模型包括:
将数据集输入所述第二学生网络模型和所述教师网络模型中获得所述第二学生网络模型输出的第一输出样本数据和第一软标签数据、所述教师网络模型输出的第二输出样本数据和第二软标签数据;
基于所述第一输出样本数据和所述第二输出样本数据获得所述第二学生网络模型的自蒸馏监督信息;
基于所述第一软标签数据、所述第二软标签数据和所述自蒸馏监督信息构建第二损失函数;
基于所述第二损失函数对所述第二学生网络模型进行迭代训练获得所述胎儿超声标准切面图像识别网络模型;
其中,基于所述第一输出样本数据和所述第二输出样本数据获得所述第二学生网络模型的自蒸馏监督信息包括:
基于所述第一输出样本数据和所述第二输出样本数据构造基于批次内多个样本的对输出锚样本的相似度矩阵A,具体公式如下:
其中,i,j表示每个批次里的样本,表示第一输出样本数据,表示第二输出样本数据,表示L2范数;
对所述相似度矩阵进行softmax归一化处理,具体公式如下:
对归一化结果经过softmax函数后形成一个概率输出,形成了第二学生网络模型自蒸馏监督信息;
其中,所述第二损失函数具体为:
其中,表示蒸馏强度,T表示温度系数,表示KL散度,表示第一软标签数据,表示第二软标签数据,表示交叉熵,表示第二学生网络模型的权重矩阵,表示第二学生网络自蒸馏监督信息。
2.根据权利要求1所述的胎儿超声标准切面图像识别网络模型的训练方法,其特征在于,基于所述教师网络模型的隐藏层知识训练所述第一学生网络模型的中间层获得第二学生网络模型包括:
固定所述教师网络模型后,将数据集输入冻结了最后一层残差卷积神经网络层和全连接层的所述教师网络模型中获取所述教师网络模型隐藏层的输出结果;
将数据集输入冻结了最后一层残差连接层、池化层和全连接层的所述第一学生网络模型中获取所述第一学生网络模型中间层的输出结果;
基于所述教师网络模型隐藏层的输出结果和所述第一学生网络模型中间层的输出结果构建第一损失函数;
基于所述第一损失函数对所述第一学生网络模型进行迭代训练获得第二学生网络模型。
3.根据权利要求1所述的胎儿超声标准切面图像识别网络模型的训练方法,其特征在于:
所述数据集包括已标注的胎儿超声标准切面图像和其他类别的胎儿超声标准切面图像;
所述已标注的胎儿超声标准切面图像其图像中包含胎儿部位;
所述其他类别的胎儿超声标准切面图像其图像中不包含胎儿部位。
4.根据权利要求3所述的胎儿超声标准切面图像识别网络模型的训练方法,其特征在于,已标注的胎儿超声标准切面图像和其他类别的胎儿超声标准切面图像的获取方法包括:
录制并收集产前超声检查视频流;
对所述超声检查视频流进行筛选并裁剪获取视频片段;
从所述视频片段中抽取视频帧图像;
对包含胎儿部位的所述视频帧图像进行标注获得已标注的胎儿超声标准切面图像;
将不包含胎儿部位的所述视频帧图像作为其他类别的胎儿超声标准切面图像。
5.根据权利要求3所述的胎儿超声标准切面图像识别网络模型的训练方法,其特征在于:
所述胎儿部位包括胎儿腹部、胎儿头部、胎儿股骨、胎儿胸腔和母体宫颈。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川大学,未经四川大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111047127.5/1.html,转载请声明来源钻瓜专利网。





