[发明专利]基于通道注意力机制的断层扫描图像分类装置和方法在审
申请号: | 202210114312.X | 申请日: | 2022-01-30 |
公开(公告)号: | CN114565786A | 公开(公告)日: | 2022-05-31 |
发明(设计)人: | 李锵;邵凌云;关欣 | 申请(专利权)人: | 天津大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08;G06T7/00 |
代理公司: | 天津市北洋有限责任专利代理事务所 12201 | 代理人: | 刘国威 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 通道 注意力 机制 断层 扫描 图像 分类 装置 方法 | ||
1.一种基于通道注意力机制的断层扫描图像分类方法,其特征是,采集断层扫描图像,利用深度卷积神经网络对采集的断层扫描图像进行分类,其中深度卷积神经网络是在密集连接神经网络DenseNet121中以密集连接的方式加入高效通道注意力机制并采用加权焦点损失函数用于网络的训练。
2.如权利要求1所述的基于通道注意力机制的断层扫描图像分类方法,其特征是,具体步骤如下:
第一步,利用CT设备获取断层图像:此次分类任务采用的数据集是美国肺部图像数据联盟(LIDC-IDRI),该数据集是全世界最大的公开肺部影像数据集;
第二步,CT图像预处理:将LIDC-IDRI数据集按照7:2:1的比例分为训练集、测试集和验证集,将CT图像中的放射密度强度剪切到[-1000,400]HU单位之间,并将它们归一化到(0,1),将含有肺结节的CT图像剪切成40mm×40mm大小,并采用双线性插值法将图像大小调整为20mm×20mm,以降低网络计算量;
第三步,构建和训练深度卷积神经网络:先对分类网络DenseNet121进行修改,在该网络中以密集连接的方式加入高效通道注意力机制(ECA,Efficient Channel Attention),形成一个改进的密集连接网络,使用多标签损失函数,并利用预处理后的CT图对网络进行训练;方法如下:
(1)构建改进的密集连接网络:在DenseNet121网络上进行修改,形成一个对3种肺结节进行分类的网络,在DenseNet121中4个Dense Block内的每一个单元的前面引入高效通道注意力机制ECA模块,即将前面所有单元的输出在通道维度上进行连接再经过ECA模块捕获跨通道交互操作后来作为当前单元的输入,所述Dense Block内的每一个单元由两个卷积核层组成,卷积核的大小分别为1×1和3×3;在此基础上再将网络原来维度为1000的全连接层改为维度为3的全连接层;
(2)设计加权焦点损失函数并对网络进行训练:为使网络更有效地依据肺结节分类的难易程度调节对应的权重,在焦点损失函数的基础上添加权重系数,作为每种肺结节对应的损失函数,并称其为加权焦点损失函数Weighted Focal Loss:
式中,i,j=1,2,3,...,N分别对应几种分类标签,N为分类标签总数目,ai与aj为上一次训练的验证结果中,分别与标签i与j相对应的肺结节在验证集上每个轮次AUC(Area UnderCurve)值的算术平均值;
第四步,测试网络并选出最佳的网络模型,将每一轮训练得到的网络模型在测试集上进行测试,并选出平均AUC值最高的网络模型作为最终的模型。
注意力机制ECA是在没有降维处理的情况下进行通道级全局平均池化后,通过考虑每个通道和其k个最近邻来捕获本地跨通道交互,目标是捕获局部的跨通道交互,即只考虑每个通道与其k近邻之间的相互作用,yi的权重表示为:
式中,为yi的k个相邻通道的集合,每个通道的注意力模块涉及k×C个参数,为了进一步降低模型复杂度并提升模型效率,共享所有通道的权重,即yi的权重表示为:
交互的覆盖范围即一维卷积的核大小k与通道维度C是成正比的,也就是说k和C之间存在一个映射φ,即:
C=φ(k),
使用一个指数函数近似映射φ,即
C=φ(k)=2(γ*k-b),
然后,给定通道维数C就可以自适应确定核大小k,k的表达式为:
式中,|t|odd表示t最接近的奇数,通过ψ映射,高维通道具有更大范围的相互作用,低维通道通过非线性映射具有更小范围的相互作用,由此,整个网络的每一个Dense Block内的每个单元都将前面所有的单元进行了捕获跨通道交互操作之后再进行连接来作为当前的输入,让网络通过学习不同通道重要程度的参数来抑制无效特征信息的传播而增强有效信息的传播,实现网络性能的提升。
3.一种基于通道注意力机制的断层扫描图像分类装置,其特征是,包括CT设备和计算机,CT设备获取断层图像,计算机中的深度卷积神经网络对采集的断层扫描图像进行分类,其中深度卷积神经网络是在密集连接神经网络DenseNet121中以密集连接的方式加入高效通道注意力机制,并采用加权焦点损失函数用于网络的训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210114312.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种饱和软黏土固结装置
- 下一篇:一种屋顶防滑隔热防水涂料及其制备方法