[发明专利]基于注意力机制的深度学习糖尿病视网膜病变分类方法

权利要求书

1.基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于，包括如下步骤：

(1)分别选取EyePACS数据集、DiaretDB1数据集、Messidor数据集中一系列眼底图像作为原始数据样本，对眼底图像进行归一化预处理，预处理后进行裁剪保证尺寸相同，将裁剪后的眼底图像分为训练集和测试集；

(2)构建卷积神经网络模型，所述卷积神经网络模型包括主神经网络和注意力网络；采用ImageNet数据集单独对主神经网络进行训练，通过训练得到的参数对主神经网络进行微调并保存主神经网络模型参数；在保存的主神经网络模型参数中，选取糖尿病视网膜病变等级分类最好的主神经网络模型参数来初始化卷积神经网络中的主神经网络参数部分，余下参数随机初始化；

(3)将EyePACS数据集中的训练集图像输入至主神经网络进行训练，生成特征图；固定主神经网络的参数，采用DiaretDB1数据集中的训练集图像训练注意力网络，注意力网络输出病变候选区域灰度图；

(4)将注意力网络生成的病变候选区域灰度图进行归一化得到注意力图，并将注意力图与主神经网路输出的特征图进行元素点乘，乘积得到注意力机制；

(5)将注意力机制求得结果输入主神经网络中，采用EyePACS数据集中的训练集图像继续训练，训练时按照设定的学习率调整主神经网络的参数，最终得到糖尿病视网膜病变等级分类模型。

2.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：所述步骤(1)的预处理操作为：提取原始数据样本中图像的前景区域，采用下式对进行归一化预处理，

I_c(x,y)＝αI(x,y)+βGaussion(x,y,ρ)*I(x,y)+γ

其中，I为输入图像，*表示卷积操作，Gaussion(x,y,ρ)表示标准差为ρ的高斯滤波器，参数α,β,γ和ρ根据经验设置为α＝4,β＝-4，以眼底图像中心为圆心，腐蚀到眼底图边缘5％的区域；

将预处理后的图像裁剪为720×720，并且将划分为训练集的图像进行随机旋转0°/90°/180°/270°以实现图像数据增广。

3.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：所述步骤(2)中采用迁移学习的方法，把ImageNet上训练得到的参数对主神经网络进行微调，选出糖尿病视网膜病变等级分类最好的主神经网络模型参数对卷积神经网络中主神经网络进行初始化，并随机初始化余下参数。

4.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：将所述步骤(4)中注意力网络的输出归一化后进行加1操作，所得结果与主神经网络特定层conv2d_2b_3x3的特征图Feature Map M进行点乘操作，然后输入至主神经网络中进行后续的训练。

5.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：所述注意力网络为一个对称的全卷积网络，包括下采样过程的5个卷积层和上采样过程的5个解卷积层。

6.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：所述主神经网络采用inception-resnet-v2，集成残差学习结构和感知结构两种模块。

7.根据权利要求1所述的基于注意力机制的深度学习糖尿病视网膜病变分类方法，其特征在于：所述步骤(3)至(5)中采用Nesterov Momentum算法作为卷积神经网络的优化算法，使用的动量优化因子为0.9更新所有权重；在网络的每一次迭代训练中，采用均方误差作为糖尿病视网膜病变等级分类的损失函数训练各级神经网络，在误差值反向传播过程中，使用Nesterov Momentum算法计算梯度值，并利用计算得到的梯度值更新网络的参数，对网络的所有参数使用L2正则化项，权重衰减因子为0.0005；根据注意力网络的损失函数，利用Nesterov Momentum算法计算梯度值，更新注意力网络的参数完成网络的依次迭代过程。