[发明专利]一种基于自注意力上下文网络的高光谱遥感图像分类方法

权利要求书

1.一种基于自注意力上下文网络的高光谱遥感图像分类方法，其特征在于：首先构建整体网络，包括一个基干网络、一个自注意力模块和一个上下文编码模块，基干网络通过三个扩张卷积层和一个平均池化层来提取层次化特征；随后，将基干网络提取的特征作为自注意力模块的输入，进行自注意力学习，构建像素间的空间依赖关系，得到自注意力特征；自注意力特征随后作为上下文编码模块的输入，学习全局上下文特征；具体实现包括以下步骤：

步骤1：初始化整体网络中的参数，使其满足均值为0方差为0.1的高斯分布；

步骤2：记原始高光谱影像为其中h,w,c分别为影像的高度、宽度和波段数，将X输入基干网络；

步骤3：将第三个扩张卷积层的特征C₃输入到自注意力模块，学习自注意力特征m为第一个扩张卷积层中卷积核的个数；

步骤4：将自注意力模块学习到的自注意力特征S输入到上下文编码模块，学习上下文特征

步骤5：将上下文特征Z与第一、第二个卷积特征采用串联的方式进行特征融合，得到融合后的特征其中U(·)表示2倍双线性内插上采样操作，C₁和C₂分别为第一个扩张卷积层的特征和第二个扩张卷积层的特征；

步骤6：将融合特征H输入一个卷积层，利用Softmax函数得到网络预测的概率图计算预测概率图与真实标签Y之间的交叉熵损失函数；

步骤7：利用梯度下降算法，优化步骤6中的损失函数；

步骤8：重复上述步骤2-7，直至整体网络收敛；

步骤9：将待识别的目标影像，输入到训练好的整体网络中，完成最终的高光谱遥感图像分类任务。

2.根据权利要求1所述的基于自注意力上下文网络的高光谱遥感图像分类方法，其特征在于：步骤3中所述的自注意力特征S，其具体学习过程包括以下子步骤：

步骤3.1：为了减少自注意力特征学习过程中的计算负担，利用一个平均池化层将输入的第三层卷积特征C₃的空间尺寸减半：P_avg(·)为平均池化操作；

步骤3.2：将P₂分别输入到三个具有n个卷积核的卷积层得到对应的特征图

步骤3.3：将α,β,γ调整尺寸为利用下式计算空间注意力图

其中，A_(i,j)表示影像中像素i对像素j的影响，k＝1,2,…,hw/16；

步骤3.4：将空间注意力图A与特征图γ进行矩阵乘法，得到特征图B＝A×γ，随后将B调整尺寸为

步骤3.5：计算最终的自注意力增强特征

S＝F(U(B))+C₃,

其中F(·)表示非线性映射函数，具体采用一个具有m个卷积核的卷积层实现，U(·)表示2倍双线性内插上采样操作。

3.根据权利要求1所述的基于自注意力上下文网络的高光谱遥感图像分类方法，其特征在于：步骤4中所述的上下文特征Z，其具体学习过程包括以下子步骤：

步骤4.1：利用一个具有n个卷积核的卷积层对输入的自注意力增强特征S进行降维，对得到的特征图Q调整尺寸为记为Q的第i个元素，其中i＝1,2,...N，

步骤4.2：记为利用Q中的全局统计信息来学习视觉中心的编码字典，其中表示字典中的第j个元素，k是字典D中元素的个数，计算Q与D之间的标准化残差为：

其中，r_ij＝q_i-d_j表示Q中的第i个元素与D中的第j个元素的残差，s_j表示D中的第j个元素对应的缩放因子，s_l表示D中的第l个元素对应的缩放因子；

步骤4.3：计算全局上下文向量其中表示批标准化操作；

步骤4.4：利用一个全连接层将全局上下文向量e升维至

其中为sigmoid函数，W_fc与b_fc为全连接层对应的参数矩阵与偏置向量；

步骤4.5：计算最终的上下文特征

其中⊙表示通道维度上的点乘。