[发明专利]一种基于3D卷积谱空特征融合的高光谱图像分类算法

摘要

本发明公开了一种基于3D卷积谱空特征融合的高光谱图像分类算法，通过使用PCA白化降低光谱特征之间的相关性，极大程度地提高神经网络的训练速度；且本发明通过采用3D卷积操作和1D卷积操作相结合的方式对数据进行特征提取，可以达到更高的分类精度，在小样本上表现效果较好，并且有着较高的计算效率，特征融合过程中没有信息损失，使其能够完成高效、准确的分类，此外使用3D卷积的高光谱图像谱空特征融合方法对分类精度有明显的促进作用。

主权项

1.一种基于3D卷积谱空特征融合的高光谱图像分类算法，该算法是一个四层结构，第一层是使用3D卷积神经网络来实现谱空特征融合，其输入数据为A1，输出为A2，第二层和第三层均是采用1D卷积神经网络对数据进行特征提取，第二层的输入和输出分别是A2和A3，第三层的输入和输出分别是A3和A4，第四层与第三层完全连接，输入和输出分别为A4和A5；其特征在于，高光谱图像分类算法包括以下几个步骤：步骤一：对数据进行预处理；使用PCA白化为数据预处理方法，来降低不同光谱通道之间光谱信息的相关性，得到去掉相关性后的数据；其中，PCA白化是指使用PCA方法将原始高光谱数据X映射到新的坐标下的数据X',对X'的每一个特征维度进行标准差归一化处理；其处理公式为：其中std(·)是求标准差的函数，X”为经过PCA白化后生成的新数据；步骤二：使用3D卷积对第一层输入数据进行谱空特征融合；使用16个大小为7*7*1，移动步长为(1，1，1)的过滤器以待分类点为中心，对输入数据进行3D卷积来融合谱空特征，在过滤器中心点位于xyz处的3D卷积的计算公式为：其中，为第一层中过滤器中需要学习的参数，代表被过滤器覆盖的与相对应输入数据的值，b⁽¹⁾为需要学习的偏置，α₁、β₁、γ₁分别是3D卷积过滤器在3个维度上的尺寸，m₀为输入的特征图的数量，函数σ(·)为非线性激活函数，非线性激活函数的公式为：σ(x)＝max(0,x)；在第一层中，输入是从PCA白化后的数据X'中随机提取的7*7*C1的数据块，其7*7*C1三个维度分别代表长、宽和光谱通道，待分类点位于长和宽两个维度的中央，也就是(3*3)，该层使用16个大小为7*7*1(即α₁、β₁、γ₁分别为7、7、1)的3D卷积过滤器对数据块进行3D卷积操作，实现光谱‑空间特征融合，过滤器在三个维度的移动的步长均为1，输出为16个维度为C2(C2＝C1)的特征向量；步骤三：使用1D卷积提取第一层的输出中所包含的特征，并对第二层的输入数据进行融合，生成新的特征向量；该层使用8个尺寸为9，步长为2的过滤器以待分类点为中心，对第二层的输入数据，也就是第一层的输出数据A2进行1D卷积，在过滤器中心点位于x处的1D卷积计算公式为：其中，为第二层中过滤器需要学习的参数，代表被过滤器覆盖的与相对应的数据的值，b⁽²⁾为需要学习的偏置，α₂是1D卷积过滤器的尺寸，m₁为输入的特征向量的数量，m₁等于上一层过滤器的数量，函数σ(·)为非线性激活函数；该层的输入是第一层的输出A2，即16个维度为C1的特征向量，使用8个大小为9的1D卷积输入数据进行1D卷积操作，其移动步长为2，输出为8个维度为C3的特征向量A3，步骤四：使用1D卷积进一步提取第二层的输出数据A3中所包含的特征，并对第三层的数据进行融合，生成新的特征向量；该层使用16个尺寸为9，步长为2的过滤器以待分类点为中心，对第三层的输入数据，也就是第二层的输出数据A3进行1D卷积，在过滤器中心点位于x处的1D卷积计算公式为：其中，为第三层中过滤器需要学习的参数，代表被过滤器覆盖的与相对应的数据的值，b⁽³⁾为需要学习的偏置，α₃是1D卷积过滤器的尺寸，m₂为输入的特征向量的数量，m₂等于上一层过滤器的数量，函数σ(·)为非线性激活函数；该层的输入是第二层的输出A3，即8个维度为C3的特征向量，使用16个大小为9的1D卷积输入数据进行1D卷积操作，其移动步长为2，输出为16个维度为C4的特征向量A4，步骤五：第四层用于对第一层、第二层和第三层中提取的数据中存在的特征进行分类；在第四层中，首先要将输入的16个C4维特征向量进行堆叠，重构成一个C3*16维的向量V⁽³⁾，然后将该向量乘以参数矩阵W⁽⁴⁾，得到一个维度为C5的向量V⁽⁴⁾；然后将softmax分类函数作用于V⁽⁴⁾上最后输出维度为C5的分类向量A5，分类向量的维度C5等于高光谱图像中包含感兴趣地物种类的个数，每个维度代表待分类点属于对应类别的概率值，最终认为概率最大的类别为待分类点所属的类别，其过程中的分类公式为：其中W⁽⁴⁾与b⁽⁴⁾为需要学习的参数，softmax函数的公式为：步骤六：数据经过第一层、第二层、第三层和第四层逐层完成前向传播，得到的输入数据属于某一类别的预测，由于网络中需要学习的参数需要通过梯度下降法进行学习，因此要使用损失函数评价预测值与真实值之间的误差，该损失函数的公式为：其中，l_i为待分类点属于第i类的真实概率值，v_i是待分类点属于第i类的预测概率值，网络中需要学习的参数W与b作为变量，通过调整W与b的数值使loss的值最小，因此可以求出网络中关于参数W与b的梯度，应用梯度下降法求得合适的参数值，使网络具有良好的性能。