[发明专利]基于VIT的面向高光谱遥感图像分类径向累加位置编码系统

说明书

本发明涉及一种基于VIT的面向高光谱遥感图像分类径向累加位置编码系统，包括：数据提取预处理模块，用于从数据集中截取数据，通过PCA主成分分析预处理，并将处理后的数据输入到模型框架中；位置编码模块，将输入的数据从中心点往四周叠加，使每个点的数据附带位置信息；数据拆分模块，将数据划分成多个块状区域，并分别拉伸成一维向量，输入到ViT模型中；主体模型模块，包含一个ViT模型，用于处理输入的数据，输出分类结果。本发明使输入到ViT的数据得以附加更加有效的空间信息，从而提升像素级分类精度。

技术领域

本发明涉及遥感领域，具体涉及一种基于VIT的面向高光谱遥感图像分类径向累加位置编码系统。

背景技术

高光谱图像分类，其目的是将每个像素分配到某一类别，对于此项技术的研究工作已经引起了学术界和工业界的极大关注，在土地覆盖检测、城市规划和交通监测方面有显著的应用价值。高光谱图像具有光谱特征维度高，空间分辨率低的特点，如何充分利用每个像素蕴含的光谱信息以及每个像素周边像素蕴含的空间信息具有相当大的挑战。当前高光谱图像分类工作主要采用深度学习的方法，相较于传统的机器学习方法，精度明显提高，但是多层的卷积结构也导致了计算量的大量增加。Vision Transformer（ViT）是近年来兴起的基于自注意力机制的神经网络模型，利用注意力的方式来捕获全局的上下文信息从而对目标建立起远距离的依赖，从而提升特征的表征能力。在感受野相同的情况下，计算量相较于深度学习方法大大下降。

对于ViT模型来说，位置编码方法决定了模型对数据空间信息的利用效果，常用的位置编码方法为三角函数位置编码，这是一种在自然语言处理（NLP）中常用的位置编码方法，在一维数据中表现很好，但是不能很好的表达像素点之间的二维空间关系，不适用与高维的高光谱遥感影像。

发明内容

有鉴于此，本发明的目的在于提供一种基于VIT的面向高光谱遥感图像分类径向累加位置编码系统，使输入到ViT的数据得以附加更加有效的空间信息，从而提升像素级分类精度。

为实现上述目的，本发明采用如下技术方案：

一种基于VIT的面向高光谱遥感图像分类径向累加位置编码系统，包括：

数据提取预处理模块，用于从数据集中截取数据，通过PCA主成分分析预处理，并将处理后的数据输入到模型框架中；

位置编码模块，将输入的数据从中心点往四周叠加，使每个点的数据附带位置信息；

数据拆分模块，将数据划分成多个块状区域，并分别拉伸成一维向量，输入到ViT模型中；

主体模型模块，包含一个ViT模型，用于处理输入的数据，输出分类结果。

进一步的，所述位置编码模块通过将数据从中心点径向往四周累加，达到一种和传统位置编码相似的区分各点位置的效果，并在划分块状区域尺寸为1*1时，使模型具有绝对的旋转不变性。

进一步的，所述通过PCA主成分分析方法对输入数据进行预处理时，并且不改变数据的维度。

进一步的，所述数据拆分模块将输入数据按尺寸1×1或3×3划分成N个块状区域，并将其分别拉伸成一维向量，输入到ViT模型中。

一种基于VIT的面向高光谱遥感图像分类径向累加位置编码系统的编码方法，包括以下步骤：

步骤S1：从数据集中按照一个窗口尺寸截取数据，其中心点的类别设置为分类标签；通过PCA主成分分析预处理，再将处理后的数据输入到模型框架中；

步骤S2：使用本文提出的径向累加位置编码方法，对输入的数据进行处理，将输入的数据从中心点往四周叠加，使每个点的数据附带位置信息；

步骤S3： 将输入数据按尺寸1×1或3×3划分成N个块状区域，并将其分别拉伸成一维向量，输入到ViT模型中；

步骤S4：将数据输入到ViT模型中得到分类结果。

本发明与现有技术相比具有以下有益效果：