[发明专利]面向Transformer的多尺度特征增强模块

权利要求书

1.本发明面向Transformer的多尺度特征增强模块，包括以下步骤：

S1、基于原始的特征块序列构造一条Transformer路径；

S2、对原始的特征块序列进行不同级别的块合并，构造多条带残差的Transformer路径；

S3、对所述S1和S2产生的结果进行级联，降维，产生增强的特征块序列。

2.根据权利要求1所述的面向Transformer的多尺度特征增强模块，其特征在于，在所述步骤S1中，假设原始的特征块序列表示为f＝[t1,t2,…,tn]，构造的Transformer路径表示为：

F＝Trans(f)

其中，Trans(·)表示一个Transformer块，有两个多头自注意力层构成。

3.根据权利要求1所述的面向Transformer的多尺度特征增强模块，其特征在于，在所述步骤S2中，对原始的特征块序列进行不同级别的块合并，构造多条带残差的Transformer路径；具体表示为：

F_i＝MLP(Reshape(FC(Trans(Merge_i(f))))+f)

其中，Merge_i(·)表示第i种合并方法，i从1到m，m表示带残差的Transformer路径总数；FC(·)表示全连接层，Reshape(·)表示变形操作，MLP(·)表示多层感知机，“+”表示通道级联操作。

4.根据权利要求1所述的面向Transformer的多尺度特征增强模块，其特征在于，在所述步骤S3中，对所述S1和S2产生的结果进行级联，降维，产生增强的特征块序列F_final。