[发明专利]一种基于迁移学习的快速混合高阶注意力域对抗网络的方法

权利要求书

1.一种基于迁移学习的快速混合高阶注意力域对抗网络的方法，其特征在于：所述方法包括如下步骤：

Step1：将待处理的图像数据集划分为源域和目标域；

Step2：设计用于待处理图像数据集的快速混合高阶注意力和域对抗自适应网络，该快速混合高阶注意力包括通道注意力和高阶空间注意力，域对抗自适应网络包括特征提取器G、域鉴别器D、分类器C；

Step3：对源域和目标域在输入快速混合高阶注意力和域对抗自适应网络前进行预处理；

Step4：将预处理的源域和目标域依次分批量导入所设计的快速混合高阶注意力和域对抗自适应网络，经过快速混合高阶注意力网络得到加权的特征图，然后将这些加权的精细特征图输入到域对抗自适应网络中训练，最后经全连接层进行概率运算；

Step5：分别计算出源域和目标域的图像平均分类准确率；

Step6：经过反向传播中梯度反转层取反梯度方向形成对抗训练，然后进行迭代训练，最后，利用在源域上训练好的快速混合高阶注意力和域对抗自适应网络，直接应用在目标域上进行图像分类；

所述快速混合高阶注意力和域对抗自适应网络的详细训练步骤如下：给定一个通过ResNet-50提取的特征图F∈R^C×H×W网络，这里C，H，W仅分别表示F的通道数，高度和宽度，将其输入卷积层，为了利用特征的通道间关系，应分别使用两个不同的空间上下文描述符AvgPool(F)和MaxPool(F)汇总输入特征的空间尺寸，然后将两个描述符作为具有一个隐藏层的多层感知器MLP转发到共享网络，以生成通道注意掩码M_c(F)，将共享网络应用于每个描述符后，使用逐元素求和合并输出特征向量；最后，通过S形函数获得每个像素值的重要值；简而言之，通道注意力映射的计算公式为：

把得到通道注意力映射加权传播到特征图F上，最终通道注意力为：

从空间角度来看，通道注意力是全局性应用的，而空间注意力是局部性的，但是，这些掩模只能由空间特征的一阶统计量表示，这仅限于挖掘简单和粗糙的信息，也不足以捕获复杂的高级表示，因此，进一步采用高阶空间注意M_h(F)∈R^1×H×W，以获得特征对齐的详细高阶统计量；首先，在f∈R^C的高阶统计量f的顶部定义一个线性多项式预测变量，它表示在f的特定空间位置的局部描述符为：

其中·，·表示两个相同大小的张量的内积，r是阶数，表示r阶次的外积，其中每个外积包含f中的度R单项式，而w^r是要学习的r阶张量，它包含f中阶r变量组合的权重，D^r为r组1×1卷积滤波器，α^r为权重向量，α^r，d为秩一张量的关联权重向量，多项式特征向量，s为源域的向量阶数，d目标源的向量阶数，f为高阶统计量，z^r为r阶特征向量图，高阶空间注意力映射计算公式为：

M_h(F)＝sigmoid([m(f)；f∈F])

＝(h_σ(m(/))；f∈F) (4)

给定中间特征映射F∈^RC×H×W作为输入，依次推断出一个一维通道注意力映射Mc∈R^C×1×1和一个二维的空间注意力映射Ms∈R^1×H×W，整个快速混合注意力计算公式为:

其中表示逐元素乘法，在乘法过程中，注意力值被传播；为此，致力于通过组合复杂的高阶统计量来建模空间注意力机制，以捕获精确零件之间的更复杂和更高级的信息，从而使特征提取器产生更高层次的信息可传递性并区分出精细特征。