[发明专利]一种基于非局部邻关系学习的深度神经网络层次分析方法

权利要求书

1.一种基于非局部邻关系学习的深度神经网络层次分析方法，其特征在于，包括以下步骤：

步骤一、构建待分析的深度神经网络：

步骤101、构建待分析的某一深度神经网络的模型架构；

步骤102、利用某一数据集对构建的深度神经网络模型进行训练，获得训练好的网络权重；

步骤二、输入数据集样本,获取深度网络相邻两层的特征图样本对：

步骤201、将数据集样本依次输入到待分析的深度神经网络,获得样本在待分析网络各中间隐藏层所对应的特征图；

步骤202、同一输入样本在待分析网络相邻两层输出的特征图组成一个相邻层特征图样本对，若输入样本为n个，待分析网络共选定l个中间层，则最终获取共n×(l-1)个相邻层特征图样本对；

步骤三、利用空间金字塔池化网络对相邻层特征图样本对进行变换组合：

步骤301、将相邻层特征图样本对(X_i-1,X_i)依次输入k个不同尺度的自适应池化层进行特征变换，得到k个不同尺度池化后输出的样本对同一输出样本对中的两个样本的数据尺寸相同。这k个输出样本对的样本，在数据的通道维度上尺寸相同，尺寸记为c，在数据的高、宽两个维度上尺寸不同，尺寸分别记为h₁,h₂,…,h_k、w₁,w₂,…,w_k；

步骤302、将数据在各自的高、宽两个维度上展平为一维，即将c×h₁×w₁,c×h₂×w₂,…,c×h_k×w_k尺寸的三维数据展平为c×(h₁w₁),c×(h₂w₂),…,c×(h_kw_k)尺寸的二维数据；

步骤303、将k个展平为二维数据的样本对在高、宽合并后的维度上进行拼接，再将拼接后的数据展平为一维向量对(X_i-1′,X_i′)，X_i-1′、X_i′为同尺寸的向量，两者的长度均为

步骤四、将变换后的相邻层特征图样本对输入孪生变分自编码器，训练非局部邻关系学习模型：

步骤401、将样本对(X_i-1′,X_i′)输入孪生变分自编码器，计算孪生变分自编码器的总损失函数L_T；

步骤402、利用孪生变分自编码器的总损失函数L_T进行反向传递，调整优化孪生变分自编码器的参数，从而对由空间金字塔池化网络和孪生变分自编码器共同组成的非局部邻关系学习模型进行训练；

步骤五、利用训练好的非局部邻关系学习模型获得相邻层特征图样本对的隐空间向量对：

步骤501、将相邻层特征图样本对(X_i-1,X_i)输入已训练的非局部邻关系学习模型，通过其中的空间金字塔池化网络得到特征变化并展平后的一维向量对(X_i-1′,X_i′)；

步骤502、将一维向量对(X_i-1′,X_i′)输入已训练的孪生变分自编码，得到编码后对应的隐空间向量对(V_i1,V_i2)；

步骤六、利用同一样本的所有隐空间向量对计算深度网络在该样本识别时的各层级贡献度，进而计算所有样本的平均层级贡献度：

步骤601、利用隐空间向量对(V_i1,V_i2)来度量对应的相邻层特征图样本对(X_i-1,X_i)之间的信息增量R_i：

其中，n为向量V_i1、V_i2的长度，v_i1j∈V_i1,j＝1,2,…,n，v_i2j∈V_i2,j＝1,2,…,n；

步骤602、根据同一输入样本在待分析网络中所有相邻层特征图样本对之间的信息增量，计算得到待分析网络对该输入样本各层级贡献度，第i层网络的层级贡献度C_i为：

其中，l为待分析网络选定的中间层级数，R_i为第i层网络的特征图相比于前一层网络特征图的信息增量；

步骤603、将待分析网络第i层在数据集所有样本上的层级贡献度取平均值，便得到第i层的平均层级贡献度，进而可以获得待分析深度网络各层的平均层级贡献度。

2.按照权利要求1所述的一种基于非局部邻关系学习的深度神经网络层次分析方法，其特征在于：步骤401中孪生变分自编码器总损失函数L_T的计算公式为其中，L_TVAE为变分自编码器的基本损失，β表示KL散度项的权重系数；为孪生变分自编码器的跨层对齐损失，L_TCA＝|X_i-1′-D₂(E₁(X_i-1′))|+|X_i′-D₁(E₂(X_i′))|，E和D分别表示变分自编码器中的编码器和解码器；L_TDA为两个变分自编码器潜在多元高斯分布的Wasserstein距离，