[发明专利]基于神经元输出行为模式的深度学习测试用例的选择方法

权利要求书

1.一种基于神经元输出行为模式的深度学习测试用例的选择方法，其特征在于：包括以下步骤：

步骤1，通过提取对抗样本在模型中神经元状态，分析出不同对抗样本的神经元输出行为，找到输出行为的分布规律，总结出对抗样本的神经元输出行为的行为模式；

步骤1.1，提取测试用例的神经元状态；在深度神经网络中，输入测试用例后，神经元将会以实数值的形式将测试用例向后传播，每个神经元都对应一个实数值；设置激活函数的阈值，将实数值转化为判断是否激活的布尔值；获取每个神经元的输出布尔值作为神经元输出；将所有神经元输出组成一个高维向量，表示此测试用例下的神经元输出的行为；

步骤1.2，通过两种以上的对抗样本生成技术分别生成对抗样本；在深度神经网络中，输入生成的对抗样本，神经元将会以实数值的形式将生成的对抗样本向后传播，每个神经元都对应一个实数值；设置激活函数的阈值，将实数值转化为判断是否激活的布尔值；获取每个神经元的输出布尔值作为神经元输出；将所有神经元输出组成一个高维向量，表示此对抗样本下的神经元输出的行为；提取对抗样本下的神经元输出的行为构成对抗样本集；分析对抗样本集的神经元输出行为的分布规律，总结出对抗样本的神经元输出行为模式；

步骤2，根据总结的对抗样本的神经元输出行为模式对测试用例进行优先级排序；

步骤2.1，提取测试用例集中每一条测试用例的神经元输出行为，与步骤1得到的对抗样本的神经元输出行为模式进行对比，计算出每一条测试用例神经元输出行为与对抗样本的神经元输出行为模式的距离；

步骤2.2，利用步骤2.1中计算的每一条测试用例的神经元输出行为与对抗样本的神经元输出行为模式的距离对测试用例集进行优先级排序。

2.根据权利要求1所述基于神经元输出行为模式的深度学习测试用例的选择方法，其特征在于：步骤1.1中深度神经网络的神经元集合为N＝{n₁，n₂，…，n_k}，k表示神经元个数，n₁，n₂，…，n_k表示神经元，测试用例集合为T＝{x₁，x₂，…，x_m}，m表示测试用例个数，x₁，x₂，…，x_m表示测试用例，对于给定神经元n_i∈N，测试用例x_j∈T时，神经元通过激活函数ReLU之后的输出值为out(n_i，x_j)，使用布尔值a(n_i，x_j)来替代实际的神经元实际的输出值out(n_i，x_j)，其公式如下：

公式(1)中的t是决定神经元状态是否激活的阈值，根据激活函数ReLU，将阈值t设置为0；

利用得到的深度神经网络中的神经元输出状态，提取出对于给定一个测试用例x_p∈T时，其模型中对应的所有神经元状态组成一个高维向量B(x_p)来表示这条测试用例的神经元输出行为，B(x_p)的具体公式如下：

B(x_p)＝[a(n₁，x_p)，a(n₂，x_p)，…，a(n_k，x_p)] (2)。

3.根据权利要求2所述基于神经元输出行为模式的深度学习测试用例的选择方法，其特征在于：对抗样本的神经元输出行为模式：

其中，BP(TA)表示对抗样本的神经元输出行为模式，x_p表示测试用例，B(x_p)表示测试用例x_p的神经元输出行为，bp_k(TA)表示第k个神经元输出的行为模式。