[发明专利]全栈式的循环神经网络深度学习系统安全分析与检测方法

权利要求书

1.一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：

针对循环神经网络，采用包含数据敏感度分析测试、神经网络质量分析测试和神经网络部署测试的三个深度学习系统全生命周期的分析检测步骤。

2.根据权利要求1所述的一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：

针对循环神经网络进行变换、变异处理生成多个改变的神经网络，将测试数据输入到各个改变的神经网络中获得输出结果，根据所有输出结果处理获得变异率，通过测试数据在多个改变的神经网络中获得的变异率作为测试数据的敏感度参数；在各个神经网络的处理过程中计算获得覆盖率，利用覆盖率生成更多的测试用例；再将生成的测试用例输入到神经网络中获得错误率，以错误率作为质量参数；采用遗传算法对原始的测试数据进行变异，在遗传算法的每一轮演化中，通过收益函数对变异后的测试数据进行筛选以进行下一轮演化，最终获得不一致率大于预设一致阈值的变异后的测试数据，以测试数据输入到神经网络中以输出结果的错误率作为兼容性结果。

3.根据权利要求1所述的一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：循环神经网络中，神经网络质量分析采用但不限于神经网络权重变换、状态清零(State Clear)、状态重置(State Reset)、状态高斯变化(State GaussianFuzzing)、状态精度降低(State Precision Reduction)、门重置(Gate Reset)、门高斯变化(Gate Gaussian Fuzzing)、门精度降低(Gate Precision Reduction)来生成多个循环神经网络。

4.根据权利要求1所述的一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：循环神经网络中，将原始的神经网络转换构建成一个抽象状态转移模型。通过随机生成方式生成测试用例，将测试用例输入到原始的循环神经网络中，并通过神经网络的结果得到测试用例在抽象状态转移模型中覆盖到的状态与状态间的转移，从而计算测试用例在该抽象转移模型上的覆盖率，然后以覆盖率为导向以筛选有效的测试数据，将覆盖率提高的测试用例保留，将覆盖率未提高的测试用例删除，最后将保留的测试用例加入到测试数据中。

5.根据权利要求1所述的一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：循环神经网络中，用神经网络预测所有训练数据并得到隐层的所有输出值，利用区间近似方法为神经网络构建为一个马尔科夫模型，利用隐层的所有输出值所处的区间计算覆盖率，采用以下多种覆盖率方法的其中一种：

1)抽象状态的状态覆盖率；通过区间近似，将神经网络的输出结果划分到不同的区间，每个区间为一个抽象状态；

2)根据训练数据中抽象状态的覆盖频率统计带有权重的状态覆盖率；

3)超出抽象状态边界n步的覆盖率；当神经网络的输出结果超出所有状态的区间的最大值或者最小值，则表示该输出值超出了抽象状态边界；

4)抽象状态转移的覆盖率；计算抽象状态间转移的覆盖率；

5)根据训练数据中抽象状态转移的覆盖频率统计带有权重的转移覆盖率。

6.根据权利要求2所述的一种全栈式的循环神经网络深度学习系统安全分析与检测方法，其特征在于：所述的收益函数采用的基本收益函数、K-收益函数和目标收益函数中的其一。