[发明专利]机器学习框架漏洞检测方法、系统、设备及可读存储介质

权利要求书

1.一种机器学习框架漏洞检测方法，其特征在于，包括以下步骤：

S1：根据预设API的参数配置要求，随机生成预设API的若干单层模型；

S2：将每个单层模型分别在若干机器学习框架中实现，得到不同机器学习框架对同一单层模型的实现结果；

S3：根据不同机器学习框架对同一单层模型的实现结果的差异，确定各机器学习框架是否存在框架漏洞及框架漏洞类型；

所述框架漏洞类型包括NaN输出漏洞、运算结果不一致漏洞及崩溃不一致漏洞；

所述S3的具体方法为：

当不同机器学习框架对同一单层模型的实现结果中，存在机器学习框架的输出结果为NaN时，则当前机器学习框架在该单层模型下存在NaN输出漏洞；

当不同机器学习框架对同一单层模型的实现结果中，存在任意两个机器学习框架对同一单层模型的实现结果之间的差值超过预设阈值时，则所有机器学习框架在该单层模型下存在运算结果不一致漏洞；

当不同机器学习框架对同一单层模型的实现结果中，存在部分机器学习框架正常进行，其余机器学习框架发生崩溃时，则发生崩溃的机器学习框架在该单层模型下存在崩溃不一致漏洞；

还包括以下步骤：

S4：针对无漏洞的单层模型，修改无漏洞的单层模型的模型权重与输入，得到若干修改后的单层模型；其中，无漏洞的单层模型为不同机器学习框架对同一单层模型的实现结果没有差异或者只存在精度误差造成的差异时的单层模型；

S5：将若干修改后的单层模型分别在若干机器学习框架中实现，得到不同机器学习框架对同一单层模型的实现结果，并根据不同机器学习框架对同一单层模型的实现结果的差异，确定各机器学习框架是否存在框架漏洞及框架漏洞类型；

S6：建立各框架漏洞类型的适应度函数，针对若干修改后的单层模型中的无漏洞的单层模型，计算各框架漏洞类型的适应度函数，选取适应度函数取值最优的单层模型更新S4中的无漏洞的单层模型；

S7：重复S4~S6至预设次数，或重复S4~S6至检测到框架漏洞。

2.根据权利要求1所述的机器学习框架漏洞检测方法，其特征在于，所述S4中修改无漏洞的单层模型的模型权重与输入的具体方法为：

向无漏洞的单层模型的模型权重与输入中均加入高斯噪声，得到修改后的单层模型，通过修改加入高斯噪声的大小，得到若干修改后的单层模型。

3.根据权利要求1所述的机器学习框架漏洞检测方法，其特征在于，所述S6中建立各框架漏洞类型的适应度函数的具体方法为：

针对NaN输出漏洞，适应度函数为机器学习框架的输出结果中最大值与最小值的差；针对运算结果不一致漏洞，适应度函数为不同机器学习框架的输出结果总数值差异的最大值。