[发明专利]图像模型检测方法、装置、电子设备及存储介质

权利要求书

1.一种图像模型检测方法，其特征在于，所述方法包括：

获取原始图像样本；

将所述原始图像样本输入训练好的主流图像分类模型；

使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像；

获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果；

判断所述第一识别结果与所述第二识别结果是否一致；

若所述第一识别结果与所述第二识别结果一致，确定所述待检测图像模型针对所述对抗图像的识别成功。

2.根据权利要求1所述的方法，其特征在于，所述使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像包括：

使用所述主流图像分类模型，基于动量的梯度迭代算法，计算扰动量；

对所述扰动量进行卷积平滑处理；

在所述原始图像上增加处理后的所述扰动量，获得对抗图像。

3.根据权利要求1所述的方法，其特征在于，所述获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果之前，所述方法还包括：

从用户端设备获取需要进行模型检测的待检测图像模型；

安装所述待检测图像模型；

将所述原始图像样本以及所述对抗图像分别输入至所述待检测图像模型。

4.根据权利要求1所述的方法，其特征在于，所述使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像之后，所述方法还包括：

将携带有所述原始图像样本以及所述对抗图像的识别请求发送至用户端设备，其中，所述用户端设备安装有待检测图像模型，由所述用户端设备上的所述待检测图像模型对所述原始图像样本进行识别，获得第一识别结果，以及对所述对抗图像进行识别，获得第二识别结果。

5.根据权利要求1至4中任一项所述的方法，其特征在于，所述方法还包括：

若所述第一识别结果与所述第二识别结果不一致，确定所述待检测图像模型发生误判；

统计所述待检测图像模型发生误判的数量；

根据所述数量以及所述原始图像样本的总数量，计算所述待检测图像模型的准确率；

根据所述准确率，确定所述待检测图像模型的安全等级。

6.根据权利要求1至4中任一项所述的方法，其特征在于，所述获取原始图像样本之前，所述方法还包括：

从需要进行模型检测的用户端设备获取训练样本；

提取所述训练样本的样本特征；

将所述样本特征输入开源模型框架中进行训练，获得训练好的主流图像分类模型。

7.根据权利要求1至4中任一项所述的方法，其特征在于，所述获取原始图像样本之后，所述方法还包括：

对所述原始图像样本进行图片增强处理；

将经过图片增强处理后的所述原始图像样本输入训练好的主流图像分类模型。

8.一种图像模型检测装置，其特征在于，所述装置包括：

第一获取模块，用于获取原始图像样本；

输入模块，用于将所述原始图像样本输入训练好的主流图像分类模型；

生成模块，用于使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像；

第二获取模块，用于获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果；

判断模块，用于判断所述第一识别结果与所述第二识别结果是否一致；

确定模块，用于若所述第一识别结果与所述第二识别结果一致，确定所述待检测图像模型针对所述对抗图像的识别成功。