[发明专利]图像模型检测方法、装置、电子设备及存储介质

说明书

一种图像模型检测方法，所述方法包括：获取原始图像样本；将所述原始图像样本输入训练好的主流图像分类模型；使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像；获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果；判断所述第一识别结果与所述第二识别结果是否一致；若所述第一识别结果与所述第二识别结果一致，确定所述待检测图像模型针对所述对抗图像的识别成功。本发明还提供一种图像模型检测装置、电子设备及存储介质。本发明能对深度神经网络模型的安全性进行检测。

技术领域

本发明涉及智能终端技术领域，尤其涉及一种图像模型检测方法、装置、电子设备及存储介质。

背景技术

目前，人工智能应用在了很多领域中，比如人脸识别、声纹识别等场景，其核心技术以机器学习或者深度学习为基础。

实践中发现，虽然人工智能给人们带来了很多便利，但是，仍存在一些潜在的隐患，比如，在图像分类领域，如果图片被人恶意篡改，但是模型识别错误了，这会给用户带来安全隐患。这说明现代深度神经网络是非常容易受到对抗样本的攻击的。这些对抗样本仅有很轻微的扰动，以至于人类视觉系统无法察觉这种扰动(图片看起来几乎一样)。这样的攻击会导致神经网络完全改变它对图片的分类，导致出现识别错误的问题。

可见，如何对深度神经网络模型的安全性进行检测是一个亟待解决的技术问题。

发明内容

鉴于以上内容，有必要提供一种图像模型检测方法、装置、电子设备及存储介质，能够对深度神经网络模型的安全性进行检测。

本发明的第一方面提供一种图像模型检测方法，所述方法包括：

获取原始图像样本；

将所述原始图像样本输入训练好的主流图像分类模型；

使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像；

获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果；

判断所述第一识别结果与所述第二识别结果是否一致；

若所述第一识别结果与所述第二识别结果一致，确定所述待检测图像模型针对所述对抗图像的识别成功。

在一种可能的实现方式中，所述使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像包括：

使用所述主流图像分类模型，基于动量的梯度迭代算法，计算扰动量；

对所述扰动量进行卷积平滑处理；

在所述原始图像上增加处理后的所述扰动量，获得对抗图像。

在一种可能的实现方式中，所述获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结果之前，所述方法还包括：

从用户端设备获取需要进行模型检测的待检测图像模型；

安装所述待检测图像模型；

将所述原始图像样本以及所述对抗图像分别输入至所述待检测图像模型。

在一种可能的实现方式中，所述使用所述主流图像分类模型，基于动量的梯度迭代算法，对所述原始图像样本进行对抗攻击，获得对抗图像之后，所述方法还包括：