[发明专利]一种面向YOLO检测器的社交图片隐私保护方法和装置

说明书

本发明提出了一种面向YOLO检测器的社交图片隐私保护方法和装置。所述方法通过对图片生成一个精心构建的对抗扰动，使得图片中的敏感信息无法被检测器获取。方法包括：设定图片中的敏感信息类；将图片输入YOLO模型，获取敏感物体类的概率ρ；使用敏感物体类的概率ρ对模型的损失函数loss赋值，并通过迭代优化损失函数，使损失函数的值低于预设的阈值T，从而生成有效的对抗样本；将对抗样本输入YOLO模型进行检测。本方法可成功使得YOLO目标检测器无法获取社交图片中的隐私信息。

技术领域

本发明属于网络空间安全和人工智能安全领域，具体涉及一种社交图片隐私保护方法，可以有效防御基于深度神经网络(DNNs)的YOLO(YouOnly Look Once)目标检测器的隐私窃取攻击。

背景技术

近年来，人工智能技术已广泛应用于各个领域，包括一些安全相关领域。然而，这也带来一系列的安全问题，其中一个重要的安全威胁就是大量用户隐私信息的泄露。随着社交平台的流行，许多用户热衷于将自己的照片分享到社交网站等社交平台。据统计，每天大约有上亿张图片被上传到社交网站，并且几乎每一个用户都曾在社交网站上传过自己的生活照片。在用户毫不知情的情况下，这些被上传到社交平台的个人生活照片很可能会被非法地用于人工智能系统(尤其是深度学习模型)的训练。更为严重的是，一些不法分子甚至会从用户上传的图片中提取出重要的敏感信息，如用户的面部特征、指纹、家庭成员、兴趣爱好等，从而造成用户隐私信息的泄露。在此类攻击中，首先，他们会利用目标检测器对图片中的信息进行提取和分析，获得其中重要的敏感信息，如用户兴趣爱好、家庭成员状况等；然后，基于上述提取出的敏感信息，这些不法分子可以向目标用户进行定向的广告推送以获得商业利益或作其他用途。对于用户而言，隐私信息泄露和不胜其烦的广告推送会严重地影响用户的信息安全和日常生活。

已有一些简单的图片隐私保护方法，包括：模糊化处理、添加噪声和马赛克等。这些简单的保护方法对于基于机器学习的图像检测系统的隐私窃取攻击收效甚微。先进的目标检测器，如YOLO，依然可以成功检测出经这些方法处理后的图片中的隐私信息。此外，目前还有两种更为复杂的图片隐私信息的保护方法：用户权限控制和图像加密。用户权限控制需要用户事先进行访问权限设置，该方法试图切断陌生人员接触敏感信息的途径，从源头实现用户隐私保护。然而这种方法会对用户的社交体验造成不必要的麻烦。图像加密技术虽然简单快速，但是频繁的图像加密、解密会浪费大量网络和计算机资源。因此，使用已有的社交图片保护方法难以有效地解决智能图像检测系统窃取隐私的问题。

发明内容

发明目的：针对目标检测器非法窃取用户社交图片中的隐私信息，已有的图片隐私保护方法不能有效地防御此类攻击，而且影响了用户的社交体验的问题，本发明提出一种基于对抗样本的社交图片隐私保护方法和装置，可成功使得YOLO目标检测器无法获取社交图片中特定的隐私信息。

技术方案：根据本发明的第一方面，提供一种面向YOLO检测器的社交图片隐私保护方法，所述方法通过对图片生成一个精心构建的对抗扰动，使得图片中的敏感信息无法被检测器获取，具体包括以下步骤：

设定图片中的敏感信息类；

将图片输入YOLO模型，获取敏感物体类的概率ρ；

使用敏感物体类的概率ρ对模型的损失函数loss赋值，并通过迭代调整损失函数值，直到该值低于设定的阈值T，生成对抗样本；

将对抗样本输入YOLO模型进行检测。

根据本发明的第二方面，提供一种面向YOLO检测器的社交图片隐私保护装置，包括：

敏感信息设定模块，用于设定图片中的敏感信息类；

敏感物体类概率获取模块，用于将图片输入YOLO模型，获取敏感物体类的概率ρ；

对抗样本生成模块，用于使用敏感物体类的概率ρ对模型的损失函数loss赋值，并通过迭代调整损失函数值，直到该值低于设定的阈值T，生成对抗样本；