[发明专利]一种面向YOLO检测器的社交图片隐私保护方法和装置

权利要求书

1.一种面向YOLO检测器的社交图片隐私保护方法，其特征在于，所述方法通过对图片生成一个精心构建的对抗扰动，使得图片中的敏感信息无法被检测器获取，具体包括以下步骤：

设定图片中的敏感信息类；

将图片输入YOLO模型，获取敏感物体类的概率ρ；

使用敏感物体类的概率ρ对模型的损失函数loss赋值，并通过迭代调整损失函数值，直到该值低于设定的阈值T，生成对抗样本，迭代过程形式如下：

其中，x为原始输入样本，x'为生成的对抗样本，用x初始化x'，经过x初始化后，YOLO会把输入x划分成多个网格区域，b代表一个网格区域R中所有的物体框B，p为每一个物体框B所包含的概率分布，y_s是特定的敏感物体类标签，S表示敏感信息类别的总数，Pr表示在网格区域R中类标签为y_s的敏感物体的概率函数；其中，通过迭代调整损失函数值包括：使用敏感物体类的概率ρ对损失函数loss赋值后，判断损失函数值与设定阈值T的大小，当损失函数值大于设定阈值T时，采用Adam算法对损失函数值进行优化，直到该值小于设定阈值T；

将对抗样本输入YOLO模型进行检测。

2.根据权利要求1所述的面向YOLO检测器的社交图片隐私保护方法，其特征在于，所述获取敏感物体类的概率ρ包括：

获取YOLO模型产生的输出张量，输出张量中包含了所有可能的物体类与物体类的概率分布；

从敏感信息类标签表中获取敏感信息的类别号，通过类别号查找输出张量中该类别的物体是否存在，若存在，则获取概率分布中该敏感信息类的概率，否则不做任何处理；

选择YOLO对一个物体预测的最大概率作为敏感物体类的概率ρ。

3.根据权利要求1所述的面向YOLO检测器的社交图片隐私保护方法，其特征在于，所述设定的阈值T＜0.5。

4.一种面向YOLO检测器的社交图片隐私保护装置，其特征在于，包括：

敏感信息设定模块，用于设定图片中的敏感信息类；

敏感物体类概率获取模块，用于将图片输入YOLO模型，获取敏感物体类的概率ρ；

对抗样本生成模块，用于使用敏感物体类的概率ρ对模型的损失函数loss赋值，并通过迭代调整损失函数值，直到该值低于设定的阈值T，生成对抗样本，其中，所述对抗样本生成模块中迭代过程形式如下：

其中，x为原始输入样本，x'为生成的对抗样本，用x初始化x'，经过x初始化后，YOLO会把输入x划分成多个网格区域，b代表一个网格区域R中所有的物体框B，p为每一个物体框B所包含的概率分布，y_s是特定的敏感物体类标签，S表示敏感信息类别的总数，Pr表示在网格区域R中类标签为y_s的敏感物体的概率函数；所述对抗样本生成模块通过迭代调整损失函数值包括：使用敏感物体类的概率ρ对损失函数loss赋值后，判断损失函数值与设定阈值T的大小，当损失函数值大于设定阈值T时，采用Adam算法对损失函数值进行优化，直到该值小于设定阈值T；

检测模块，用于将对抗样本输入YOLO模型进行检测。

5.根据权利要求4所述的面向YOLO检测器的社交图片隐私保护装置，其特征在于，所述敏感物体类概率获取模块获取敏感物体类的概率ρ的实现过程包括：

获取YOLO模型产生的输出张量，输出张量中包含了所有可能的物体类与物体类的概率分布；

从敏感信息类标签表中获取敏感信息的类别号，通过类别号查找输出张量中该类别的物体是否存在，若存在，则获取概率分布中该敏感信息类的概率，否则不做任何处理；

选择YOLO对一个物体预测的最大概率作为敏感物体类的概率ρ。

6.一种计算机设备，其特征在于，所述设备包括：

一个或多个处理器；

存储器；以及

一个或多个程序，其中所述一个或多个程序被存储在所述存储器中，并且被配置为由所述一个或多个处理器执行，所述程序被处理器执行时实现如权利要求1-3中的任一项所述方法的步骤。