[发明专利]一种图像处理的方法以及设备

权利要求书

1.一种图像处理的方法，其特征在于，包括：

获取待处理图像；

获取所述待处理图像中多个像素的评分值，第一像素的评分值是基于所述第一像素和预测结果之间的映射系数确定的，所述第一像素是所述多个像素中的任意一个像素，所述预测结果是目标图像识别模型对所述待处理图像的预测结果；

对评分值满足第一条件的所述像素的像素值进行扰动，以获取处理后的待处理图像；

将所述处理后的待处理图像作为所述目标图像识别模型的输入，以获取识别结果。

2.根据权利要求1所述的方法，其特征在于，所述识别结果包括第一置信度，所述方法还包括：

根据所述第一置信度获取所述待处理图像中是否包括后门行为触发条件trigger。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

将所述待处理图像作为所述目标图像识别模型的输入，以获取第二置信度；

所述根据所述第一置信度获取所述待处理图像中是否包括trigger，包括：

当所述第一置信度和所述第二置信度之间的差异超过第一阈值，确定所述待处理图像中包括trigger。

4.根据权利要求2所述的方法，其特征在于，所述第一置信度包括第三置信度和第四置信度，所述第三置信度是将第一处理后的待处理图像作为所述目标图像识别模型的输入后获取的，所述第四置信度是将第二处理后的待处理图像作为所述目标图像识别模型的输入后获取的，所述第一处理后的待处理图像和所述第二处理后的待处理图像，是对评分值满足所述第一条件的所述像素的像素值进行不同扰动后获取的，所述根据所述第一置信度获取所述待处理图像中是否包括trigger，包括：

当所述第三置信度和所述第四置信度之间的差异超过第二阈值，确定所述待处理图像中包括trigger。

5.根据权利要求2所述的方法，其特征在于，所述方法还包括：

将所述待处理图像作为所述目标图像识别模型的输入，以获取第二置信度；

所述根据所述第一置信度获取所述待处理图像中是否包括trigger，包括：

当多个所述第一置信度中的每个所述第一置信度和所述第二置信度之间的差异均小于第三阈值，确定所述待处理图像中不包括trigger，所述多个第一置信度是将多个所述处理后的待处理图像分别作为所述目标图像识别模型的输入后获取的，所述多个处理后的待处理图像是对评分值满足所述第一条件的所述像素的像素值进行不同扰动后获取的。

6.根据权利要求2所述的方法，其特征在于，所述待处理图像包括多个，所述方法还包括：

将每个所述待处理图像作为所述目标图像识别模型的输入，以获取多个第二置信度；

根据所述第一置信度获取所述待处理图像中是否包括trigger，包括：

根据第一待处理图像的第一置信度和所述第一待处理图像的第二置信度之间内的差异，获取目标值，所述第一待处理图像是所述多个待处理图像中的任意一个待处理图像；

对根据每个所述待处理图像获取的所述目标值进行异常值检测处理；

当全部所述目标值中存在异常值，确定多个所述待处理图像中存在包括trigger的待处理图像。

7.根据权利要求1至6任一项所述的方法，其特征在于，所述对评分值满足第一条件的所述像素的像素值进行扰动，以获取处理后的待处理图像，包括：

将前N个评分值最高的所述像素中的全部或者部分像素的像素值替换为目标取值，以获取所述处理后的待处理图像，所述N为正整数。

8.根据权利要求7所述的方法，其特征在于，所述目标取值是所述前N个评分值最高的所述像素中的全部或者部分像素的像素值的平均值。

9.根据权利要求2至6任一项所述的方法，其特征在于，所述方法还包括：

若根据所述第一置信度获取所述待处理图像中包括trigger，则根据所述第一置信度输出所述待处理图像的识别结果。