[发明专利]评估人脸识别模型、针对图像的分类模型的方法及装置

说明书

本说明书实施例提供一种评估人脸识别模型、针对图像的分类模型的方法及装置，在评估人脸识别模型的方法中，获取样本集。将样本集中任意的第一样本中的两幅人脸图像，输入预先训练的人脸识别模型，以预测第一比对结果。针对两幅人脸图像中任意的第一人脸图像，采用热力图生成方法，基于第一比对结果以及第一人脸图像，生成人脸热力图。根据人脸热力图，在第一人脸图像中确定扰动区域。采用扰动方法，对扰动区域进行扰动，得到扰动后的第一人脸图像。将扰动后的第一人脸图像以及另一幅人脸图像，输入人脸识别模型，以预测第二比对结果。根据样本集中各样本的第一比对结果和第二比对结果，确定人脸识别模型的鲁棒性评估结果。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种评估人脸识别模型、针对图像的分类模型的方法及装置。

背景技术

对于待发布上线的机器学习模型(如，人脸识别模型或者针对图像的分类模型)，为了确保其具有较高的容错能力，通常需要对模型的鲁棒性进行评估。

传统技术中，通常依赖人工经验，构建各种各样的评估场景，并在人工构建的场景下对模型的鲁棒性进行评估。

因此，需要提供一种更准确、效率更高的模型鲁棒性评估方法。

发明内容

本说明书一个或多个实施例描述了一种评估人脸识别模型、针对图像的分类模型的方法及装置，可以提高模型鲁棒性评估的准确性和效率。

第一方面，提供了一种评估人脸识别模型的方法，包括：

获取样本集；所述样本集的每个样本包括两幅人脸图像；

将所述样本集中任意的第一样本中的两幅人脸图像，输入预先训练的人脸识别模型，以预测第一比对结果；其中，所述第一比对结果指示所述两幅人脸图像相一致的概率；

针对所述两幅人脸图像中任意的第一人脸图像，采用热力图生成方法，基于所述第一比对结果以及所述第一人脸图像，生成人脸热力图；其中，所述人脸热力图示出所述第一人脸图像中各个区域对于所述第一比对结果的敏感度；

根据所述人脸热力图，在所述第一人脸图像中确定扰动区域；

采用扰动方法，对所述扰动区域进行扰动，得到扰动后的第一人脸图像；

将所述扰动后的第一人脸图像以及另一幅人脸图像，输入所述人脸识别模型，以预测第二比对结果；其中，所述第二比对结果指示所述扰动后的第一人脸图像与所述另一幅人脸图像相一致的概率；

根据所述样本集中各样本的第一比对结果和第二比对结果，确定所述人脸识别模型的鲁棒性评估结果。

第二方面，提供了一种评估针对图像的分类模型的方法，包括：

获取样本集；所述样本集的每个样本包括一幅图像；

将所述样本集中任意的第一样本中的图像，输入预先训练的分类模型，以预测第一分类结果；所述第一分类结果指示所述图像属于目标分类的概率；

采用热力图生成方法，基于所述第一分类结果以及所述图像，生成所述图像的热力图；其中，所述热力图示出所述图像中各个区域对于所述第一分类结果的敏感度；

根据所述热力图，在所述图像中确定扰动区域；

采用扰动方法，对所述扰动区域进行扰动，得到扰动后的图像；

将所述扰动后的图像输入所述分类模型，以预测第二分类结果；所述第二分类结果指示所述扰动后的图像属于目标分类的概率；

根据所述样本集中各样本的第一分类结果和第二分类结果，确定所述分类模型的鲁棒性评估结果。

第三方面，提供了一种评估人脸识别模型的装置，包括：