[发明专利]用修改图像的生成器对图像分类器的输出进行合理性检查

权利要求书

1.一种用于对图像分类器（2）的输出进行合理性检查的方法（100），所述图像分类器将输入图像（1）分配给预先给定的分类的一个或多个类别（3a-3c），所述方法具有如下步骤：

• 利用所述图像分类器（2）来为所述输入图像（1）确定（110）到一个或多个类别（3a-3c）的分配；

• 利用预先给定的相关性评估功能（4）来确定（120）所述输入图像（1）的空间分辨的相关性评估（1a），所述空间分辨的相关性评估说明了：所述输入图像（1）的哪些部分（1b、1c）在多大程度上有助于到一个或多个类别（3a-3c）的分配；

• 生成器（6）被训练（130）来生成所述输入图像（1）的修改（7），所述修改根据预先给定的成本函数就如下优化目标而言尽可能好：所述修改

o 一方面在通过所述相关性评估功能（4）归类为对于类别分配来说不那么相关的部分（1b）中尽可能少地被改变，并且

o 另一方面由所述图像分类器（2）与所述输入图像（1）不一样地来分类；

• 依据所述训练（130）的结果和/或依据由经训练的生成器（6）提供的修改（7），确定（140）所述空间分辨的相关性评估（1a）的质量量度（1a*）和/或所述相关性评估功能（4）的质量量度（4*）。

2.根据权利要求1所述的方法，其中选择（131）如下生成器（6），所述生成器被构造为将输入空间（6a）中的输入z转换成修改（7），而且其中表征所述生成器（6）的行为的参数（6b）针对所述修改（7）在所述优化目标方面被优化。

3.根据权利要求2所述的方法（100），其中附加地所述输入z针对所述修改（7）在所述优化目标方面被优化（131a）。

4.根据权利要求2至3中任一项所述的方法（100），其中基于最优参数（6b*）来确定（132）其它修改（7），其方式是：

• 从最优值（6b*）附近的随机分布中提取参数（6b）；和/或

• 基于其它初始值来重复对所述参数（6b）的优化。

5.根据权利要求1至4中任一项所述的方法（100），其中所述修改（7）由所述图像分类器（2）与所述输入图像（1）不一样地来分类的优化目标与被归类为对于所述类别分配来说不那么相关的部分（1b）尽可能少地被改变的优化目标相比恰好被加权（133）得高得使得所述修改（7）实际上由所述图像分类器（2）与所述输入图像（1）不一样地来分类。

6.根据权利要求1至5中任一项所述的方法（100），其中在由所述生成器（6）提供的修改（7）中，在所述输入图像（1）的通过所述相关性评估功能（4）归类为对于所述类别分配来说不那么相关的部分（1b）中的改变在事后被阻止（134）。

7.根据权利要求1至6中任一项所述的方法（100），其中所述生成器（6）关于所述输入图像（1）方面从针对先前的输入图像（1'）已经被训练的生成器（6'）出发来被训练（135）。

8.根据权利要求1至7中任一项所述的方法（100），其中所述输入图像（1）依据所述空间分辨的相关性评估（1a）与预先给定的阈值的比较来以二元方式被划分（121）成对于所述类别分配来说不那么相关的部分（1b）和对于所述类别分配来说更相关的部分（1c）。

9.根据权利要求1至8中任一项所述的方法（100），其中作为对所述生成器（6）在所述训练（130）完成之后提供（160）仍被分配给与所述输入图像（1）相同的一个或多个类别（3a-3c）的修改（7）的响应，

• 所述方法（100）以这种修改（7）作为输入图像（1）来重新开始（170）；和/或

• 所述方法（100）以用于划分所述输入图像（1）的如下阈值来重新开始（180），所述阈值引起将所述输入图像（1）的更大的部分（1c）归类为对于所述类别分配来说更相关。