[发明专利]用于识别图像中的干扰的方法和设备

说明书

用于识别图像中的干扰的由计算机实现的方法和设备，其中，根据图像确定针对来自所述图像的对象的类别（202），其中，通过预测函数、特别是人工神经网络根据所述图像确定针对所述对象的属性（206），其中，根据所述属性和所述类别确定（210），所述图像是否包含对于预测函数、特别是人工神经网络有敌意的干扰。

技术领域

本发明以用于特别是用人工神经网络处理图像的一种方法和一种设备为出发点。

背景技术

Y．Dong，H．Su，J．Zhu和F．Bao的Towards interpretable deep neural networksby leveraging adversarial examples（预印本网站arXiv：1708.05493，2017）公开了一些方面，这些方面应当用于理解人工神经网络的输出。为此，考虑所述人工神经网络的内部状态，所述内部状态在分析包含对人工神经网络有敌意的干扰的图像时出现。在待分析的图像中的对人工神经网络有敌意的干扰用于实现所述人工神经网络的可信赖的输出，所述输出是该图像的创造者所打算的但是相对于该图像中示出的内容是错误的。例如，在图像中，在观察所述图像时对于人眼而言难以识别或者不可识别的改变（例如噪声）被集成到待分析的图像中，由于所述改变，该图像被所述人工神经网络错误地分类。

值得期待的是，可靠地识别出图像中的这类干扰。

发明内容

这通过独立权利要求的主题实现。

在用于图像识别的、基于机器学习的方法中，向输入分配输出，其中，X表示输入空间，而Y表示输出空间。

用于图像识别的模型包括兼容性函数和预测函数，其中，。

预测函数包括模型参数向量w，兼容性函数F表示在给定参数向量的情况下对的兼容性的度量。

下面借助于人工神经网络的例子描述所述方法。所述方法可以应用于每个参数化的并且对w可导的函数。

从具有和的N个输入/输出对的训练集合出发，为了训练所述模型，执行具有以下目标的预测：学习结构化联合嵌入（StructuredJoint Embedding）函数，其方式是，使来自经验的风险最小化，其中，对成本进行测量，当表征适用的类别时，对于预测，所述成本出现。例如，对于，使用，和对于，使用，即0/1损失。

对于输入空间，例如使用输入嵌入，即，将输入空间映射到经变换的输入上的映射。对于输出空间，例如使用输出嵌入，即，将经变换的输出映射到输出空间Y上的映射。对于所述模型的训练，在这种情况下，可以使用经变换的输入和经变换的输出。

属性标签嵌入（Attribute Label Embedding）是一种确定标签嵌入的可能性。对于输出嵌入，从数量E个属性出发，所述数量E个属性描述数量C个类别。值表示属性对类别y的所属性的度量。逐行上下相叠地布置，所有C个类别Y的表示针对属性A的维度的输出嵌入矩阵。

如果参数向量w根据输入嵌入的维度D和根据输出嵌入的维度E而被表示为D×E矩阵W，则所述兼容性函数可根据输入嵌入和输出嵌入而被表示为。

例如，通过二进制值设定属性是否属于类别。替代二进制值的使用，可以使用来自于连续的值区域的信任值，所述连续的值区域连续地说明所属性的度量。从以下数据组出发——在该数据组中包含特征性图像的集合，例如在被监视的学习中向值分配二进制值（即{0，1}）或者来自所述连续的值区域的值。

以下所描述的方面不限于被监视的学习，而是也可以与未被监视的或者分等级的学习相关联地、特别是以文本为基础地加以应用。