[发明专利]提高针对“对抗示例”的鲁棒性的设备和方法

说明书

一种用于评估平滑分类器（g）的鲁棒性的计算机实现的方法，该平滑分类器（g）用于对从传感器（30）接收的传感器信号进行分类，该方法包括以下步骤：‑取决于所述传感器信号（S）提供输入信号（x），‑由平滑分类器（g）确定第一值（p_A），该第一值（p_A）表征所述输入信号（x）当受制于噪声时将被分类为属于预定义的多个类中的第一类（c_A）的概率，其中所述第一类（c_A）是最可能的类，‑由平滑分类器（g））确定第二值（p_B），该第二值（p_B）表征所述输入信号（x）当受制于所述噪声（特别是高斯噪声）时将被分类为属于所述预定义的多个类中的第二类（c_B）的概率，其中所述第二类（c_B）是第二最可能的类，‑依据所述第一值（p_A）处的标准高斯累积分布函数（）的第一逆值（）和/或取决于所述第二值（p_g）处的所述标准高斯累积分布函数（）的第二逆值（），确定鲁棒性值。

本发明涉及一种用于评估平滑分类器的鲁棒性的方法、一种用于评估平滑分类器的总体鲁棒性的方法、一种用于训练平滑分类器的方法、一种用于操作平滑分类器的方法、一种用于提供致动器控制信号的方法、一种计算机程序和一种机器可读存储介质。

现有技术

在例如像高度自动化驾驶之类的安全关键的应用中，重要的是取决于选择系统的哪些进一步动作对输入信号的分类和/或语义分割是正确的。

然而，众所周知，在没有适当的对策的情况下，例如像神经网络分类系统之类的分类器可以容易地被愚弄。众所周知，可以基于深度学习的分类器可能对小扰动敏感。为了在物理世界中部署此类系统，提供关于系统鲁棒性的证明是重要的。

“Certified Robustness to Adversarial Examples with DifferentialPrivacy”（arXiv预印本arXiv：1802.03471v3，2018，Mathias Lecuyer，VaggelisAtlidakis，Roxana Geambasu，Daniel Hsu， Suman Jana）和“Second-Order AdversarialAttack and Certifiable Robustness”（arXiv预印本arXiv：1809.03113v1，2018，Bai Li，Changyou Chen，Wenlin Wang，Lawrence Carin）公开了一种随机化技术，用于创建基于给定的分类器f创建可证明鲁棒的分类器，其将输入信号映射到类。分类器f在该上下文中也称为基础分类器。他们还为这样的平滑分类器呈现了可证明的鲁棒界限。

本发明的优点

平滑分类器g可以定义如下：当被呈现有输入x时，平滑分类器g在噪声下、特别是在输入信号x的随机高斯扰动下，返回基础分类器f最可能的预测：