[发明专利]用于改善相对于“对抗样本”的稳健性的方法和设备

权利要求书

1.一种用于产生通用数据信号干扰（）以生成被操纵的数据信号（x^adv）来迷惑第一机器学习系统（60）的方法，所述第一机器学习系统被设立用于确定所接收的一维或多维数据信号（x）的语义分段（y_cls），所述方法具有以下步骤：

a）确定训练数据组（D^train），所述训练数据组包括数据信号（x^(k)）和所属的所期望的语义分段（y^target,k）的对，

b）根据所述训练数据组（D^train）的数据信号（x^(k)）、所述所属的所期望的语义分段（y^target,k）以及加载有数据信号干扰（）的数据信号（x^(k)）的所估计的语义分段（f_θ）来生成所述数据信号干扰（）。

2.根据权利要求1所述的方法，其中，进行所述数据信号干扰（）的生成，使得所述数据信号干扰（）是周期性的。

3.根据以上权利要求中任一项所述的方法，其中，根据所述所属的数据信号（x^(k)）的所估计的语义分段（y^pred,k）来选择所述所期望的语义分段（y^target,k）。

4.根据权利要求3所述的方法，其中，根据所估计的语义值（y^pred_ij）是否采用可预给定的值（o）来选择所期望的语义值（y^target,k_ij）。

5.根据权利要求4所述的方法，其中，通过替代值替代所述所估计的语义值（y^pred_ij）采用所述可预给定的值（o）的位置（i，j）处的所期望的语义值（y^target,k_ij）。

6.根据权利要求5所述的方法，其中，所述替代值是替代位置（I'，j'）的所估计的语义值（y^pred_i'j'），所述替代位置在所述位置（i，j）附近。

7.根据权利要求3至6中任一项所述的方法，其中，当所述所估计的语义值（y^pred_ij）不采用所述可预给定的值（o）时，与所述所估计的语义值（y^pred_ij）相同地选择所述所期望的语义值（y^target,k_ij）。

8.根据以上权利要求中任一项所述的方法，其中，根据所述第一机器学习系统（60）的经加权的成本函数（）的函数值来进行所述数据信号干扰（）的生成，所述成本函数（）在加载有所述数据信号干扰（）的数据信号（x^(k)）的情况下并且对于所述所期望的语义分段（y^target,k）采用所述函数值。

9.根据权利要求8所述的方法，其中，从所允许的数据信号干扰（）的集合中选择所述数据信号干扰（），使得所述数据信号干扰（）在加载有所述数据信号干扰（）的数据信号（x^(k)）的情况下对于所述所期望的语义值（y^target,k）使所述成本函数（）在数值上最小化。

10.根据权利要求8或9和权利要求4所述的方法，其中，所述成本函数（）包括两个部分，所述两个部分中的一个部分表征在所述成本函数（）上的其所估计的语义值（y^pred_ij）采用所述可预给定的值（o）的位置（i，j）的部分，并且另一部分表征在所述成本函数（）上的其所估计的语义值（y^pred_ij）不采用所述可预给定的值（o）的位置（i，j）的部分，其中，可预给定地相互对所述两个部分加权。