[发明专利]用于深度神经网络的鲁棒加水印的系统和方法

权利要求书

1.一种用于给深度神经网络加水印的计算机实现的方法，其包括：

响应于未满足第一停止条件，执行包括以下各项的步骤：

将临时模型的一组临时模型参数初始化，所述一组临时模型参数从基本模型的一组基本参数初始化，所述基本模型包括先前训练的基本模型或来自先前迭代的基本模型；

从一组水印数据将一组初步的水印范例初始化；

直到满足第二停止条件，迭代包括以下各项的步骤：

通过基于使用所述临时模型和所述水印数据中的至少一些水印数据获得的验证损失进行反向传播来调整所述一组初步的水印范例的至少一些权重；以及

基于使用所述临时模型和具有经调整的权重的所述一组初步的水印范例获得的损失经由梯度下降来更新所述临时模型的所述一组临时模型参数中的参数中的至少一些；

将在满足所述第二停止条件后输出的所述一组初步的水印范例添加到一组边界水印范例；以及

使用利用所述基本模型和所述一组边界水印范例获得的损失来更新所述基本模型的所述基本参数中的至少一些；以及

响应于满足所述第一停止条件，输出具有一组最终基本参数的所述基本模型和所述一组边界水印范例。

2.根据权利要求1所述的计算机实现的方法，其中所述一组最终基本参数是基于使用利用所述基本模型和所述一组边界水印范例获得的所述损失更新的所述基本参数中的至少一些。

3.根据权利要求1所述的计算机实现的方法，其中所述第一停止条件包括完成第一预定次数的迭代。

4.根据权利要求3所述的计算机实现的方法，其中所述第二停止条件包括完成第二预定次数的迭代。

5.根据权利要求1所述的计算机实现的方法，其中更新所述基本模型的所述基本参数中的至少一些包括：

基于以下项生成掩模：(i)使用所述基本模型和一个或多个自然输入获得的一个或多个第一梯度，以及(ii)使用所述基本模型和所述一组边界水印范例获得的一个或多个第二梯度；以及

基于以下项经由掩模梯度来更新所述基本模型的所述基本参数中的至少一些：(i)掩模，(ii)使用所述基本模型和所述一组边界水印范例获得的损失，以及(iii)使用所述基本模型和所述一个或多个自然输入获得的损失。

6.根据权利要求5所述的计算机实现的方法，其中生成所述掩模包括：

基于所述一个或多个第一梯度来生成所述基本模型的基本参数的第一排序索引；

基于所述一个或多个第二梯度来生成所述基本模型的基本参数的第二排序索引；以及

将所述掩模生成为所述第一排序索引的至少一部分和所述第二排序索引的至少一部分的交点。

7.根据权利要求5所述的计算机实现的方法，其中所述基本模型的所述基本参数中的至少一些与所述基本模型的一个或多个层相关联。

8.根据权利要求7所述的计算机实现的方法，其中所述基本模型的所述一个或多个层包括所述基本模型的一个或多个最终层。

9.一种用于给深度神经网络加水印的计算机实现的方法，其包括：

获得临时模型的一组临时参数，所述一组临时参数是基于基本模型的一组基本参数生成的；

使用所述临时模型的所述一组临时参数来生成一组边界水印范例，所述一组边界水印范例将所述临时模型在一组水印数据上的识别损失最大化；以及

通过将所述一组边界水印范例嵌入到所述基本模型的一个或多个基本参数中来输出嵌入水印的基本模型。

10.根据权利要求9所述的计算机实现的方法，其中将所述一组边界水印范例嵌入到所述基本模型的所述基本参数中有助于所述嵌入水印的基本模型识别所述一组水印数据的能力，而不管所述嵌入水印的基本模型的后续微调如何。