[发明专利]模型处理方法、装置、介质和计算设备

权利要求书

1.一种模型处理方法，包括：

通过预设方式得到待处理的模型，其中，得到的所述待处理的模型为黑盒模型；

提供处理所述模型的信息，基于所述信息至少能够得到处理任务的目标和与所述处理任务相关的数据集；

根据提供的信息配置包括多个执行不同处理策略的处理子任务的处理方案，其中，所述多个不同的处理策略均用于测评模型的安全性，多个不同处理策略包括多个不同的攻击策略，所述多个不同的攻击策略采用不同的攻击算法信息和攻击参数信息，对应构建的对抗样本不同；

执行所述处理方案以得到所述模型的处理结果，其中，所述处理结果至少包括所述模型的安全性测评结果，具体包括：

执行各个处理子任务以得到相应的子任务处理结果；

基于各个子任务处理结果及其对应的权值得到最终的所述模型的安全性测评结果。

2.如权利要求1所述的模型处理方法，其中，提供处理所述模型的信息包括：

提供处理所述模型的应用场景信息；

根据所述应用场景信息提供至少一个处理任务的目标；

提供与所述处理任务相关的用于输入所述模型的数据集。

3.如权利要求2所述的模型处理方法，其中，根据提供的信息配置处理方案，其中，所述处理方案至少包括攻击算法信息和攻击参数信息，包括：

根据提供的应用场景信息和每一处理任务的目标，配置包括多个执行不同处理策略的处理子任务的处理方案。

4.如权利要求1所述的模型处理方法，其中，在得到所述模型的安全性测评结果之后，所述方法还包括：

根据所述模型的安全性测评结果分析得到所述模型的防御方案。

5.如权利要求4所述的模型处理方法，其中，所述防御方案包括在将数据集输入所述模型之前，对数据集进行重构或去噪处理。

6.如权利要求5所述的模型处理方法，其中，分析得到所述模型的防御方案之后，所述方法还包括：

根据在先的处理方案和所述防御方案重新配置包括所述防御方案的防御效果测试处理方案；

执行所述防御效果测试处理方案，得到防御效果测试处理方案的处理结果；

将所述防御效果测试处理方案的处理结果与执行在先的处理方案得到的模型的安全性测评结果对比，确定所述防御方案的防御效果。

7.一种模型处理装置，包括：

模型读取模块，被配置为通过预设方式得到待处理的模型，其中，得到的所述待处理的模型为黑盒模型；

信息提供模块，被配置为提供处理所述模型的信息，基于所述信息至少能够得到处理任务的目标和与所述处理任务相关的数据集；

方案配置模块，被配置为根据提供的信息配置包括多个执行不同处理策略的处理子任务的处理方案，其中，所述多个不同的处理策略均用于测评模型的安全性，多个不同处理策略包括多个不同的攻击策略，所述多个不同的攻击策略采用不同的攻击算法信息和攻击参数信息，对应构建的对抗样本不同；

执行模块，被配置为执行所述处理方案以得到所述模型的处理结果，其中，所述处理结果至少包括所述模型的安全性测评结果，具体包括：

执行单元，被配置为执行各个处理子任务以得到相应的子任务处理结果；

结果计算单元，被配置为基于各个子任务处理结果及其对应的权值得到最终的所述模型的安全性测评结果。

8.如权利要求7所述的模型处理装置，其中，所述信息提供模块包括：

场景信息提供单元，被配置为提供处理所述模型的应用场景信息；

任务目标提供单元，被配置为根据所述应用场景信息提供至少一个处理任务的目标；

数据集提供单元，被配置为提供与所述处理任务相关的用于输入所述模型的数据集。

9.如权利要求8所述的模型处理装置，其中，所述方案配置模块还被配置为根据提供的应用场景信息和每一处理任务的目标，配置包括多个执行不同处理策略的处理子任务的处理方案。