[发明专利]模型提取攻击的动态防御方法、系统、介质、设备及应用

权利要求书

1.一种模型提取攻击的动态防御方法，其特征在于，所述模型提取攻击的动态防御方法包括：

使用MLaaS，在线上部署待保护的智能模型；

引入差分隐私技术，设定隐私预算，应用到模型中；

模型收到请求后，生成正常应答，同时设定模型信息泄漏程度；

使用差分隐私技术生成噪声来扰动模型应答，生成带噪回复；

监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度；

计算模型信息泄漏程度的累计值；

将信息泄漏程度代入隐私预算的适应性分配算法；

将计算得到的新隐私预算输入给差分隐私技术；

引入差分隐私技术设定隐私预算∈＝1，将其应用到模型中；

模型收到请求后，包含有攻击查询，生成正常应答y，同时设定此时模型信息泄漏程度L＝0；

使用生成噪声来扰动模型应答，生成带噪回复，具体如下：

监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度L_y；

计算模型信息泄漏程度的累计值：

L＝L+L_y；

将信息泄漏程度代入隐私预算的适应性分配算法，如下：

其中L_t为用户可接受的模型信息泄漏的最大程度，p为当前部署环境下的范围参数；

将计算得到的新隐私预算输入给

2.一种计算机设备，其特征在于，所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行权利要求1所述的模型提取攻击的动态防御方法。

3.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行权利要求1所述的模型提取攻击的动态防御方法。

4.一种信息数据处理终端，其特征在于，所述信息数据处理终端用于实现权利要求1所述的模型提取攻击的动态防御方法。

5.一种实施权利要求1所述的模型提取攻击的动态防御方法的模型提取攻击的动态防御系统，其特征在于，所述模型提取攻击的动态防御系统包括：

智能模型部署模块，用于使用MLaaS，在线上部署待保护的智能模型；

差分隐私应用模块，用于引入差分隐私技术，设定隐私预算，应用到模型中；

正常应答模块，用于模型收到请求后，生成正常应答，同时设定此时模型信息泄漏程度；

带噪回复模块，用于使用差分隐私技术生成噪声来扰动模型应答，生成带噪回复；

信息泄漏程度对比模块，用于监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度；

累计值计算模块，用于计算模型信息泄漏程度的累计值；

适应性分配模块，用于将信息泄漏程度代入隐私预算的适应性分配算法；

差分隐私输入模块，用于将计算得到的新隐私预算输入给差分隐私技术；

查询请求模块，用于收到新的查询后继续动态防御。

6.一种网络安全终端，其特征在于，所述网络安全终端搭载权利要求5所述的模型提取攻击的动态防御系统。