[发明专利]用于检测后门攻击的方法

权利要求书

1.一种用于检测后门攻击的方法，其特征在于，包括：

获取目标标签的CLS特征维度向量，并根据待检测模型的触发器输入向量和所述目标标签的CLS特征维度向量获取损失函数；

根据预设的初始后门特征向量和所述损失函数进行后门特征向量确定操作，直到所述损失函数收敛至最小值，将所述初始后门特征向量对应的后门特征向量确定为目标特征向量；其中，后门特征向量操作包括：获取所述初始后门特征向量对应的若干初始文本向量；将各所述初始文本向量输入待检测模型进行迭代训练，获得各所述初始文本向量分别对应的初始概率数值；根据所述损失函数利用各所述初始概率数值进行计算，直到迭代次数等于预设阈值，获得初始后门特征向量对应的后门特征向量，利用所述初始后门特征向量对应的后门特征向量对所述初始后门特征向量进行替换操作；

按照所述初始概率数值对所述目标特征向量中包括的多个文本向量进行降序排序，将前预设数量的文本向量确定为候选文本向量；

获取与各所述候选文本向量分别对应的候选文本序列；所述候选文本序列为包括对应的候选文本向量的文本序列；

将各所述候选文本序列输入所述待检测模型中，获得各所述候选文本序列分别对应的第一概率数值，所述第一概率数值用于表征候选文本序列包括目标标签的概率；

在存在大于预设概率数值的第一概率数值的情况下，确定所述待检测模型已被后门攻击。

2.根据权利要求1所述的方法，其特征在于，获取目标标签的CLS特征维度向量，包括：

从预设的第一文本序列集中进行随机采样，获得若干第一采样数据；

获取各所述第一采样数据的第一备选CLS特征实值向量；

根据各所述第一备选CLS特征实值向量确定所述待检测模型的目标CLS特征实值向量的实值变化范围；

从预设的第二文本序列集中进行随机采样，获得若干第二采样数据；

根据所述实值变化范围对第二采样数据的第二备选CLS特征实值向量进行预设次数的修改，获得修改后的第二采样数据；

将各所述修改后的第二采样数据输入所述待检测模型，获得各所述修改后的第二采样数据分别对应的差异性数值；

根据各所述差异性数值获取所述目标标签的CLS特征维度向量。

3.根据权利要求2所述的方法，其特征在于，获取各所述第一采样数据的第一备选CLS特征实值向量，包括：

对各所述第一采样数据进行可微编码变换，获得各所述第一采样数据分别对应的第一数据编码向量；

从待检测模型中获取特征表示模型；

将各所述第二数据编码向量输入所述特征表征模型，获得各所述第一采样数据分别对应的特征表示向量；

从各所述特征表示向量中获取各所述第一采样数据的第一备选CLS特征实值向量。

4.根据权利要求2所述的方法，其特征在于，根据各所述第一备选CLS特征实值向量确定所述待检测模型的目标CLS特征实值向量的实值变化范围，包括：

将各所述第一备选CLS特征实值向量中第I维度的最小值确定为目标CLS特征实值向量第I维度的极小值，将各所述第一备选CLS特征实值向量中第I维度的最大值确定为目标CLS特征实值向量第I维度的极大值；所述I为正整数，且I小于备选CLS特征实值向量中的最大维度值，同时I大于0；

将所述目标CLS特征实值向量第I维度的变化范围确定为所述目标CLS特征实值向量第I维度的极小值至所述目标CLS特征实值向量第I维度的极大值。

5.根据权利要求2所述的方法，其特征在于，根据所述实值变化范围对第二采样数据的第二备选CLS特征实值向量进行预设次数的修改，获得修改后的第二采样数据，包括：

根据所述目标CLS特征实值向量第I维度的变化范围对各所述第二备选CLS特征实值向量第I维度的向量值进行预设次数的修改，获得各所述第二采样数据分别对应的若干第I维修改采样数据。