[发明专利]用于检测后门攻击的方法在审
申请号: | 202211381185.6 | 申请日: | 2022-11-06 |
公开(公告)号: | CN116011448A | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 向涛;谢春龙;刘航呈;王浩;郭尚伟 | 申请(专利权)人: | 重庆大学 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06N3/04;G06N3/084 |
代理公司: | 北京康盛知识产权代理有限公司 11331 | 代理人: | 陶俊洁 |
地址: | 400044 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及自然语言处理模型安全技术领域,公开一种用于检测后门攻击的方法,包括:根据待检测模型的触发器输入向量和目标标签的CLS特征维度向量获取损失函数;直到损失函数收敛至最小值,将初始后门特征向量对应的后门特征向量确定为目标特征向量;按照初始概率数值对目标特征向量中包括的多个文本向量进行降序排序,将前预设数量的文本向量确定为候选文本向量;获取与各候选文本向量分别对应的候选文本序列;将各候选文本序列输入待检测模型中,获得各候选文本序列分别对应的第一概率数值,在存在大于预设概率数值的第一概率数值的情况下,确定待检测模型已被后门攻击。这样能够更准确的检测出待检测模型是否被后门攻击。 | ||
搜索关键词: | 用于 检测 后门 攻击 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆大学,未经重庆大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211381185.6/,转载请声明来源钻瓜专利网。