[发明专利]模型的后门检测方法、装置、介质和计算设备有效
| 申请号： | 202011418502.8 | 申请日： | 2020-12-07 |
| 公开（公告）号： | CN112257816B | 公开（公告）日： | 2021-09-21 |
| 发明（设计）人： | 张旭东;萧子豪;董胤蓬;朱建威;唐家渝;田天 | 申请（专利权）人： | 北京瑞莱智慧科技有限公司 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62 |
| 代理公司： | 北京箴思知识产权代理有限公司 11913 | 代理人： | 李春晖 |
| 地址： | 100084 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种模型的后门检测方法、装置、介质和计算设备。该方法包括：提供用于检测后门的材料，其中，所述材料至少包括用于检测模型是否存在后门的检测样本集；基于所述检测样本集对所述模型的每一类别的输出进行搜索，以得到针对所述模型的每一类别的输出的多个还原结果，其中，所述还原结果用于表征基于一个或多个同类别检测样本，使所述模型的输出结果出错的修改量；根据所述模型的不同类别的输出的还原结果确定所述模型是否存在后门。根据本发明的技术方案，可以采用任何样本检测模型是否存在后门，而不必须是训练模型时使用的样本，给用户带来了更加方便的体验。且仅需提供输入输出反馈，无需模型具体结构和参数，保护了用户知识产权。 | ||
| 搜索关键词： | 模型 后门 检测 方法 装置 介质 计算 设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京瑞莱智慧科技有限公司，未经北京瑞莱智慧科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011418502.8/，转载请声明来源钻瓜专利网。
