[发明专利]一种用于神经网络模型测试的图像生成方法在审
| 申请号： | 202110000540.X | 申请日： | 2021-01-04 |
| 公开（公告）号： | CN112329908A | 公开（公告）日： | 2021-02-05 |
| 发明（设计）人： | 陈振邦;罗锦鉴;洪伟疆;刘美希 | 申请（专利权）人： | 中国人民解放军国防科技大学 |
| 主分类号： | G06N3/02 | 分类号： | G06N3/02;G06K9/62 |
| 代理公司： | 湖南兆弘专利事务所(普通合伙) 43008 | 代理人： | 胡君 |
| 地址： | 410073 湖*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 一种 用于 神经网络 模型 测试 图像 生成 方法 | ||
1.一种用于神经网络模型测试的图像生成方法，其特征在于，步骤包括：
S1. 激活神经元收集：给定目标神经网络模型一个预设输入，当所述预设输入在目标神经网络模型中进行传播计算时，收集处于激活状态的神经元，获取得到激活神经元集合；
S2. 激活神经元更新：按照预设更新规则对所述激活神经元集合进行更新，以使得所述激活神经元集合中处于激活状态的神经元在更新前后发生变化，得到更新后激活神经元集合；
S3. 图像生成：将所述更新后激活神经元集合作为约束条件，利用约束求解器进行图像生成，以生成符合所述更新后激活神经元集合约束的图像。
2.根据权利要求1所述的用于神经网络模型测试的图像生成方法，其特征在于：所述步骤S2中，采用随机方法对所述激活神经元集合进行更新，具体步骤包括：随机将未激活神经元添加至原始激活神经元集合中，和/或从原始激活神经元集合中随机删除指定数量的神经元，得到所述更新后激活神经元集合。
3.根据权利要求1所述的用于神经网络模型测试的图像生成方法，其特征在于：所述步骤S2中，采用启发式方法对所述激活神经元集合进行更新，具体步骤包括：分别收集未激活神经元集合与所述激活神经元集合中的敏感神经元，并将所述未激活神经元集合中的敏感神经元与所述激活神经元集合中的敏感神经元进行交换，得到所述更新后激活神经元集合。
4.根据权利要求3所述的用于神经网络模型测试的图像生成方法，其特征在于：具体将处于激活阈值边界附近预设范围的神经元作为所述敏感神经元。
5.根据权利要求1～4中任意一项所述的用于神经网络模型测试的图像生成方法，其特征在于：所述步骤S3中，具体将所述更新后激活神经元集合编码成对应的约束条件，按照编码成的约束条件调用约束求解器生成所需的图像。
6.根据权利要求5所述的用于神经网络模型测试的图像生成方法，其特征在于：所述约束条件具体为：所有激活神经元对应的ReLU函数输入大于0，所有未激活神经元对应的ReLU函数输入小于0。
7.根据权利要求1～4中任意一项所述的用于神经网络模型测试的图像生成方法，其特征在于，所述步骤S3后还包括步骤S4：将步骤S3中生成的图像输入到目标神经网络模型中进行测试，如果测试结果达到预设要求，得到所有生成的图像输出并退出，否则返回步骤S1以重新进行图像生成。
8.根据权利要求1～4中任意一项所述的用于神经网络模型测试的图像生成方法，其特征在于：所述步骤S3中具体使用SMT求解器进行图像生成。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学，未经中国人民解放军国防科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/202110000540.X/1.html，转载请声明来源钻瓜专利网。
