[发明专利]一种优化决策边界增强深度神经网络鲁棒性的图像分类方法在审
| 申请号: | 202110133058.3 | 申请日: | 2021-01-29 |
| 公开(公告)号: | CN112784915A | 公开(公告)日: | 2021-05-11 |
| 发明(设计)人: | 刘波;杜宾 | 申请(专利权)人: | 北京工业大学 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 北京思海天达知识产权代理有限公司 11203 | 代理人: | 张慧 |
| 地址: | 100124 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 优化 决策 边界 增强 深度 神经网络 鲁棒性 图像 分类 方法 | ||
1.一种优化决策边界增强深度神经网络鲁棒性的图像分类方法,其特征包括以下步骤中的以下部分:
步骤1:搭建网络,输入为图片;
步骤2:训练网络,根据训练完成得到的参数构建决策域模型;
步骤3:利用构建的决策域模型生成对抗样本;
步骤4:使用对抗样本训练步骤1搭建的网络,使得网络的决策边界向对抗样本方向移动,使得网络对扰动的敏感性降低,将待分类图像输入得到的神经网络模型进行分类。
2.根据权利要求1所述的一种优化决策边界增强深度神经网络鲁棒性的图像分类方法,其特征在于:步骤1所述的网络结构具体如下,
网络结构为依次包括第一卷积层,第一最大池化层,直到第M1卷基层,第M1最大池化层,之后依次包括第一全连接层,第二全连接层,直到第M2全连接层,其中M1表示卷积层和池化层的数量,M1为零到正无穷中的任意正整数,M2表示全连接层的数量,M2为大于2的任意正整数;M1优选为2,M2优选为3。
3.根据权利要求1所述的一种优化决策边界增强深度神经网络鲁棒性的图像分类方法,其特征在于:步骤2所述的全连接层决策域模型分为三个部分:输入层决策域模型、输出层决策域模型与中间层决策域模型,其中所述的输入层决策域模型对应第一全连接层,输出层决策域模型对应第M2全连接层,中间层决策域模型对应其他全连接层;
输入层决策域模型是由第一全连接层中所有节点对应的决策边界共同构成的,构建输入层决策域模型的过程为:一个节点激活后得到一个判别式,该判别式对输入空间进行一次划分,遍历第一全连接层的每一个节点,不断对输入空间进行划分,最终得到若干个区域,其中,令一个节点的激活函数等于0就得到该节点的判别式,判别式对应的超平面就是决策边界,输入空间为第M1最大池化层的输出对应的值域;节点权重由网络预训练得到,全连接层参数包括权重矩阵W以及阈值B;使用t表示对应的层数,对应层权重为wt(wt∈W),阈值为bt(bt∈B),第t层的节点数为Nt,用jt表示第t层第j个节点,则第t层第j个节点的权重为阈值为
中间层决策域模型的构建过程为:进一步划分前一层得到的空间域,具体划分方法为,根据当前层中每一个节点激活后得到的判别式,对前一层得到的空间域进一步划分,遍历当前全连接层的每一个节点,不断对前一层得到的空间域进行划分,最终得到若干个区域;
输出层决策域模型用于进行类别划分,构建过程为:对于n分类任务,第M2全连接层有n个节点,通过这n个节点得到每个类别对应的区域,其中,第i个类别对应的区域的边界条件由n-1个不等式构成,具体如下:
其中,表示第M2全连接层第l个节点的输出函数;
输出层决策域模型接受最后一个中间层输出的所有不等式组以及相应的输出函数作为本层的输入,并使用本层节点的参数,权重和阈值来计算本层产生的决策边界。
4.根据权利要求1所述的一种优化决策边界增强深度神经网络鲁棒性的图像分类方法,其特征在于:对抗样本的生成过程如下,
将训练集与测试集中的图片x输入步骤1构建的网络中,第M1个最大池化层的对应输出为x0,遍历所有x0,求出其所在决策域中离x0最近的边界,以及距边界的距离d,当d小于设定的阈值θ时,得到干扰项p=d+ε,其中,ε表示一个足够小的随机数;然后使用反卷积得到p在输入维度下的p',以构建对抗样本x'=x+p'。
5.根据权利要求1所述的一种优化决策边界增强深度神经网络鲁棒性的图像分类方法,其特征在于:在构建决策域模型之后还可以进行决策域模型验证,具体利用决策域与步骤1构建的网络对样本分类机型一致性评价,达到预设要求后,则利用决策域模型生成对抗样本,否则重新构建决策域模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110133058.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有降低失真功能的音圈
- 下一篇:一种钎焊料加入装置和方法





