[发明专利]基于在线深度学习的数据集自适应裁减方法有效
| 申请号: | 202110810438.6 | 申请日: | 2021-07-19 |
| 公开(公告)号: | CN113610226B | 公开(公告)日: | 2022-08-09 |
| 发明(设计)人: | 杨峰;吴超;纪程;周明亮 | 申请(专利权)人: | 南京中科逆熵科技有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06V10/764;G06V10/774;G06V10/82;G06V20/56;G06K9/62 |
| 代理公司: | 南京理工大学专利中心 32203 | 代理人: | 岑丹 |
| 地址: | 210000 江苏省南京市麒麟*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 在线 深度 学习 数据 自适应 裁减 方法 | ||
1.一种基于在线深度学习的数据集自适应裁减方法,其特征在于,包括:
根据采集的图像数据集确定神经网络架构;
使用KNN分类算法对图像数据集进行分类获得数据集类别标签;
强化模型根据数据集类别和神经网络层数、卷积核尺寸、已裁减通道数和剩余通道数识别待裁剪神经网络当前状态;
根据贪婪算法选择执行探索或者利用,其中探索指随机选择一种裁剪策略,利用指根据当前状态从Q表格选取Q值最大的动作;
根据选择的探索或利用选取相应的动作并执行;
神经网络进行预测及反向传播训练后计算奖励反馈值并将反馈值更新到Q表格。
2.根据权利要求1所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,所述神经网络架构包括卷积层、池化层、全连接 层三种隐层。
3.根据权利要求2所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,确定神经网络架构的具体方法为:将数据集输入神经网络,依次增加每种隐层的层数以及深度,直至神经网络收敛至预测结果的精度大于给定阈值。
4.根据权利要求1所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,所述Q表格用来保存强化学习的学习成果,表格纵轴为所有状态,横轴为所有动作,每个状态-动作栏目维护该状态-动作的Q值。
5.根据权利要求1所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,所述动作为若干种结构性裁减方式的组合,对卷积层的裁剪动作定义为对每个卷积核选择某一种核裁剪形状或者完全裁减该核,每次动作裁减一个卷积核,对全连接层的动作定义为对每个通道选择一种结构性裁减算法进行裁剪。
6.根据权利要求1所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,神经网络进行预测及反向传播训练后获得执行动作后的预测精度、神经网络内存开销、推理开销及训练开销,并对预测精度、神经网络内存开销、推理开销及训练开销加权组合获得奖励反馈值。
7.根据权利要求6所述的基于在线深度学习的数据集自适应裁减方法,其特征在于,将奖励反馈值加权叠加到Q表格中对应的状态-动作栏目中的Q值获得更新后的Q值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中科逆熵科技有限公司,未经南京中科逆熵科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110810438.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种线路连接器
- 下一篇:基于强化学习的多数据SSD中的闪存资源分配方法





