[发明专利]一种边-云协同的深度神经网络模型训练方法在审
申请号: | 202110306836.4 | 申请日: | 2021-03-23 |
公开(公告)号: | CN113033653A | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 田贤忠;朱娟;许婷 | 申请(专利权)人: | 浙江工业大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 杭州斯可睿专利事务所有限公司 33241 | 代理人: | 王利强 |
地址: | 310014 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 协同 深度 神经网络 模型 训练 方法 | ||
1.一种边-云协同的深度神经网络模型训练方法,其特征在于,所述方法包括如下步骤:
步骤1:中心云资源丰富,存有分类广泛且全面的海量数据,这些数据均经过有效标记,十分适合普适化模型的训练,首先根据任务类型选取输入数据集用来进行模型训练,将这些数据定义为input_c;
步骤2:根据任务的类型选取深度神经网络模型框架,将选取的神经网络模型框架定义为Model_pre;
步骤3:将input_c按比例k:1划分为训练集train_c和测试集validate_c;
步骤4:选择或定义一个当前网络的误差损失函数lossFunction_c,选择或定义一个适合当前网络的优化器optimizer_c,并选择一个迭代次数epoch_c,开始Model_pre的迭代优化训练;
步骤5:首先随机初始化Model_pre中的各个参数;
步骤6:在train_c数据集上进行Model_pre的优化训练,并用lossFunction_c计算其输出值与期望值的误差loss,随后将误差loss进行反向传播,并用optimizer_c进行Model_pre中各个参数的优化;
步骤7:结束一次网络训练后使用validate_c数据集对训练后的Model_pre进行性能测试,计算其测试准确率accuracy_c;
步骤8:将步骤6和步骤7重复epoch_c次循环,并选择保留accuracy_c最高的一组模型参数为最终在中心云预训练得到的普适化模型Model_pre;
步骤9:中心云将Model_pre发送给边缘云;
步骤10:边缘云根据任务类型选取输入数据集用来进行模型训练,该数据集是存储在边缘云的个性化数据集,从处在这个边缘网络中的用户中收集得到,将这些数据定义为input_e;
步骤11:边缘云在Model_pre的基础上进行模型的微调和再训练,首先冻结Model_pre中第1层至第n-1层的参数,并根据input_e的特点调整最后一层全连接层的参数,将修改后的Model_pre定义为Model_e;
步骤12:将input_e按比例k:1划分为训练集train_e和测试集validate_e;
步骤13:选择或定义一个适合当前网络的误差损失函数lossFunction_e,选择或定义一个适合当前网络的优化器optimizer_e,并选择一个合适的迭代次数epoch_e,开始Model_e的迭代优化训练;
步骤14:在train_e数据集上进行Model_e的优化训练,并用lossFunction_e计算其输出值与期望值的误差loss,随后将误差loss进行反向传播,并用optimizer_e进行Model_e中各个参数的优化;
步骤15:结束一次网络训练后使用validate_e数据集对训练后的Model_e进行性能测试,计算其测试准确率accuracy_e;
步骤16:将步骤14和步骤15重复epoch_e次循环,并选择保留accuracy_e最高的一组模型参数为最终在边缘云经过微调和再训练得到的个性化模型Model_e;
步骤17:结束。
2.如权利要求1所述的一种边-云协同的深度神经网络模型训练方法,其特征在于,所述步骤2中,针对图像识别任务,选取ResNet。
3.如权利要求1所述的一种边-云协同的深度神经网络模型训练方法,其特征在于,所述步骤2中,针对目标检测任务,选取Yolo。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110306836.4/1.html,转载请声明来源钻瓜专利网。