[发明专利]用于训练学习模型的方法、装置和计算设备在审
| 申请号: | 201910250563.9 | 申请日: | 2019-03-29 |
| 公开(公告)号: | CN110059802A | 公开(公告)日: | 2019-07-26 |
| 发明(设计)人: | 周俊 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
| 代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
| 地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 式样 计算设备 训练学习 浅层 学习 历史样本数据 初始化参数 关联性 | ||
1.一种用于训练学习模型的方法,包括:
接收当前流式样本数据;
基于所述当前流式样本数据对当前深度学习模型进行训练,其中,浅层学习模型的参数被用作所述当前深度学习模型的初始化参数,所述浅层学习模型是基于与所述当前流式样本数据具有关联性的历史样本数据训练得到的。
2.根据权利要求1所述的方法,其中,所述历史样本数据是所述当前流式样本数据之前的历史流式样本数据,所述浅层学习模型是基于所述历史流式样本数据在线训练得到的。
3.根据权利要求1所述的方法,其中,所述历史样本数据是离线样本数据,所述浅层学习模型是基于所述离线样本数据离线训练得到的。
4.根据权利要求1至3中任一项所述的方法,还包括:
在对所述当前深度学习模型训练结束,得到训练后的深度学习模型之后:
如果所述训练后的深度学习模型与所述当前深度学习模型相比性能得到提升,则将所述训练后的深度学习模型作为最新深度学习模型;
如果所述训练后的深度学习模型与所述当前深度学习模型相比性能未得到提升,则进行以下操作:
增加所述当前深度学习模型的隐藏层的层数,得到增加层数后的深度学习模型;
基于所述当前流式样本数据对所述增加层数后的深度学习模型进行训练,以得到新深度学习模型;
基于所述新深度学习模型与所述当前深度学习模型的性能比较结果,确定最新深度学习模型。
5.根据权利要求4所述的方法,其中,所述浅层学习模型的参数被用作所述增加层数后的深度学习模型的初始化参数。
6.根据权利要求4或5所述的方法,其中,所述基于所述新深度学习模型与所述训练后的深度学习模型的性能比较结果,确定最新深度学习模型,包括:
如果所述新深度学习模型与所述当前深度学习模型相比性能得到提升,则将所述新深度学习模型作为最新深度学习模型;
如果所述新深度学习模型与所述当前深度学习模型相比性能未得到提升,则将所述当前深度学习模型作为最新深度学习模型。
7.根据权利要求4至6中任一项所述的方法,还包括:
将所述最新深度学习模型和所述浅层学习模型进行加权,以得到最新学习模型。
8.一种用于训练学习模型的装置,包括:
接收单元,用于接收当前流式样本数据;
训练单元,用于基于所述当前流式样本数据对当前深度学习模型进行训练,其中,浅层学习模型的参数被用作所述当前深度学习模型的初始化参数,所述浅层学习模型是基于与所述当前流式样本数据具有关联性的历史样本数据训练得到的。
9.根据权利要求8所述的装置,其中,所述历史样本数据是所述当前流式样本数据之前的历史流式样本数据,所述浅层学习模型是基于所述历史流式样本数据在线训练得到的。
10.根据权利要求8所述的装置,其中,所述历史样本数据是离线样本数据,所述浅层学习模型是基于所述离线样本数据离线训练得到的。
11.根据权利要求8至10中任一项所述的装置,还包括评估单元,
其中,在所述训练单元对所述当前深度学习模型训练结束,得到训练后的深度学习模型之后:
如果所述训练后的深度学习模型与所述当前深度学习模型相比性能得到提升,则所述评估单元用于将所述训练后的深度学习模型作为最新深度学习模型;
如果所述训练后的深度学习模型与所述当前深度学习模型相比性能未得到提升,则:
所述训练单元还用于增加所述当前深度学习模型的隐藏层的层数,得到增加层数后的深度学习模型,并且基于所述当前流式样本数据对所述增加层数后的深度学习模型进行训练,以得到新深度学习模型;
所述评估单元用于基于所述新深度学习模型与所述当前深度学习模型的性能比较结果,确定最新深度学习模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910250563.9/1.html,转载请声明来源钻瓜专利网。





