[发明专利]用于训练模型的方法和装置在审
申请号: | 202111517877.4 | 申请日: | 2021-12-10 |
公开(公告)号: | CN114186097A | 公开(公告)日: | 2022-03-15 |
发明(设计)人: | 黄军;何森森;程军 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/75 | 分类号: | G06F16/75;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 训练 模型 方法 装置 | ||
1.一种用于训练模型的方法,包括:
获取训练数据、以及获取所述训练数据的真实标签;
采用初始视频分类模型预测所述训练数据的预测标签;
采用所述真实标签与所述预测标签构建第一损失函数;
采用所述第一损失函数训练所述初始视频分类模型,并得到训练完成的目标视频分类模型,其中,在第一训练阶段,采用第一学习率训练所述初始视频分类模型,以及在第二训练阶段,采用第二学习率训练所述初始视频分类模型。
2.根据权利要求1所述的方法,其中,所述第一学习率基于训练进程动态确定,所述第二学习率基于训练进程动态确定。
3.根据权利要求1所述的方法,其中,所述初始视频分类模型为卷积神经网络模型,所述初始视频分类模型包括归一化层,所述方法包括:
针对所述初始视频分类模型中的每一层卷积层,将该卷积层的输出数据经过所述归一化层的处理后,输入该卷积层的下一层卷积层进行数据处理。
4.根据权利要求1所述的方法,其中,所述采用所述真实标签与所述预测标签构建第一损失函数,包括:
对所述预测标签进行标签平滑处理;
采用经过标签平滑处理后的预测标签与所述真实标签构建所述第一损失函数。
5.根据权利要求1所述的方法,其中,所述还方法包括:
采用预先训练好的教师模型,预测所述训练数据的实际标签;
采用所述预测标签与所述实际标签构建第二损失函数;
所述采用所述第一损失函数训练所述初始视频分类模型,并得到训练完成的目标视频分类模型,包括:
采用所述第一损失函数以及所述第二损失函数共同训练所述初始视频分类模型,并得到所述目标视频分类模型。
6.一种视频分类方法,包括:
获取待分类的视频;
采用目标视频分类模型对所述待分类的视频进行分类,其中,所述目标视频分类模型基于如权利要求1-5之一所述的方法训练得到。
7.一种用于训练模型的装置,包括:
第一获取单元,被配置为获取训练数据、以及获取所述训练数据的真实标签;
第一预测单元,被配置为采用初始视频分类模型预测所述训练数据的预测标签;
第一构建单元,被配置为采用所述真实标签与所述预测标签构建第一损失函数;
第一训练单元,被配置为采用所述第一损失函数训练所述初始视频分类模型,并得到训练完成的目标视频分类模型,其中,在第一训练阶段,采用第一学习率训练所述初始视频分类模型,以及在第二训练阶段,采用第二学习率训练所述初始视频分类模型。
8.根据权利要求7所述的装置,其中,所述第一学习率基于训练进程动态确定,所述第二学习率基于训练进程动态确定。
9.根据权利要求7所述的装置,其中,所述初始视频分类模型为卷积神经网络模型,所述初始视频分类模型包括归一化层,所述装置包括:
归一化单元,被配置为针对所述初始视频分类模型中的每一层卷积层,将该卷积层的输出数据经过所述归一化层的处理后,输入该卷积层的下一层卷积层进行数据处理。
10.根据权利要求7所述的装置,其中,所述第一构建单元,包括:
标签处理单元,被配置为对所述预测标签进行标签平滑处理;
第一构建模块,被配置为采用经过标签平滑处理后的预测标签与所述真实标签构建所述第一损失函数。
11.根据权利要求7所述的装置,其中,所述还装置包括:
第二预测单元,被配置为采用预先训练好的教师模型,预测所述训练数据的实际标签;
第二构建单元,被配置为采用所述预测标签与所述实际标签构建第二损失函数;
所述第一训练单元,包括:
第二训练单元,被配置为采用所述第一损失函数以及所述第二损失函数共同训练所述初始视频分类模型,并得到所述目标视频分类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111517877.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种防火门喷塑装置
- 下一篇:高精地图生成方法、相关装置及计算机程序产品