[发明专利]学生模型训练方法、装置、计算机设备及存储介质在审
| 申请号: | 202010812947.8 | 申请日: | 2020-08-13 |
| 公开(公告)号: | CN112749728A | 公开(公告)日: | 2021-05-04 |
| 发明(设计)人: | 杨振;黄申 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 张所明 |
| 地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 学生 模型 训练 方法 装置 计算机 设备 存储 介质 | ||
1.一种学生模型训练方法,其特征在于,所述方法包括:
获取教师模型对样本数据集中的多个样本数据分别进行预测得到的多个第一标签,一个第一标签用于表示一个样本数据的预测结果,所述教师模型由所述样本数据集训练得到;
根据所述教师模型,分别确定所述多个第一标签的可信度信息,所述可信度信息用于表示对应的第一标签的可信程度;
根据所述样本数据集、所述多个第一标签以及所述多个第一标签的可信度信息,对学生模型进行训练。
2.根据权利要求1所述的方法,其特征在于,所述根据所述教师模型,分别确定所述多个第一标签的可信度信息,包括:
对于任一样本数据,根据被设置为目标状态的所述教师模型,对所述样本数据进行目标次数的预测,所述目标状态用于指示所述教师模型中的至少一个神经节点被设置为失活状态,所述失活状态用于表示神经节点的输出为0;
根据所述样本数据被预测为所述第一标签的多个第一概率值,确定所述第一标签的可信度信息。
3.根据权利要求2所述的方法,其特征在于,所述根据被设置为目标状态的所述教师模型,对所述样本数据进行目标次数的预测,包括:
每次预测时,随机将所述教师模型中的至少一个神经节点设置为失活状态;
根据包括至少一个已设置为失活状态的神经节点的教师模型,对所述样本数据进行预测。
4.根据权利要求2所述的方法,其特征在于,所述根据所述样本数据被预测为所述第一标签的多个第一概率值,确定所述第一标签的可信度信息,包括:
根据所述样本数据被预测为所述第一标签的多个第一概率值,获取第二概率值,将所述第二概率值作为所述第一标签的可信度信息,所述第二概率值为所述多个第一概率值的方差。
5.根据权利要求1所述的方法,其特征在于,所述根据所述样本数据集、所述多个第一标签以及所述多个第一标签的可信度信息,对学生模型进行训练,包括:
根据所述多个第一标签的可信度信息,确定所述多个第一标签的标签权重;
根据所述样本数据集、所述多个第一标签以及所述多个第一标签的标签权重,对学生模型进行训练。
6.根据权利要求1所述的方法,其特征在于,所述获取教师模型对所述样本数据集中的多个样本数据分别进行预测得到的多个第一标签之前,所述方法还包括:
将所述样本数据集中的多个样本数据分别输入所述教师模型;
对于任一样本数据,根据所述教师模型对所述样本数据进行前项解码,得到所述样本数据的软标签,所述软标签用于表示所述样本数据被预测为不同标签的概率;
根据所述样本数据的软标签,确定概率最大的标签作为所述样本数据的第一标签。
7.根据权利要求1所述的方法,其特征在于,所述获取教师模型对所述样本数据集中的多个样本数据分别进行预测得到的多个第一标签之前,所述方法还包括:
根据所述样本数据集中的多个样本数据和所述多个样本数据已被标注的第二标签进行模型训练,得到所述教师模型。
8.一种学生模型训练装置,其特征在于,所述装置包括:
标签获取模块,用于获取教师模型对样本数据集中的多个样本数据分别进行预测得到的多个第一标签,一个第一标签用于表示一个样本数据的预测结果,所述教师模型由所述样本数据集训练得到;
信息确定模块,用于根据所述教师模型,分别确定所述多个第一标签的可信度信息,所述可信度信息用于表示对应的第一标签的可信程度;
第一模型训练模块,用于根据所述样本数据集、所述多个第一标签以及所述多个第一标签的可信度信息,对学生模型进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010812947.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:大广角光学镜头
- 下一篇:道路侧定位方法、装置、设备及存储介质





