[发明专利]模型蒸馏方法、装置及存储介质在审
| 申请号: | 202010862154.7 | 申请日: | 2020-08-24 |
| 公开(公告)号: | CN114090727A | 公开(公告)日: | 2022-02-25 |
| 发明(设计)人: | 徐坤;张钊;孟函可;王宝军;张宇洋 | 申请(专利权)人: | 华为技术有限公司 |
| 主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/35;G06F40/216;G06F40/295;G06F40/30 |
| 代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强;李稷芳 |
| 地址: | 518129 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本申请涉及人工智能领域的模型蒸馏,具体公开了一种模型蒸馏方法、装置及存储介质,该方法包括:获取文本样本,所述文本样本中包括至少一对实体标签,所述至少一对实体标签中每对实体标签用于表征一个实体类型;将所述文本样本分别输入教师模型和学生模型,确定损失集;根据所述损失集,调整所述学生模型的模型参数,以对所述学生模型进行训练。本申请实施例有利于提高模型蒸馏后,学生模型对文本意图识别的准确度。 | ||
| 搜索关键词: | 模型 蒸馏 方法 装置 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010862154.7/,转载请声明来源钻瓜专利网。





