[发明专利]基于多层级知识蒸馏预训练语言模型自动压缩方法及平台有效
| 申请号： | 202011498328.2 | 申请日： | 2020-12-17 |
| 公开（公告）号： | CN112241455B | 公开（公告）日： | 2021-05-04 |
| 发明（设计）人： | 王宏升;王恩平;俞再亮 | 申请（专利权）人： | 之江实验室 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06N3/04;G06N3/08 |
| 代理公司： | 杭州浙科专利事务所(普通合伙) 33213 | 代理人： | 孙孟辉 |
| 地址： | 311121 浙江省杭州市余*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于多层级知识蒸馏的预训练语言模型自动压缩方法及平台，所述方法包括如下步骤：步骤一、构建多层级知识蒸馏，在自注意力单元、隐藏层状态、嵌入层三个不同层级上蒸馏大模型的知识结构；步骤二、训练元学习的知识蒸馏网络，生成多种预训练语言模型的通用压缩架构；步骤三、基于进化算法搜索最佳压缩结构。首先，研究基于元学习的知识蒸馏生成多种预训练语言模型的通用压缩架构；其次，在已训练好的元学习网络基础上，通过进化算法搜索最佳压缩结构，由此得到与任务无关的预训练语言模型的最优通用压缩架构。 | ||
| 搜索关键词： | 基于 多层 知识 蒸馏 训练 语言 模型 自动 压缩 方法 平台 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于之江实验室，未经之江实验室许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011498328.2/，转载请声明来源钻瓜专利网。
- 上一篇：一种车载AR-HUD的手势交互方法和系统
- 下一篇：通信天线阵列及电子设备
