[发明专利]语义理解模型的剪枝方法、装置、电子设备和存储介质有效
申请号: | 202010592755.0 | 申请日: | 2020-06-25 |
公开(公告)号: | CN111553169B | 公开(公告)日: | 2023-08-25 |
发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/20 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 单冠飞 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语义 理解 模型 剪枝 方法 装置 电子设备 存储 介质 | ||
1.一种语义理解模型的剪枝方法,包括:
获取第一语义理解模型;
在第一搜索空间中随机采样第一剪枝策略,其中,所述第一搜索空间包括至少两个第一剪枝策略,每个所述第一剪枝策略包括所述语义理解模型中各个卷积层分别对应的剪枝率,所述剪枝率为卷积层中待剪切的通道数量与现有通道数量的比例;
根据采样得到的第一剪枝策略对所述第一语义理解模型进行剪枝,得到第二语义理解模型;
根据所述第二语义理解模型的性能信息,更新所述第一语义理解模型的参数,返回所述在第一搜索空间中随机采样第一剪枝策略的步骤,直至达到预设的停止条件,得到待处理的第一语义理解模型;
获取目标剪枝策略;
根据所述目标剪枝策略,对所述待处理的第一语义理解模型进行剪枝,得到目标模型;
所述根据采样得到的第一剪枝策略,对所述第一语义理解模型进行剪枝,包括:
根据采样得到的第一剪枝策略中的每个剪枝率,确定所述剪枝率对应的卷积层中待剪切的通道数量K;其中,K为大于或等于0的整数;
剪切所述卷积层中权重最低的K个通道。
2.根据权利要求1所述的方法,其中,所述获取目标剪枝策略,包括:
利用编码生成器在第二搜索空间中采样第二剪枝策略,其中,所述第二搜索空间中包括至少两个第二剪枝策略;
根据采样得到的第二剪枝策略,对所述待处理的第一语义理解模型进行剪枝,得到第三语义理解模型;
确定所述第三语义理解模型的性能信息;
根据所述性能信息更新所述编码生成器,返回所述利用编码生成器在第二搜索空间中采样第二剪枝策略的步骤,直至采样第二剪枝策略的次数达到第一阈值N;其中,N为大于或等于2的整数;
将第N次采样得到的第二剪枝策略确定为目标剪枝策略。
3.根据权利要求2所述的方法,其中,所述第二搜索空间中的每个第二剪枝策略包括与所述第一语义理解模型中的各个卷积层分别对应的剪枝率;
所述根据采样得到的第二剪枝策略,对所述待处理的第一语义理解模型进行剪枝,得到第三语义理解模型,包括:
根据采样得到的第二剪枝策略中的每个剪枝率,对所述剪枝率对应的卷积层进行剪枝。
4.根据权利要求3所述的方法,其中,所述根据采样得到的第二剪枝策略中的每个剪枝率,对所述剪枝率对应的卷积层进行剪枝,包括:
根据采样得到的第二剪枝策略中的每个剪枝率,确定所述剪枝率对应的卷积层中待剪切的通道数量M;其中,M为大于或等于0的整数;
剪切所述卷积层中权重最低的M个通道。
5.根据权利要求2至4中任一项所述的方法,其中,在首次利用编码生成器在第二搜索空间中采样第二剪枝策略之前,还包括:
根据所述第二搜索空间,初始化所述编码生成器,以使所述编码生成器能够生成与所述第二搜索空间中的第二剪枝策略对应的采样编码。
6.根据权利要求5所述的方法,其中,所述利用编码生成器在第二搜索空间中采样第二剪枝策略,包括:
利用编码生成器,生成采样编码;
对所述采样编码进行解码,得到所述采样编码对应的第二剪枝策略。
7.根据权利要求1所述的方法,其中,所述预设的停止条件为采样第一剪枝策略的次数达到第二阈值。
8.根据权利要求1所述的方法,还包括:
获取待识别文本;
根据所述目标模型,得到所述待识别文本的识别结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010592755.0/1.html,转载请声明来源钻瓜专利网。