[发明专利]语音识别模型的训练方法及装置、语音识别方法及装置在审
申请号: | 202011540305.3 | 申请日: | 2020-12-23 |
公开(公告)号: | CN112700766A | 公开(公告)日: | 2021-04-23 |
发明(设计)人: | 吴凡;贾杨;卓邦声;林倩倩;郭涵涛;李振权;夏龙;郭常圳 | 申请(专利权)人: | 北京猿力未来科技有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/16;G10L15/22;G10L15/26;G10L25/51;G10L25/87 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 刘晓楠 |
地址: | 100102 北京市朝阳区广顺南大*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 识别 模型 训练 方法 装置 | ||
1.一种语音识别模型的训练方法,其特征在于,所述方法包括:
获取语音样本对,所述语音样本对包括第一语音样本和第二语音样本,且所述语音样本对携带有样本对标签,所述样本对标签用于标识所述第一语音样本和所述第二语音样本是否相同;
通过语音识别模型的全连接层获得所述第一语音样本的第一样本向量和所述第二语音样本的第二样本向量;
根据所述第一样本向量和所述第二样本向量之间的相似度,以及所述样本对标签,计算所述语音识别模型的损失值;
根据所述语音识别模型的损失值,对所述语音识别模型进行训练,直至达到训练停止条件,得到训练后的语音识别模型。
2.根据权利要求1所述的训练方法,其特征在于,所述通过语音识别模型的全连接层获得所述第一语音样本的第一样本向量和所述第二语音样本的第二样本向量,包括:
将所述第一语音样本和所述第二语音样本经所述语音识别模型的输入层输入至所述语音识别模型的卷积层进行卷积处理,获得所述第一语音样本对应的第一卷积向量和所述第二语音样本对应的第二卷积向量;
将所述第一卷积向量和所述第二卷积向量经过所述语音识别模型的最大池化层和所述全连接层进行处理,获得所述全连接层输出的所述第一样本向量和所述第二样本向量。
3.根据权利要求1所述的训练方法,其特征在于,所述语音样本对还携带所述第一语音样本的第一样本标签和所述第二语音样本的第二样本标签;
所述通过语音识别模型的全连接层获得所述第一语音样本的第一样本向量和所述第二语音样本的第二样本向量之后,还包括:
将所述全连接层输出的所述第一样本向量和所述第二样本向量分别输入至所述语音识别模型的归一化层进行归一化处理,获得所述第一样本向量的第一归一化结果和所述第二样本向量的第二归一化结果,其中,所述第一归一化结果是指所述第一语音样本在各个预测标签上的概率分布,所述第二归一化结果是指所述第二语音样本在各个预测标签上的概率分布。
4.根据权利要求3所述的训练方法,其特征在于,所述根据所述第一样本向量和所述第二样本向量之间的相似度,以及所述样本对标签,计算所述语音识别模型的损失值,包括:
根据所述第一样本向量和所述第二样本向量之间的相似度,以及所述样本对标签,计算所述第一语音样本和所述第二语音样本的第一差异;
根据所述第一归一化结果和所述第一样本标签,计算所述第一归一化结果和所述第一样本标签的第二差异,并根据所述第二归一化结果和所述第二样本标签,计算所述第二归一化结果和所述第二样本标签之间的第三差异;
根据所述第一差异、所述第二差异和所述第三差异,计算所述语音识别模型的损失值。
5.根据权利要求4所述的训练方法,其特征在于,所述根据所述第一样本向量和所述第二样本向量之间的相似度,以及所述样本对标签,计算所述第一语音样本和所述第二语音样本的第一差异,包括:
在所述样本对标签为第一标签时,计算所述第一样本向量和所述第二样本向量之间的相似度,将所述相似度的平方作为所述第一差异;
在所述样本对标签为第二标签时,计算所述第一样本向量和所述第二样本向量之间的相似度;确定预先设置的超参数和所述相似度之间的差值;根据所述差值和数值0之间的最大值,确定所述第一差异。
6.根据权利要求4所述的训练方法,其特征在于,所述根据所述第一归一化结果和所述第一样本标签,计算所述第一归一化结果和所述第一样本标签的第二差异,包括:
根据所述第一归一化结果中包括的预测标签是否和所述第一样本标签相同,设置所述预测标签的标签标识;
根据所述标签标识和所述第一归一化结果,计算所述第一归一化结果和所述第一样本标签的第二差异。
7.根据权利要求4所述的训练方法,其特征在于,所述根据所述第一差异、所述第二差异和所述第三差异,计算所述语音识别模型的损失值,包括:
确定所述第一差异、所述第二差异和所述第三差异的加权和;
将所述加权和作为所述语音识别模型的损失值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京猿力未来科技有限公司,未经北京猿力未来科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011540305.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:球泡灯自动包装设备
- 下一篇:一种碳纤维生产用的混料加工罐及其工作方法