[发明专利]语音识别模型的训练方法、装置、设备和存储介质有效
申请号: | 202110308608.0 | 申请日: | 2021-03-23 |
公开(公告)号: | CN113129870B | 公开(公告)日: | 2022-03-25 |
发明(设计)人: | 邵俊尧;付晓寅;臧启光;陈志杰;梁鸣心;郑焕鑫;钱胜 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/26;G10L15/02;G10L15/28;G10L15/16 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 田宏宾 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 识别 模型 训练 方法 装置 设备 存储 介质 | ||
本公开公开了一种语音识别模型的训练方法、装置、设备和存储介质,涉及计算机技术领域,具体涉及语音识别、深度学习等技术领域。语音识别模型的训练方法包括:基于声学解码模型和语言模型,获得语音对应的至少一个候选文本的融合概率;基于所述融合概率,选择预设个数的候选文本,并基于所述预设个数的候选文本确定预测文本;基于所述预测文本和所述语音对应的标准文本,获得损失函数,并基于所述损失函数训练所述语音识别模型。本公开可以提高语音识别模型的识别准确度。
技术领域
本公开涉及计算机技术领域,具体涉及语音识别、深度学习等技术领域,尤其涉及一种语音识别模型的训练方法、装置、设备和存储介质。
背景技术
自动语音识别(Automatic Speech Recognition,ASR)是一种将语音转换为文本的技术。不同于传统ASR方案将语音识别任务分为多个子任务,端到端的语音识别模型的输入是声学特征,输出直接是自然语言文本,从而简化模型训练过程。
端到端的语音识别模型可以是序列到序列(Seq2Seq)模型,序列到序列模型包括解码器(decoder),训练端到端的语音识别模型时,解码器可以采用集束搜索(beamsearch)方式,获取多个解码结果。
相关技术中,解码器在集束搜索(beam search)时,输入仅包括前一时刻的输出文本以及声学相关信息。
发明内容
本公开提供了一种语音识别模型的训练方法、装置、设备和存储介质。
根据本公开的一方面,提供了一种语音识别模型的训练方法,包括:基于声学解码模型和语言模型,计算至少一个候选文本的融合概率,所述候选文本为语音对应的候选文本;基于所述融合概率,选择预设个数的候选文本,并基于所述预设个数的候选文本确定预测文本;基于所述语音对应的标准文本和所述预测文本,计算损失函数,并基于所述损失函数训练语音识别模型。
根据本公开的另一方面,提供了一种语音识别模型的训练装置,包括:处理模块,用于基于声学解码模型和语言模型,计算至少一个候选文本的融合概率,所述候选文本为语音对应的候选文本;确定模块,用于基于所述融合概率,选择预设个数的候选文本,并基于所述预设个数的候选文本确定预测文本;训练模块,用于基于所述语音对应的标准文本和所述预测文本,计算损失函数,并基于所述损失函数训练语音识别模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。
根据本公开的技术方案,可以提高语音识别模型的识别准确度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是根据本公开第二实施例的示意图;
图3是根据本公开第三实施例的示意图;
图4是根据本公开第四实施例的示意图;
图5是根据本公开第五实施例的示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110308608.0/2.html,转载请声明来源钻瓜专利网。