[发明专利]一种面向无标签音频数据的语音识别模型训练方法及系统

说明书

一种面向无标签音频数据的语音识别模型训练方法及系统，包括：步骤1，使用多个来自外界的语音识别模型同时对音频数据进行解码，获得多个粗标数据；步骤2，将多个粗标数据进行交叉验证获得各粗标数据的错误率，小于阈值的错误率对应的各粗标数据的交集作为清洗后粗标数据；步骤3，使用清洗后粗标数据训练目标语音识别模型，使用训练好的目标语音识别模型对无标签音频数据进行解码得到无标签音频数据识别结果，计算识别结果的置信度，选择置信度大于参数的无标签音频数据迭代训练目标语音识别模型，直到目标语音识别模型的输出收敛为止。本发明基于外界模型采用多重验证方式使用无标签数据训练语音识别模型，节省时间和经济成本，提升模型性能。

技术领域

本发明属于语言识别技术领域，具体地，涉及一种面向无标签音频数据的语音识别模型训练方法及系统。

背景技术

随着深度学习的发展，神经网络模型训练需要的训练数据越来越多，对于语音识别模型来说，需要数千甚至数万小时的标注数据来训练模型，数万小时音频数据的标注成本非常高昂。

现有技术中对音频数据进行标注，采用的人工标注，需要使用大量的人工标注数据，优势是标注准确率高，但一个成熟的数据标注人员一天仅能标注约一小时数据，所以标注时间成本比较大，经济成本也不低。还采用的无监督学习方法，使用海量的无标签数据，通过无监督学习算法，直接训练模型，这种方法导致模型要求参数量大才能得到高质量的语音模型，同时推理开销也比较大，如果直接部署到线上，会导致高昂的部署成本，由于参数量大，会导致模型训练周期非常长，模型收敛也存在不确定性，容易发散。

发明内容

为解决现有技术中存在的不足，本发明提供一种面向无标签音频数据的语音识别模型训练方法及系统，基于外界模型和多重验证的方式来使用无标签数据训练语音识别模型，节省大量的时间和经济成本，提升模型性能。

本发明采用如下的技术方案。

一种面向无标签音频数据的语音识别模型训练方法，包括：

步骤1，使用多个来自外界的语音识别模型同时对音频数据进行解码，获得多个粗标数据；

步骤2，将多个粗标数据进行交叉验证以获得各粗标数据的错误率，以小于阈值的错误率对应的各粗标数据的交集作为清洗后粗标数据；

步骤3，使用清洗后粗标数据训练目标语音识别模型，使用训练好的目标语音识别模型对无标签音频数据进行解码得到无标签音频数据识别结果，计算识别结果的置信度，选择置信度大于参数的无标签音频数据迭代训练目标语音识别模型，直到目标语音识别模型的输出收敛为止。

来自外界的语音识别模型包括：来自开源的模型，自研的模型，第三方提供的模型。

步骤2中，选择任意一个粗标数据Reselt_p作为标准结果，分别统计其余各粗标数据Reselt_q的错误率，如下式所示：

式中，

下标p、q均为粗标数据的编号，且p≠q，p,q＝1,2,…,M，M为粗标数据的数量，

wer_pq表示以粗标数据Reselt_p为标准结果时，粗标数据Reselt_q的错误率，

S_pq表示以粗标数据Reselt_p为标准结果时，粗标数据Reselt_q替换错误，

D_pq表示以粗标数据Reselt_p为标准结果时，粗标数据Reselt_q误删错误，