[发明专利]语句处理方法及装置

说明书

本申请提供一种语句处理方法及装置，通过在电子设备中设置的数据量较大、计算量较大的深度学习模型对语句进行识别的同时，还通过数据量较小、计算量较小的小样本学习模型对语句进行识别，并在小样本模型的识别结果的概率值大于预设阈值时使用小样本模型的语义类别作为识别结果、在小样本模型的识别结果的概率值小于或等于预设阈值时仍需采用深度学习模型的语义类别作为识别结果，从而提高了对识别新增语义类别的模型进行训练时的速度和效率，进而提高了用户体验。

技术领域

本申请涉及机器学习技术领域，尤其涉及一种语句处理方法及装置。

背景技术

目前，随着电子技术的发展，语音识别技术逐渐进入人们生活中的工业、家电、通信、汽车电子、医疗、家庭服务、消费电子产品等各个领域。作为与人们生活最为接近的生活场景，常见的电视机、空调、洗衣机等电子设备一般都能够具备语音识别功能，以实现用户与电子设备之间进行语音内容的交互。

现有技术中，电子设备在接收到用户说出的语句后，一个重要的处理是需要确定语句所对应的语义，并将语义按照不同的任务进行分类，从而在后续使用与语义的分类对应的应用程序对指令进行处理。在实际应用中，电子设备可以通过存储在服务器中的机器学习模型实现对语句类别的识别，借助服务器的计算能力和存储能力，能够通过较大的机器学习模型覆盖日常生活中用户说出的常见语句。

但是，在现有技术中，由于在上述每次重新计算机器学习模型的过程时都需要将所有语句都进行计算，并且在实际应用中，当语句数量较多以及需要多次更新模型时，都需要多次较大规模的计算，不仅耗费时间还影响对语句的处理效率，进而影响用户体验。

发明内容

本申请实施例提供一种语句处理方法及装置，通过设置的数据量较大、计算量较大的第一模型和数据量较小、计算量较小的第二模型分别对语句进行识别，并根据两个机器学习模型输出的分类概率值确定最终的识别结果。采用这样的模型设置方式，使得后续若存在新增的语句类别，可以直接加入到第二模型中，从而不需要在每次有新增类别时都对第一模型进行计算处理，提高了对语句识别的速度和准确率、以及对模型进行更新的速度和效率，进而提高了用户体验。

本申请第一方面提供一种语句处理方法，可用于显示设备或者服务器等电子设备执行，该方法包括：获取待识别语句；通过第一模型对所述待识别语句进行处理，识别所述待识别语句对应的第一语义类别；通过第二模型对所述待识别语句进行处理，识别所述待识别语句对应的第二语义类别，以及所述第二语义类别的概率值；其中，所述第一语义类别与所述第二语义类别不同，训练所述第一模型使用的数据量大于训练所述第二模型使用的数据量；当所述第二语义类别的概率值大于预设阈值，确定所述待识别语句的对应于所述第二语义类别；当所述第二语义类别的概率值小于或等于所述预设阈值，确定所述待识别语句对应于所述第一语义类别。

在本申请第一方面一实施例中，所述方法还包括：获取至少一个语义类别，以及每个语义类别对应的多个训练语句；通过所述至少一个语义类别以及每个语义类别对应的多个训练语句，对所述第二模型进行训练，使得所述第二模型能够用于识别语句对应的语义类别。

在本申请第一方面一实施例中，所述第二模型包括：编码层，用于通过长短期记忆网络模型和注意力机制提取每个所述训练语句的特征向量；关系层，用于通过余弦相似度衡量和线性整流函数映射方法，计算每个向量特征之间的相似概率值；损失函数层，用于通过均方差损失函数将所述相似概率值归一化映射到0-1之间的自然数上。

在本申请第一方面一实施例中，所述通过所述至少一个语义类别以及每个语义类别对应的多个训练语句，对所述第二模型进行训练，包括：在所述第二模型对应的语义类别集合中加入所述至少一个语义类别，以及每个所述语义类别对应的训练数据；使用更新后的第二模型对应的语义类别集合，对所述第二模型进行训练。