[发明专利]语言模型自动训练方法及系统

说明书

本发明实施例提供一种语言模型自动训练方法。该方法包括：将面向场景的第一语言模型和/或面向对话节点的第二语言模型的期望意图列表发送至语义泛化系统，接收语义泛化系统基于期望意图列表内的意图信息泛化成的代表说话人意图的自生成语料；将自生成语料输入至语言模型训练系统，对语言模型训练系统训练的第一语言模型和/或第二语言模型自动发布。本发明实施例还提供一种应用于机器人定制系统的语言模型自动训练系统。本发明实施例利用自然语言生成中语义泛化生成的语料作为了语义识别语言模型训练的数据，泛化后一定程度上代表了说话人很可能说的话。可以自动化获得大量的代表了说话人的话语，准确率较高，从而使语音识别机器人回复更精准。

技术领域

本发明涉及智能语音领域，尤其涉及一种语言模型自动训练方法及系统。

背景技术

智能语音对话系统往往由ASR(Automatic Speech Recognition，自动语音识别)、NLU(Natural Language Processing，自然语言理解)、DM(Dialog Management，对话管理)、NLG(Natural Language Generation，自然语言生成)、TTS(Text To Speech，语音合成)五部分构成，有时还可能存在FAQ(Frequently Asked Questions，常见问答)。语音识别是智能语音对话系统的第一个模块，语音识别的准确率直接影响到整个对话系统的任务成功率。目前根据适用范围，语言模型的定义如下：

一路语言模型：通用的语音识别的语言模型，适用于广泛的对话系统，如闲聊。

二路语言模型：面向不同行业场景的语音识别语言模型，适用于某一垂直行业的对话系统，如金融行业、快递行业。

三路语言模型面向不同对话节点的语音识别语言模型，适用于有特定回复的对话节点，如表示确认、表示车牌号。

针对某一个场景的机器人，可配置二路语言模型增强ASR识别；针对机器人中某些节点，可以配置三路语言模型增强ASR识别。

离线针对特定的场景与节点增加对应可能回复语料训练与关联模型，在很大程度上可以提高语音机器人的语音识别准确性。模型训练往往是从语料收集开始，手动训练并绑定对应场景或节点。

在实现本发明过程中，发明人发现相关技术中至少存在如下问题：

传统的二路、三路语言模型构建应用方法，往往需要人工手动整理大量语料，手动训练并关联至对应场景或节点。人工手动即有出错的可能性，且人工整理的语料往往会出现不够齐全的情况，需要反复多次训练。

人工整理语料并手动重复次数往往代表比较大的工作量，且不容易一次性将语料整理齐全，一般是在测试验证或线上环境发现某些错误识别的案例时，将其作为语料重复几次来训练模型。再次出现新的错误识别案例时再增加语料重新训练，并重新手动关联。以上流程往往是错误发生以后亡羊补牢的做法，没有在机器人定制过程中把强化模型应用上。

模型训练与对话定制在不同的系统上，往往需要人工同时操作多个系统，以上的调优流程不是标准化的生产的方式，测试验证的难度会有所增加，且对于机器人定制而言，工作量大小不易评估，且易重复单一工作，不断手动训练提高识别，效率较低，人工成本较大，且容易出错。

发明内容

为了至少解决现有技术中训练模型语料需求大、效率低的问题。

第一方面，本发明实施例提供一种语言模型自动训练方法，应用于机器人定制系统，包括：

将面向场景的第一语言模型和/或面向对话节点的第二语言模型的期望意图列表发送至语义泛化系统，接收所述语义泛化系统基于所述期望意图列表内的意图信息泛化成的代表说话人意图的自生成语料；

将所述自生成语料输入至语言模型训练系统，对所述语言模型训练系统训练的第一语言模型和/或第二语言模型自动发布。