[发明专利]基于Star-Transformer的口语理解方法、系统及设备

说明书

基于Star‑Transformer的口语理解方法、系统及设备，属于语言处理技术领域。本发明是为了解决利用现有的神经网络对口语进行识别存在的准确度较低的问题。本发明所述的方法首先利用Star‑Transformer对口语语音信息对应文本序列的特征矩阵进行信息提取；然后使用双向门控循环单元对Star‑Transformer提取的全局信息和局部信息进行整合，最后将插槽预测的概率最大的意图作为输出结果。主要用于口语的计算机理解。

技术领域

本发明涉及口语的理解方法和系统；属于语言处理技术领域。

背景技术

随着人工智能的发展，基于深度神经网络的模型对语言识别能力越来越高，智能语音助手也相应产生；比如点播歌曲、上网购物，或是了解天气预报，它也可以对智能家居设备进行控制，比如打开窗帘、设置冰箱温度、提前让热水器升温等；语言识别技术在人工智能有着不可替代的作用；

随着深度学习技术的发展，利用神经网络对自然语言进行识别，已经能够取得较为不错的效果；但是由于自然语言具有一定的模糊性和歧义性，如何更准确的识别到人们想表达的意愿仍然是一个巨大的挑战；针对于自然语言的口语而言，口语表达相对简单且更加随意，有事甚至不符合常规的表达逻辑，而且可能具有更多的意思表达可能性，所以口语更加具有模糊性和歧义性，利用现有的神经网络对于口语的识别时，对应的准确度(准确的识别到人们想表达的意愿)和准确率较低，都有待于进一步提高。

发明内容

本发明是为了解决利用现有的神经网络对口语进行识别存在的准确度较低的问题；现提供一种基于Star-Transformer的口语理解方法、系统及设备。

基于Star-Transformer的口语理解方法，首先利用Star-Transformer对口语语音信息对应文本序列的特征矩阵进行信息提取；然后使用双向门控循环单元对Star-Transformer提取的全局信息和局部信息进行整合，最后将插槽预测的概率最大的意图作为输出结果。

进一步地，所述方法还包括采集口语语音信息并将口语语音转换为文本序列，获得文本序列的特征矩阵的步骤。

进一步地，所述利用Star-Transformer对口语语音信息对应文本序列的特征矩阵进行信息提取的过程包括以下步骤：

口语语音信息对应文本序列的特征矩阵记为H＝[h₁,…,h_n]，其中h_j表示第j个字的特征，n为文本长度；对于查询向量q∈R^1×d，注意力公式如下：

其中，K＝HW^k,V＝HW^v,W^k和W^v为可学习参数；查询向量q为1×d的实数矩阵，表示查询向量q的列数；

由注意力公式得到多头注意力公式：

MultiHead(q,H)＝concat(head₁,…,head_h)W^o (2)

head_i＝Attention(qW_i^Q,HW_i^K,HW_i^v),i∈[1,h] (3)

其中，h为头的个数，W_i^Q,W_i^K,W_i^v,W^o为可学习参数；concat(·)为concat函数；