[发明专利]一种语音识别方法、装置和用于语音识别的装置

权利要求书

1.一种语音识别方法，其特征在于，所述方法包括：

确定待识别语音的语音特征；

利用声学模型，确定所述语音特征对应的语音识别结果；所述声学模型包括：神经网络模型和隐马尔可夫模型；所述神经网络模型包括：输入层、隐层和输出层；所述隐层包括：前馈神经网络层和自注意力神经网络层；

输出所述语音识别结果；

一个所述前馈神经网络层和一个所述自注意力神经网络层组成隐层对，所述隐层包括：至少一个隐层对。

2.根据权利要求1所述的方法，其特征在于，所述前馈神经网络层包括：延时神经网络层、或者卷积神经网络层。

3.根据权利要求2所述的方法，其特征在于，所述隐层包括：至少三个隐层对；所述输出层包括：第一输出层和第二输出层；所述第一输出层设置于最后一个隐层对之后，所述第二输出层设置于中间的隐层对之后；所述第一输出层的处理结果被输出至所述隐马尔可夫模型。

4.根据权利要求1至3中任一所述的方法，其特征在于，所述确定所述语音特征对应的语音识别结果，包括：

将所述语音特征切分为预设长度的数据块；

将所述数据块输入所述声学模型中，以得到所述声学模型输出的音素序列；

依据所述音素序列，确定所述数据块对应的语音识别结果。

5.根据权利要求1至3中任一所述的方法，其特征在于，所述隐马尔可夫模型的训练准则包括：无词图的最大互信息准则。

6.一种神经网络模型的训练方法，其特征在于，所述神经网络模型应用于语音识别，所述语音识别的声学模型包括：所述神经网络模型与隐马尔可夫模型；所述方法包括：

对训练数据进行对齐，以得到对齐信息；

依据所述对齐信息，将所述训练数据切分为预设长度的数据块；

依据所述训练数据对应的数据块，对所述神经网络模型进行训练；所述神经网络模型包括：输入层、隐层和输出层；所述隐层包括：前馈神经网络层和自注意力神经网络层；

一个所述前馈神经网络层和一个所述自注意力神经网络层组成隐层对，所述隐层包括：至少一个隐层对。

7.根据权利要求6所述的方法，其特征在于，所述前馈神经网络层包括：延时神经网络层、或者卷积神经网络层。

8.根据权利要求7所述的方法，其特征在于，所述隐层包括：至少三个隐层对；所述输出层包括：第一输出层和第二输出层；所述第一输出层设置于最后一个隐层对之后，所述第二输出层设置于中间的隐层对之后；所述第一输出层的处理结果被输出至所述隐马尔可夫模型。

9.根据权利要求8所述的方法，其特征在于，所述对所述神经网络模型进行训练，包括：

利用无词图的最大互信息准则，分别确定所述第一输出层对应的第一损失信息、以及所述第二输出层对应的第二损失信息；

依据所述第一损失信息和所述第二损失信息，对所述神经网络模型的参数进行更新。

10.一种语音识别装置，其特征在于，包括：

语音特征确定模块，用于确定待识别语音的语音特征；

语音识别结果确定模块，用于利用声学模型，确定所述语音特征对应的语音识别结果；所述声学模型包括：神经网络模型和隐马尔可夫模型；所述神经网络模型包括：输入层、隐层和输出层；所述隐层包括：前馈神经网络层和自注意力神经网络层；以及

语音识别结果输出模块，用于输出所述语音识别结果；

一个所述前馈神经网络层和一个所述自注意力神经网络层组成隐层对，所述隐层包括：至少一个隐层对。

11.根据权利要求10所述的装置，其特征在于，所述前馈神经网络层包括：延时神经网络层、或者卷积神经网络层。