[发明专利]一种声学模型的数据处理方法

权利要求书

1.一种声学模型的数据处理方法，其特征在于，所述声学模型包括：编码网络、注意力网络和解码网络，所述数据处理方法包括：

步骤1、所述编码网络对语音特征序列(x₁,x₂,...,x_T)进行编码得到高层特征序列(h₁,h₂,...,h_T)，x_T表示待识别语音经过语音特征提取预处理后在T时刻的语音特征，h_T表示所述语音特征x_T在T时刻的高层特征；

步骤2、所述注意力网络根据高层特征序列(h₁,h₂,...,h_T)计算目标向量，所述目标向量用于对所述高层特征序列(h₁,h₂,...,h_T)进行压缩；

步骤3、所述解码网络根据所述高层特征序列(h₁,h₂,...,h_T)和所述目标向量计算待识别语音每个位置上所有音素的后验概率以得到概率序列(y₁,y₂,...,y_O)，y_O表示待识别语音经所述解码网络输出后在位置o上所有音素的后验概率；

其中，所述编码网络包括前向网络和后向网络，所述前向网络和所述后向网络均由基于最少门单元MGU结构的多层循环神经网络组成。

2.根据权利要求1所述的方法，其特征在于，所述解码网络由基于MGU的循环神经网络和maxout网络串联组成。

3.根据权利要求1所述的方法，其特征在于，所述步骤1具体包括：

步骤11、所述前向网络根据式(1)

计算时刻t下第c层前向循环神经网络的隐含层状态

步骤12、所述后向网络根据式(2)

计算时刻t下第c层后向循环神经网络的隐含层状态

步骤13、根据所述第c层前向循环神经网络的隐含层状态和所述第c层后向循环神经网络的隐含层状态得到所述编码网络在时刻t高层特征h_t，其中t∈[1,T]。

4.根据权利要求1所述的方法，其特征在于，所述步骤2具体包括：

步骤21、所述注意力网络根据前一位置注意力系数α_o-1，t确定注意力网络的窗函数w_o,t；

步骤22、根据所述窗函数和所述前一位置注意力系数α_o-1，t确定前一位置元素yo-₁与时刻t高层特征h_t之间的关联度e_o,t；

步骤23、所述注意力网络根据所述关联度e_o,t和所述高层特征序列(h₁,h₂,...,h_T)确定目标向量。

5.根据权利要求2所述的方法，其特征在于，所述步骤3具体包括：

步骤31、所述解码网络根据所述目标向量按照式(19)

s_o＝MGU(s_o-1,ct_o) (19)

计算解码网络的隐含层状态s_o，其中ct_o表示目标向量；

步骤32、所述解码网络根据所述解码网络的隐含层状态s_o按照式(20)和式(21)

计算位置o上音素i的后验概率h_i^maxout，其中k为maxout网络每个隐含层单元的候选单元数，W_:,i,j∈R^d×m×k和b_i,j∈R^m×k分别为maxout网络的参数矩阵和偏置向量，d为maxout网络的隐含层单元数，m为maxout网络的输出层单元数；

步骤33、所述maxout网络根据式(22)

y_o＝[h₁^maxout,h₂^maxout,...,h_m^maxout] (22)

确定所述y_O。