[发明专利]神经网络模型的训练方法和装置、存储介质和电子设备

说明书

公开了一种神经网络模型的训练方法和装置、存储介质和电子设备，其中，方法包括：确定神经网络模型中神经元的权重的初始值；对所述神经网络模型中至少一个记忆单元层中神经元的权重的初始值进行调整；对初始值调整后的神经网络模型进行训练。本公开实施例可以有效地加快神经网络模型的收敛，缩短神经网络模型迭代的时间，从而提高神经网络模型的训练速度和训练效果。

技术领域

本公开涉及神经网络技术，尤其是一种神经网络模型的训练方法和装置、存储介质和电子设备。

背景技术

随着人工智能的普及，语音已成为人机交互的重要方式。语音识别技术也被称为自动语音识别(Automatic Speech Recognition，ASR)，是将人类的语音转换为计算机可读的输入形式的技术。近年来，人工神经网络(Artificial Neural Network，ANN)凭借其非线性映射、泛化和容错特性兼具、实时性好和识别精度高等特点，已经逐渐在各种场景的语音识别中得到了广泛的应用。

发明内容

为了解决上述技术问题，本公开实施例提供了一种神经网络模型的训练的技术方案。

根据本公开实施例的一个方面，提供了一种神经网络模型的训练方法，包括：

确定神经网络模型中神经元的权重的初始值；

对所述神经网络模型中至少一个记忆单元层中神经元的权重的初始值进行调整；

对初始值调整后的神经网络模型进行训练。

根据本公开实施例的另一个方面，提供了一种神经网络模型的训练装置，包括：

初始化模块，用于确定神经网络模型中神经元的权重的初始值

调整模块，用于对所述神经网络模型中至少一个记忆单元层中神经元的权重的初始值进行调整；

训练模块，用于对所述调整模块进行初始值调整后的神经网络模型进行训练。

根据本公开实施例的又一个方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一实施例所述的神经网络模型的训练方法。

根据本公开实施例的再一个方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述任一实施例所述的神经网络模型的训练方法。

基于本公开上述实施例提供的神经网络模型的训练方法和装置、计算机可读存储介质和电子设备，确定神经网络模型中神经元的权重的初始值后，对神经网络模型中至少一个记忆单元层中神经元的权重的初始值进行调整，以减少对一些信息的重复考虑，然后再对初始值调整后的神经网络模型进行训练，由于对神经网络模型中神经元的权重的初始值的选择，会对神经网络模型训练的收敛速度产生影响，本公开实施例在对神经网络模型训练前，先对至少一个记忆单元层中神经元的权重的初始值进行调整，特别是对于神经网络模型中重复信息对应的权重的初始值进行调整，可以在训练时有效地加快神经网络模型的收敛，缩短神经网络模型迭代的时间，从而提高神经网络模型的训练速度和训练效果。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开所适用的一个系统图。

图2是本公开一示例性实施例提供的神经网络模型的训练方法的流程示意图。