[发明专利]信息的处理方法、装置、存储介质和电子设备

说明书

本公开涉及一种信息的处理方法、装置、存储介质和电子设备，该方法包括：获取待处理信息，将待处理信息，作为由预设模型训练得到的处理模型的输入，以得到处理模型输出的待处理信息对应的目标信息，其中，预设模型包括多个操作模块和每个操作模块对应的归一化结构，每个操作模块对应的归一化结构用于对该操作模块的输出进行归一化处理，处理模型为在对预设模型进行训练的过程中，根据目标概率或对预设模型进行训练的步数，移除指定数量个操作模块对应的归一化结构得到的。本公开通过目标概率或对预设模型进行训练的步数，来移除归一化结构，以获取处理模型，对模型训练的稳定性高，能够确保处理模型的质量，提高了目标信息的准确性。

技术领域

本公开涉及深度学习技术领域，尤其涉及一种信息的处理方法、装置、存储介质和电子设备。

背景技术

随着深度学习技术的发展，深度学习模型被广泛应用于自然语言处理、图像处理以及数据挖掘等多个技术领域中。在深度学习模型中，可以通过设置相应的归一化结构，来为模型包括的模块的输出进行归一化处理，以提高模型训练的效果。然而，在模型预测阶段，归一化结构会增加模型预测的延时。为了降低模型预测的延时，需要在训练过程中移除深度学习模型中的归一化结构。

相关技术中，在训练过程中移除深度学习模型中的归一化结构时，会影响模型训练的稳定性，甚至导致模型无法正常进行训练，使训练得到的模型的质量较差，同时降低了模型输出的信息的准确性。

发明内容

为克服相关技术中存在的问题，本公开提供一种信息的处理方法、装置、存储介质和电子设备。

根据本公开实施例的第一方面，提供一种信息的处理方法，所述方法包括：

获取待处理信息，所述待处理信息包含文本信息和图像信息中的至少一种；

将所述待处理信息，作为由预设模型训练得到的处理模型的输入，以得到所述处理模型输出的所述待处理信息对应的目标信息，所述目标信息能够反映所述待处理信息中包括的指定特征；

其中，所述预设模型包括多个操作模块和每个所述操作模块对应的归一化结构，每个所述操作模块对应的归一化结构用于对该操作模块的输出进行归一化处理；所述处理模型为在对所述预设模型进行训练的过程中，根据目标概率或对所述预设模型进行训练的步数，移除指定数量个所述操作模块对应的归一化结构得到的。

可选地，所述处理模型是通过以下方式训练的：

获取训练样本集；所述训练样本集包括多组训练数据，每组所述训练数据包括：输入端训练数据和对应的输出端训练数据，所述输入端训练数据包括第一训练信息，所述输出端训练数据包括与所述第一训练信息对应的第二训练信息；

根据所述目标概率或对所述预设模型进行训练的步数，利用所述训练样本集对所述预设模型进行训练，以获取所述处理模型。

可选地，所述根据所述目标概率或对所述预设模型进行训练的步数，利用所述训练样本集对所述预设模型进行训练，以获取所述处理模型，包括：

按照所述目标概率从所述预设模型包括的全部归一化结构中，选取第一数量个所述归一化结构进行移除；

根据所述训练样本集，对移除第一数量个所述归一化结构后的所述预设模型进行训练；

更新所述目标概率，更新后的所述目标概率大于更新前的所述目标概率；

重复执行所述按照所述目标概率从所述预设模型包括的全部归一化结构中，选取第一数量个所述归一化结构进行移除，至所述更新所述目标概率的步骤，直至移除指定数量个所述归一化结构，以获取所述处理模型。

可选地，所述更新所述目标概率，包括：

根据预设的比例系数更新所述目标概率；或，

根据预设函数更新所述目标概率。