[发明专利]模型运行方法、装置、存储介质及电子设备

权利要求书

1.一种模型运行方法，其特征在于，所述方法包括：

获取模型运行过程中产生的中间数据；

对所述中间数据进行压缩，得到压缩数据；

将所述压缩数据存储至预设存储区域；

响应于所述模型的运行过程中接收到的对所述中间数据的调用指令，从所述预设存储区域调取所述压缩数据进行解压缩。

2.根据权利要求1所述的方法，其特征在于，所述获取模型运行过程中产生的中间数据之前，还包括：

在对所述模型进行训练时，获取所述模型训练过程中产生的第一训练中间数据；

对所述第一训练中间数据进行压缩，得到压缩中间数据；

对所述压缩中间数据进行解压缩，得到第二训练中间数据；

基于所述第二训练中间数据对所述模型进行模型训练。

3.根据权利要求1或2所述的方法，其特征在于，所述获取模型运行过程中产生的中间数据，包括：

在模型运行过程中，获取产生的特征图；

确定所述特征图为中间数据。

4.根据权利要求3所述的方法，其特征在于，所述对所述中间数据进行压缩，得到压缩数据，包括：

采用无损压缩算法对所述中间数据进行压缩，得到压缩数据。

5.根据权利要求4所述的方法，其特征在于，所述采用无损压缩算法对所述中间数据进行压缩，得到压缩数据，包括：

采用有损压缩算法对所述中间数据进行压缩，得到第一过渡压缩数据；

采用无损压缩算法对所述第一过渡压缩数据进行压缩，得到压缩数据。

6.根据权利要求4所述的方法，其特征在于，所述采用无损压缩算法对所述中间数据进行压缩，得到压缩数据，包括：

对所述中间数据的统计特性进行调节，得到第二过渡压缩数据；

确定与所述第二过渡压缩数据对应的目标无损压缩算法；

采用所述目标无损压缩算法对所述第二过渡压缩数据进行压缩，得到压缩数据。

7.根据权利要求2所述的方法，其特征在于，所述基于所述第二训练中间数据对所述模型进行模型训练，包括：

获取所述第一训练中间数据的统计特性；

基于所述统计特性更新所述模型的损失函数，得到目标损失函数；

基于所述第二训练中间数据以及所述目标损失函数对所述模型进行训练。

8.一种模型运行装置，其特征在于，包括：

获取模块，用于获取模型运行过程中产生的中间数据；

压缩模块，用于对所述中间数据进行压缩，得到压缩数据；

存储模块，用于将所述压缩数据存储至预设存储区域；

应用模块，用于响应于所述模型的运行过程中接收到的对所述中间数据的调用指令，从所述预设存储区域调取所述压缩数据进行解压缩。

9.一种存储介质，其上存储有计算机程序，其特征在于，当所述计算机程序被电子设备的处理器加载时执行如权利要求1-7任一项所述的模型运行方法中的步骤。

10.一种电子设备，所述电子设备包括处理器和存储器，所述存储器储存有计算机程序，其特征在于，所述处理器通过加载所述计算机程序执行如权利要求1-7任一项所述的模型运行方法中的步骤。