[发明专利]文本生成方法、装置、设备及存储介质

权利要求书

1.一种文本生成方法，其特征在于，所述文本生成方法包括以下步骤：

获取预设硬件对应的配置参数，并获取初始文本生成模型的模型存储空间；

根据所述配置参数和所述模型存储空间对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型；

将初始文本输入至所述压缩后的文本生成模型中，获得目标文本。

2.如权利要求1所述的文本生成方法，其特征在于，所述根据所述配置参数和所述模型存储空间对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型的步骤，具体包括：

确定所述配置参数中的显卡容量和显卡数量；

根据所述显卡容量、所述显卡数量以及所述模型存储空间确定压缩方式；

通过所述压缩方式对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型。

3.如权利要求2所述的文本生成方法，其特征在于，所述根据所述显卡容量、所述显卡数量以及所述模型存储空间确定压缩方式的步骤，具体包括：

根据所述显卡容量和所述模型存储空间判断是否需要对所述初始文本生成模型进行压缩处理；

若是，则在所述显卡数量为预设数量时，确定所述压缩方式为直接压缩方式；

在所述显卡数量大于所述预设数量时，确定所述压缩方式为分块压缩方式。

4.如权利要求3所述的文本生成方法，其特征在于，所述通过所述压缩方式对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型的步骤，具体包括：

在所述压缩方式为直接压缩方式时，确定所述初始文本生成模型中的参数信息；

根据所述显卡容量和所述模型存储空间确定参数长度；

根据所述参数长度对所述参数信息进行调整，获得压缩后的文本生成模型。

5.如权利要求3所述的文本生成方法，其特征在于，所述通过所述压缩方式对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型的步骤，具体包括：

在所述压缩方式为分块压缩方式时，确定输入至所述初始文本生成模型的初始文本对应的数据格式；

根据所述数据格式确定模型拆分方式，所述模型拆分方式包括：按行拆分方式和按列拆分方式；

根据所述按行拆分方式或所述按列拆分方式对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型。

6.如权利要求5所述的文本生成方法，其特征在于，所述根据所述按行拆分方式或所述按列拆分方式对所述初始文本生成模型进行压缩处理，获得压缩后的文本生成模型的步骤，具体包括：

根据所述按行拆分方式或所述按列拆分方式对所述初始文本生成模型进行拆分处理，获得若干个拆分后的文本生成模型；

确定各拆分后的文本生成模型对应的拆分模型存储空间；

根据所述拆分模型存储空间和所述显卡容量为所述各拆分后的文本生成模型分配对应的显卡，并将各显卡对应的拆分后的文本生成模型进行整合，获得压缩后的文本生成模型。

7.如权利要求6所述的文本生成方法，其特征在于，所述根据所述拆分模型存储空间和所述显卡容量为所述各拆分后的文本生成模型分配对应的显卡，并将各显卡对应的拆分后的文本生成模型进行整合，获得压缩后的文本生成模型的步骤，具体包括：

根据所述拆分模型存储空间和所述显卡容量为所述各拆分后的文本生成模型分配对应的显卡；

根据所述拆分模型存储空间和所述显卡容量判断是否需要对所述各拆分后的文本生成模型进行微调处理；

若是，则从所述各拆分后的文本生成模型中选取对应的微调文本生成模型；

对所述微调文本生成模型进行微调处理，获得各显卡对应的目标文本生成模型；

将所述各显卡对应的目标文本生成模型进行整合，获得压缩后的文本生成模型。