[发明专利]基于预训练范式模型的预测部署系统、方法、装置及介质

说明书

本公开公开了基于预训练范式模型的预测部署系统、方法、装置及介质，涉及深度学习、自然语言处理及计算机视觉等人工智能领域，所述系统中可包括：部署模块，用于将用户的任务请求对应的原始文本数据发送给数据预处理模块，获取数据预处理模块返回的预处理结果，将预处理结果发送给预测模块，并获取预测模块返回的预测结果，提供给用户；数据预处理模块，用于对原始文本数据进行预处理，得到符合预测要求的预处理结果，发送给部署模块；预测模块，用于调用深度学习框架的预测引擎，并获取预测引擎根据预处理结果进行预测后返回的预测结果，发送给部署模块。应用本公开所述方案，可降低用户的学习和开发成本，并提升处理效率等。

技术领域

本公开涉及人工智能技术领域，特别涉及深度学习、自然语言处理及计算机视觉等领域的基于预训练范式模型的预测部署系统、方法、装置及介质。

背景技术

随着预训练语言模型在自然语言处理(NLP，Natural Language Processing)领域的逐步推广，基于预训练范式模型的预测部署(即预测和部署)的重要性也日益增加。预训练范式即指自然语言处理中预训练语言模型+微调模型的训练方法。

目前，通常采用以下实现方式：在用户的项目中直接调用深度学习框架的相关预测接口，由用户完成数据预处理及各种相关适配等。这种方式需要用户熟悉预训练模型的预处理和预测逻辑的内部细节等，对于用户的水平要求较高，且容易出错，需要较高的学习和开发成本等。

发明内容

本公开提供了基于预训练范式模型的预测部署系统、方法、装置及介质。

一种基于预训练范式模型的预测部署系统，包括：部署模块、数据预处理模块以及预测模块；

所述部署模块，用于将用户的任务请求对应的原始文本数据发送给所述数据预处理模块，获取所述数据预处理模块返回的预处理结果，将所述预处理结果发送给所述预测模块，并获取所述预测模块返回的预测结果，提供给所述用户；

所述数据预处理模块，用于对所述原始文本数据进行预处理，得到符合预测要求的预处理结果，发送给所述部署模块；

所述预测模块，用于调用深度学习框架的预测引擎，并获取所述预测引擎根据所述预处理结果进行预测后返回的预测结果，发送给所述部署模块。

一种基于预训练范式模型的预测部署方法，包括：

预测部署系统对用户的任务请求对应的原始文本数据进行预处理，得到符合预测要求的预处理结果；

所述预测部署系统调用深度学习框架的预测引擎，并获取所述预测引擎根据所述预处理结果进行预测后返回的预测结果，提供给所述用户。

一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。

一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。

一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如以上所述的方法。

上述公开中的一个实施例具有如下优点或有益效果：可针对用户的任务请求，由基于预训练范式模型的预测部署系统自动地完成预测和部署等，从而降低了用户的学习和开发成本，并提升了处理效率等。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明