[发明专利]AI模型部署方法、设备和存储介质

说明书

本申请提供了一种AI模型部署方法、第一电子设备、终端和存储介质。方法包括：响应于第二电子设备的模型部署请求，加载并显示预设的模型编排操作界面；若检测到用户基于模型编排操作界面选择的至少一个目标AI模型和编排的目标AI模型的协同配置信息，则将目标AI模型和目标AI模型的协同配置信息下发至第一电子设备的消息中心；在消息中心将目标AI模型和目标AI模型的协同配置信息基于物联网通信协议发送至第二电子设备。通过第一电子设备向第二电子设备下发目标AI模型和目标AI模型的协同配置信息，实现了第二电子设备在弱网的环境下调度目标AI模型，提高终端AI模型的高可扩展性和高可用性。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种AI模型部署方法、设备和存储介质。

背景技术

常见的AI模型部署包括云端和终端两种部署模式。其中，云端部署模式指的是将AI模型算法部署在云端，在实际应用场景中，需要终端采集数据并经由网络传输至云端算法处理，并将结果回传至终端。终端部署模式指的是将AI模型的算法通过数据线或其他方式预先烧写到终端中，数据采集和算法处理均在终端完成。

虽然云端部署模式可以快速做模型的更新和替换，但是在实际应用场景中，需要终端通过网络采集数据并回传结果，存在流量成本高以及在弱网环境下延迟高的问题；而终端部署模式虽然支持在终端本地进行计算不依赖于网络环境，但是模型无法灵活更新和替换，一旦出现故障，则需要返厂进行故障排查，存在可扩展性差以及可用性低的问题。

发明内容

本申请提供了一种AI模型部署方法、设备和存储介质，旨在解决AI模型在没有网络的环境，具有高可扩展性和高可用性。

第一方面，本申请实施例提供了一种AI模型部署方法，应用于第一电子设备，所述方法包括：

响应于第二电子设备的模型部署请求，加载并显示预设的模型编排操作界面；

若检测到用户基于所述模型编排操作界面选择的至少一个目标AI模型和编排的所述目标AI模型的协同配置信息，则将所述目标AI模型和所述目标AI模型的协同配置信息下发至所述第一电子设备的消息中心；

在所述消息中心将所述目标AI模型和所述目标AI模型的协同配置信息基于物联网通信协议发送至所述第二电子设备，以使所述第二电子设备基于业务需求在所述模型容器中加载所述目标AI模型，根据所述目标AI模型的协同配置信息调度各个所述目标AI模型；所述目标AI模型的协同配置信息用于指示所述第二电子设备将所述目标AI模型和所述目标AI模型的协同配置信息关联存储。

第二方面，本申请实施例提供了一种AI模型部署方法，应用于第二电子设备，所述方法包括：

接收第一电子设备的消息中心基于物联网通信协议发送的目标AI模型和所述目标AI模型的协同配置信息；所述目标AI模型为用户基于第一电子设备的模型编排界面选择的AI模型，所述目标AI模型的协同配置信息为用户基于所述模型编排操作界面对用户选择的流程节点控制元素和所述目标AI模型进行编排得到；

将所述目标AI模型和所述目标AI模型的协同配置信息关联存储；

基于业务需求在所述模型容器中加载所述目标AI模型，根据所述目标AI模型间的协同配置信息调度各个所述目标AI模型。

第三方面，本申请实施例提供了一种AI模型部署设备，包括存储器和处理器；

所述存储器用于存储计算机程序；

所述处理器，用于执行所述计算机程序并在执行所述计算机程序时，实现上述第一方面的AI模型部署方法。

第四方面，本申请实施例提供了一种AI模型部署设备，包括存储器和处理器；

所述存储器用于存储计算机程序；