[发明专利]AI模型部署方法、设备和存储介质

权利要求书

1.一种AI模型部署方法，其特征在于，应用于第一电子设备，所述方法包括：

响应于第二电子设备的模型部署请求，加载并显示预设的模型编排操作界面；其中，第二电子设备的计算能力和存储能力远低于第一电子设备；第二电子设备是经由通信设施向第一电子设备输入程序和数据或接收第一电子设备输出处理结果的设备；

若检测到用户基于所述模型编排操作界面选择的至少一个目标AI模型和编排的所述目标AI模型的协同配置信息，则将所述目标AI模型和所述目标AI模型的协同配置信息下发至所述第一电子设备的消息中心；其中，所述消息中心负责维持与第二电子设备的心跳和物联网协议通信，支持第一电子设备与第二电子设备通过物联网通信协议在弱网环境下的通信；所述协同配置信息包括所述目标AI模型的信息以及流程节点控制元素；

在所述消息中心将所述目标AI模型和所述目标AI模型的协同配置信息基于物联网通信协议发送至所述第二电子设备，以使所述第二电子设备基于业务需求在模型容器中加载所述目标AI模型，根据所述目标AI模型的协同配置信息调度各个所述目标AI模型；所述目标AI模型的协同配置信息用于指示所述第二电子设备将所述目标AI模型和所述目标AI模型的协同配置信息关联存储。

2.根据权利要求1所述的AI模型部署方法，其特征在于，在所述响应于第二电子设备的模型部署请求，加载并显示预设的模型编排操作界面之前，还包括：

根据预先注册的所述第二电子设备的业务需求，训练得到支持所述第二电子设备的业务需求的至少一个AI模型；

根据所述第二电子设备的适配芯片，将至少一个所述AI模型进行压缩和裁剪，得到支持所述第二电子设备的业务需求的目标AI模型；

将所述目标AI模型放入预设的模型库中。

3.根据权利要求1或2所述的AI模型部署方法，其特征在于，所述模型编排操作界面包括第一区域和第二区域；所述第一区域为元素区，包括流程节点控制元素和目标AI模型的信息，所述第二区域为画板区，用于供用户编排从所述第一区域选择的流程节点控制元素和目标AI模型，得到目标AI模型之间的协同配置信息。

4.根据权利要求1所述的AI模型部署方法，其特征在于，所述方法还包括：

接收所述第二电子设备基于物联网通信协议发送的各个所述目标AI模型的运行日志；

根据各个所述目标AI模型的运行日志确定各个所述目标AI模型的运行状态有无异常。

5.一种AI模型部署方法，其特征在于，应用于第二电子设备，所述方法包括：

接收第一电子设备的消息中心基于物联网通信协议发送的目标AI模型和所述目标AI模型的协同配置信息；所述目标AI模型为用户基于第一电子设备的模型编排操作 界面选择的AI模型，所述目标AI模型的协同配置信息为用户基于所述模型编排操作界面对用户选择的流程节点控制元素和所述目标AI模型进行编排得到；其中，第二电子设备的计算能力和存储能力远低于第一电子设备；第二电子设备是经由通信设施向第一电子设备输入程序和数据或接收第一电子设备输出处理结果的设备；

其中，所述消息中心负责维持与第二电子设备的心跳和物联网协议通信，支持第一电子设备与第二电子设备通过物联网通信协议在弱网环境下的通信；

所述协同配置信息包括所述目标AI模型的信息以及流程节点控制元素；

将所述目标AI模型和所述目标AI模型的协同配置信息关联存储；

基于业务需求在模型容器中加载所述目标AI模型，根据所述目标AI模型的协同配置信息调度各个所述目标AI模型。

6.根据权利要求5所述的AI模型部署方法，其特征在于，所述方法还包括：

在所述模型容器中监测各个所述目标AI模型的运行状态；

获取监测的各个所述目标AI模型的运行日志；

将各个所述目标AI模型的所述运行日志分别发送至第一电子设备，各个所述目标AI模型的所述运行日志用于指示所述第一电子设备根据所述运行日志，判断各个所述目标AI模型的运行状态有无异常。