[发明专利]一种AI模型文件的部署方法及存储介质

说明书

本发明涉及人工智能技术，提供一种AI模型文件的部署方法，将AI模型文件进行序列化处理得到开放神经网络交换模型，以实现模型在不同框架之间的转化，减少不同框架之间的交互，提高模型的部署效率，将开放神经网络交换模型上传至配置有gitlab系统的目标服务器，且指示目标服务器通过gitlab系统根据开放神经网络交换模型返回相应的标识信息，上传至配置有gitlab系统的目标服务器中可以对开放神经网络交换模型数据进行长期保存和追踪，根据标识信息，对开放神经网络交换模型进行持续交付处理，得到交付后的开放神经网络交换模型，完成对开放神经网络交换模型的校验，将交付后的开放神经网络交换模型部署至网络中相应的节点，以便集中管理和处理网络上的模型数据。

技术领域

本发明涉及人工智能领域，尤其涉及一种AI模型文件的部署方法、装置、计算机设备及存储介质。

背景技术

随着深度学习技术应用的普及，当下大多数的计算需求在于模型部署，模型部署的计算需求还将随着业务场景增加与用户数量增多快速膨胀。深度学习技术模型的部署环境比训练更加复杂，目前深度学习应用被广泛的部署于包括移动设备、嵌式设备、机器人系统、无人机、自动驾驶车辆，甚至单片机在内的各种计算平台中。

现有的深度学习技术模型部署，均是通过不同的框架编写完成，不同框架下的完成的模型在使用过程中需要在对应的平台中完成交付与预测，从而完成模型部署，例如，基于TensorFlow的模型，使用TensorFlow_model_server。基于bert的模型，可能会使用bert-base-serving-start，而rasa模型，则会使用rasa run来实现。但是，当大量模型文件进行部署时，由于不同模型对应不同的交付平台，不能进行统一交付预测，进而导致模型的交付延迟，从而增加模型部署的难度。

发明内容

基于此，有必要针对上述技术问题，提供一种AI模型文件的部署方法、装置、计算机设备及存储介质，以解决AI模型文件交付延迟的问题。

本申请实施例的第一方面提供了一种AI模型文件的部署方法，包括：将AI模型文件进行序列化处理得到开放神经网络交换模型；

将所述开放神经网络交换模型上传至配置有gitlab系统的目标服务器，且指示所述目标服务器通过所述gitlab系统根据所述开放神经网络交换模型返回相应的标识信息；

根据所述标识信息，对所述开放神经网络交换模型进行持续交付处理，得到交付后的开放神经网络交换模型；

将所述交付后的开放神经网络交换模型部署至网络中相应的节点。

本申请实施例的第二方面提供了一种AI模型文件的部署方法AI模型文件的部署方法装置，包括：

转换单元：将AI模型文件进行序列化处理得到开放神经网络交换模型；

上传单元：将所述开放神经网络交换模型上传至配置有gitlab系统的目标服务器，且指示所述目标服务器通过所述gitlab系统根据所述开放神经网络交换模型返回相应的标识信息；

交付单元：根据所述标识信息，对所述开放神经网络交换模型进行持续交付处理，得到交付后的开放神经网络交换模型；

部署单元：将所述交付后的开放神经网络交换模型部署至网络中相应的节点。

本申请实施例的第三方面提供了一种计算机设备，包括：存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机可读指令，该计算机指令用于使该计算机执行AI模型文件的部署方法AI模型文件的部署方法法的各步骤。

本申请实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行基于AI模型文件的部署方法的各步骤。

实施本申请实施例提供的一种AI模型文件的部署方法具有以下有益效果：