[发明专利]一种基于云边端架构的云端推理模型下发至边端的方法

说明书

本发明提供了一种基于云边端架构的云端推理模型下发至边端的方法。在该架构中，使用到开源的可视化容器管理工具portainer，以及私有的docker仓库harbor。通过将边端的docker注册到云端，便可实现在云端portainer中管理边端docker，然后将训练好的推理模型构建为模型镜像，上传至harbor仓库，通过portainer拉取harbor仓库的推理模型镜像至边端，建立边端模型数据卷容器，然后关联推理模型容器中的模型所在路径及数据卷容器，便可实现推理模型容器中的模型同步到数据卷中，至此，模型成功下发至边缘端。边端的其他应用程序便可关联该数据卷，使用下发的推理模型进行后续工作。

技术领域

本发明涉及一种基于云边端架构的云端模型下发方法，具体涉及边缘计算领域。

背景技术

容器本身具有轻量级、安全性、启动快等优良特性，并且，容器具有天然的轻量化和可移植性，因此被广泛应用到边缘计算的场景。虽然云计算越来越成熟，但是把全部的计算放在云端会产生一些不足，因此，开始构建边缘计算平台，将云上资源的管理方法延伸到边端，可以实现无缝的管理边端的资源和设备。如何实现云端对边端应用的编排、部署以及配置是边缘平台需要重点解决的问题之一。Portainer是一个轻量级的可视化容器管理工具，在该工具中提供了一种创建边缘代理的管理边缘计算环境的方法，通过该方法可以将边缘环境的docker环境管理起来。另外，docker容器应用的开发和运行离不开可靠的镜像管理，虽然Docker官方提供了公共的镜像仓库，但是从安全和效率等方面考虑，部署私有环境内的Registry也是非常有必要的。Harbor是由VMware公司开源的企业级的DockerRegistry管理项目，为模型镜像的存储提供条件。

在Docker的使用过程中往往需要对数据进行持久化，或者需要在多个容器之间进行数据共享，所以这就涉及到Docker容器的数据操作。当程序在docker容器内运行时，需要与其他容器中的程序或容器外部程序进行沟通交流时，就需要进行数据的交换。Docker使用了数据卷这种专门的形式，来提供一套便于保存数据的体系。数据卷独立于容器之外，多个容器可以共享同一个数据卷，通过数据卷，可以实现在容器之间进行文件数据的共享。若要更好的在容器之间共享数据，可以使用数据卷容器来实现。通过数据卷容器，我们可以更轻松地将数据卷进行归类和汇总，也能更好地管理容器与数据卷之间的关系，并且可以更加合理地控制数据卷生命周期。数据卷容器是专门用于存放数据卷的容器，我们在其他的容器中需要使用数据卷时，就不再把宿主机的目录当作数据卷进行挂载，而是从数据卷容器中将数据卷挂载。数据卷是独立于容器而存在的，数据卷容器并没有直接管理或控制数据卷，它只是其他容器使用数据卷的桥梁。数据卷容器是其他容器与数据卷连接的桥梁，而数据卷也可以独立于容器存在。目前云计算越来越成熟，但是把全部的计算放在云端会产生一些不足，因此，开始构建边缘计算平台，将云上资源的管理方法延伸到边端，可以实现无缝的管理边端的资源和设备。如何实现云端对边端应用的编排、部署以及配置是边缘平台需要重点解决的问题之一。

发明内容

本发明目的是提供了种基于云边端架构的云端模型下发方法，可以实现在云端操作模型下发，将模型从云端下发至边端，实现边端模型的加载、删除、升级等。

本发明为实现上述目的，通过以下技术方案实现：

一种基于云边端架构的云端模型下发方法，包括以下步骤：

1）云端搭建harbor仓库；

2）推理模型镜像上传至harbor；

3）云端安装portainer管理工具；

4）利用portainer代理将边端注册到云端；

5）边端拉取harbor推理模型镜像；

6）边端创建数据卷容器；

7）挂载数据卷容器，建立模型数据的映射关系，启动推理模型容器；

8）实现推理模型同步至边端数据卷容器中，边端启动应用程序容器，挂载数据卷容器，实现推理模型同步至应用程序容器中，应用程序便可实现模型推理工作。