[发明专利]一种模型部署及推理的方法和装置在审
申请号: | 202011330926.9 | 申请日: | 2020-11-24 |
公开(公告)号: | CN112329945A | 公开(公告)日: | 2021-02-05 |
发明(设计)人: | 柏嘉洛 | 申请(专利权)人: | 广州市网星信息技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N5/04 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 510000 广东省广州市南沙区丰泽东路1*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种模型部署及推理的方法和装置,其中所述模型部署方法包括:接收目标代码数据,所述目标代码数据包括预先构建的通用部署框架,以及基于所述通用部署框架配置的、针对目标机器学习模型的配置参数和调用代码;根据所述配置参数生成部署脚本;根据所述调用代码生成第一容器镜像;获取所述目标机器学习模型的第二容器镜像;采用所述部署脚本将所述第一容器镜像与所述第二容器镜像部署到指定集群中,以此实现模型的快速上线部署,开发人员仅仅需要在通用部署框架的基础上进行开发,编写少量的代码就可以完成模型的上线部署,简化了原有流程,降低了开发人员部署的难度,提高了开发人员对模型上线部署的效率和降低了部署成本。 | ||
搜索关键词: | 一种 模型 部署 推理 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州市网星信息技术有限公司,未经广州市网星信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011330926.9/,转载请声明来源钻瓜专利网。