[发明专利]一种分布式环境下的人工智能模型管理系统及管理方法有效
申请号: | 201911375051.1 | 申请日: | 2019-12-27 |
公开(公告)号: | CN111144578B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 徐辉;闫威 | 申请(专利权)人: | 创新奇智(重庆)科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F16/23 |
代理公司: | 深圳珠峰知识产权代理有限公司 44899 | 代理人: | 黄伟 |
地址: | 400039 重庆市九龙坡区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 环境 人工智能 模型 管理 系统 方法 | ||
1.一种分布式环境下的人工智能模型管理系统,用于对机器学习服务平台所使用的模型进行更新管理,其特征在于,所述人工智能模型管理系统包括:
注册信息添加模块,用于提供给用户添加所述模型的模型数据以及使用所述模型的在线服务的服务信息,并将所述用户添加的所述模型数据和所述服务信息存储于一数据库中;
模型上传模块,用于提供给所述用户将更新后的所述模型对应的模型文件上传至一模型库中存储;
模型数据获取模块,连接所述数据库,用于从所述数据库中获取关联于所述模型的所述模型数据;
特征值计算模块,连接所述模型数据获取模块,用于根据所获取的关联于所述模型的所述模型数据,计算得到一可用于表示所述模型的特征值;
存储模块,分别连接所述特征值计算模块和所述模型库,用于根据所述特征值,并通过Hash算法将暂存于所述模型库中的关联于所述模型的所述模型文件存储至存储集群中的对应的存储节点中;
服务信息查询模块,分别连接所述数据库和所述特征值计算模块,用于根据所计算的关联于所述模型的所述特征值,在所述数据库中查询使用所述模型的所述服务信息;
模型推送指令生成模块,连接所述服务信息查询模块,用于在查询到所述服务信息后形成一模型推送指令并输出;
模型推送模块,连接各所述存储节点和所述模型推送指令生成模块,用于根据所述模型推送指令,将存储于所述存储节点中的所述模型文件推送给对应的所述在线服务,所述在线服务根据新接收的所述模型文件完成对服务模型的更新。
2.如权利要求1所述的人工智能模型管理系统,其特征在于,还包括:
回滚模块,通信连接各所述在线服务、所述数据库和所述模型库,用于在需要从各所述在线服务中回退所述模型时,提供给所述用户输入需要回滚的所述模型的所述模型数据,并根据所输入的所述模型数据生成模型回退指令发送给对应的所述在线服务,所述在线服务根据接收到的所述模型回退指令将所述模型回滚到模型更新前的状态;
所述回滚模块中具体包括:
回滚模型信息输入单元,用于提供给所述用户输入需要回滚的所述模型对应的所述模型数据;
服务信息查询单元,连接所述回滚模型信息输入单元,用于根据所述用户输入的所述模型数据在所述数据库中查询使用所述模型的所述在线服务对应的所述服务信息;
模型回退指令生成单元,连接所述服务信息查询单元,用于在查询到所述服务信息后生成所述模型回退指令;
模型回退指令发送单元,连接所述模型回退指令生成单元,用于将所述模型回退指令发送给对应的所述在线服务;所述在线服务在接收到所述模型回退指令后将所述模型回滚到模型更新前的状态,并将模型回滚结果反馈给一模型文件删除单元;
所述模型文件删除单元,分别连接所述模型回退指令发送单元和所述模型库,用于在确认所述模型回滚结果为回滚成功后,在所述模型库中删除所述在线服务曾使用的模型更新文件。
3.如权利要求1所述的人工智能模型管理系统,其特征在于,所述模型数据包括应用所述模型的所述在线服务的服务编号、所述模型的模型版本号、所述模型采用的模型框架以及所述模型使用的核心算法名称。
4.如权利要求1所述的人工智能模型管理系统,其特征在于,所述服务信息包括所述在线服务的服务名称或服务代号、接收所述模型对应的模型文件的接口或地址以及所述在线服务当前使用的所述模型的所述模型文件及所述模型的模型版本号。
5.如权利要求1所述的人工智能模型管理系统,其特征在于,当所述模型文件的文件大小大于或等于一存储数据量、和/或所述在线服务对于所述模型的访问频率小于一频率阈值时,所述人工智能模型管理系统以第一粒度分片方式将所述模型文件存储于对应的所述存储节点中;
当所述模型文件的文件大小小于所述存储数据量、和/或所述在线服务对于所述模型的访问频率大于或等于所述频率阈值时,所述人工智能模型管理系统以第二粒度分片方式将所述模型文件存储于对应的所述存储节点中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新奇智(重庆)科技有限公司,未经创新奇智(重庆)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911375051.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高品质硬脂酸钙的制备方法
- 下一篇:一种丁二醇辛酸酯的制备方法