[发明专利]模型的数据处理系统、方法和存储介质有效
申请号: | 202211679737.1 | 申请日: | 2022-12-27 |
公开(公告)号: | CN115794411B | 公开(公告)日: | 2023-05-30 |
发明(设计)人: | 王文特 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06N20/00 |
代理公司: | 北京博浩百睿知识产权代理有限责任公司 11134 | 代理人: | 谢湘宁 |
地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 数据处理系统 方法 存储 介质 | ||
1.一种模型数据处理系统,其特征在于,包括:
第一存储设备,用于基于任意一个执行单元在深度学习模型中的预定执行顺序,确定当前待执行的目标执行单元,其中,所述任意一个执行单元的权重数据待加载到所述第一存储设备的第一存储空间;
至少一第一目标存储设备,用于在执行所述目标执行单元之前,将第一目标存储空间中存储的所述目标执行单元的权重数据,依次经由存储设备集合中至少一存储设备返回存储至所述第一存储空间,其中,所述存储设备集合包括所述至少一第一目标存储设备,所述第一目标存储设备用于预先按照所述预定执行顺序,依次将每个所述执行单元的权重数据存储至所述第一目标存储空间;
执行设备,用于基于所述第一存储空间中存储的所述目标执行单元的权重数据,执行所述目标执行单元。
2.根据权利要求1所述的系统,其特征在于,所述存储设备集合中包含的存储设备的存储性能均低于所述第一存储设备的存储性能,和/或,所述第一存储空间小于所述存储设备集合中包含的存储设备的存储空间。
3.根据权利要求1所述的系统,其特征在于,所述存储设备集合包括除所述第一目标存储设备之外的第二目标存储设备,所述第二目标存储设备的存储性能高于所述第一目标存储设备的存储性能,且低于所述第一存储设备的存储性能,其中,所述第一目标存储设备用于将从所述第一目标存储空间中调取到的所述目标执行单元的权重数据,经由所述第二目标存储设备返回存储至所述第一存储空间。
4.根据权利要求3所述的系统,其特征在于,所述第一目标存储设备用于将从所述第一目标存储空间中调取到的所述目标执行单元的权重数据,依次经由排序后的多个所述第二目标存储设备返回存储至所述第一存储空间,其中,多个所述第二目标存储设备按照存储性能依次增高的顺序进行排序。
5.根据权利要求1所述的系统,其特征在于,所述至少一第一目标存储设备用于将所述目标执行单元的权重数据依次经由所述存储设备集合中包含的至少一个存储设备复制到所述第一存储设备。
6.根据权利要求1所述的系统,其特征在于,所述系统还包括:
处理器,用于从所述第一存储设备关联的多个存储设备的标识中选取至少一目标标识,且将所述至少一目标标识对应的存储设备构成所述存储设备集合,其中,所述多个存储设备的存储性能低于所述第一存储设备的存储性能。
7.根据权利要求1所述的系统,其特征在于,所述第一存储设备用于对多个所述执行单元按照所述预定执行顺序进行排序,且在排序后的多个所述执行单元中,将位于首位的所述执行单元确定为所述目标执行单元。
8.根据权利要求7所述的系统,其特征在于,所述第一存储设备用于在所述执行设备基于所述第一存储空间中存储的所述目标执行单元的权重数据,执行所述目标执行单元之后,在排序后的多个所述执行单元中,将所述目标执行单元的下一执行单元,确定为所述当前待执行的目标执行单元,以使得所述第一目标存储设备执行将所述第一目标存储空间中存储的所述目标执行单元的权重数据,依次经由所述存储设备集合中至少一个存储设备返回存储至所述第一存储空间的步骤。
9.根据权利要求7所述的系统,其特征在于,所述深度学习模型包括执行单元集,其中,所述第一目标存储设备用于在所述执行单元集的权重数据中选取出多个所述执行单元的权重数据,且按照选取出的每个所述执行单元在所述深度学习模型中的预定执行顺序,依次将每个所述执行单元的权重数据存储至所述第一目标存储空间。
10.根据权利要求1至9中任意一项所述的系统,其特征在于,所述第一存储设备用于释放执行后的所述目标执行单元在所述第一存储设备中所占用的存储空间,和/或,将所述目标执行单元在所述第一存储设备中所占用的存储空间标记为失效状态。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211679737.1/1.html,转载请声明来源钻瓜专利网。