[发明专利]一种数据处理方法、装置、计算机设备及存储介质在审
申请号: | 201910910171.0 | 申请日: | 2019-09-24 |
公开(公告)号: | CN111401539A | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 计算机 设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
通用处理器获取神经网络模型对应的计算图;其中,所述计算图中包含胶水算子;所述胶水算子用于对所述计算图中的张量数据的参数进行调整;
所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,获得优化结果;其中,所述胶水算子的逻辑关系包括transpose算子与其他算子的逻辑关系;所述其他算子包括reshape算子、concat算子、split算子中的任意一种算子;
所述通用处理器根据所述优化结果获取对应的二进制指令,以分配至对应人工智能处理器上执行任务。
2.根据权利要求1所述的方法,其特征在于,所述胶水算子的逻辑关系包括reshape算子的输出张量数据是transpose算子的输入张量数据。
3.根据权利要求2所述的方法,其特征在于,所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,包括:
在所述reshape算子的执行过程中,所述reshape算子在拆分阶段由中间状态的同一维度所拆分出的维度的相对位置在执行所述transpose算子的过程中不发生变化,将transpose算子的输出张量数据作为所述reshape算子的输入张量数据。
4.根据权利要求1所述的方法,其特征在于,所述胶水算子的逻辑关系包括concat算子的输出张量数据是transpose算子的输入张量数据。
5.根据权利要求4所述的方法,其特征在于,所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,包括:
将所述transpose算子的输出张量数据作为所述concat算子的输入张量数据。
6.根据权利要求1所述的方法,其特征在于,所述胶水算子的逻辑关系包括split算子的输出张量数据是多个transpose算子的输入张量数据。
7.根据权利要求6所述的方法,其特征在于,所述通用处理器根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,包括:
在所述多个transpose算子各自对应的perm参数相同时,将所述多个transpose算子的输出张量数据作为所述split算子的输入张量数据。
8.根据权利要求1~7任一项所述的方法,其特征在于,所述张量数据的参数包括所述张量数据的格式、所述张量数据的形状和所述张量数据在内存中的排布中的至少一种。
9.一种数据处理装置,其特征在于,包括:
获取单元,用于获取神经网络模型对应的计算图;其中,所述计算图中包含胶水算子;所述胶水算子用于对所述计算图中的张量数据的参数进行调整;
优化单元,用于根据所述计算图中胶水算子的逻辑关系对所述计算图进行优化,获得优化结果;其中,所述胶水算子的逻辑关系包括transpose算子与其他算子的逻辑关系;所述其他算子包括reshape算子、concat算子、split算子中的任意一种算子;
执行单元,用于根据所述优化结果获取对应的二进制指令,以分配至对应人工智能处理器上执行任务。
10.一种计算机设备,其特征在于,包括处理器和存储器,所述处理器和存储器相互连接,其中,所述处理器包括通用处理器和人工智能处理器,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1-8任一项所述的方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1-8任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910910171.0/1.html,转载请声明来源钻瓜专利网。