[发明专利]一种数据处理方法、装置、设备及计算机存储介质在审
申请号: | 202111556419.1 | 申请日: | 2021-12-17 |
公开(公告)号: | CN114385183A | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 阳柳;邬轩;杨强;李文成;刘勇鹏;顾剑 | 申请(专利权)人: | 飞腾信息技术有限公司 |
主分类号: | G06F8/41 | 分类号: | G06F8/41;G06N3/04;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 李妙芬;廖慧琪 |
地址: | 300450 天津市滨海新*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 设备 计算机 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
获取深度学习模型的第一中间表示;其中,所述深度学习模型为基于前端模型框架构建的模型,所述第一中间表示包括至少一个计算子图,每个计算子图包括至少一组算子和与所述至少一组算子有关的有向边,所述有向边上承载有张量数据;每个计算子图对应有功能属性;每个算子包括至少一个功能函数;
在所述至少一个计算子图中,根据每个计算子图对应的功能属性对至少一个目标算子中所包含的功能函数的数据结构和变量进行转换;其中,转换后的数据结构和变量能被所述功能函数执行;
基于所述转换后的数据结构和变量,对所述至少一个目标算子的执行顺序和所述至少一个目标算子中所包含的标量操作进行优化,得到第二中间表示;
对所述第二中间表示进行编译,得到后端硬件设备可执行的目标代码,以使所述后端硬件设备执行所述目标代码,实现所述目标代码的功能。
2.如权利要求1所述的数据处理方法,其特征在于,所述基于所述转换后的数据结构和变量,对所述至少一个目标算子的执行顺序和所述至少一个目标算子中所包含的标量操作进行优化,得到第二中间表示,包括:
基于所述转换后的数据结构和变量,对所述至少一个目标算子的执行顺序进行优化,并将经过执行顺序优化后的至少一个目标算子中所包含的标量操作转换为向量操作,以得到所述第二中间表示;其中,所述标量操作用于表征对所述目标算子中的标量数据进行处理;所述向量操作用于表征对所述目标算子中的向量数据进行处理;
或者,
基于所述转换后的数据结构和变量,将所述至少一个目标算子中所包含的标量操作转换为向量操作,并对经过转换操作后的至少一个目标算子的执行顺序进行优化,以得到所述第二中间表示。
3.如权利要求2所述的数据处理方法,其特征在于,所述目标算子的数量大于等于2,则对目标算子的执行顺序进行优化,包括:
获取不相关算子;其中,所述不相关算子用于指示在所述目标算子中,一个算子与另一个算子之间不具有有向边;
将所述不相关算子的执行顺序转换为并行的执行顺序。
4.如权利要求2所述的数据处理方法,其特征在于,所述将所述至少一个目标算子中所包含的标量操作转换为向量操作,包括:
针对每个所述目标算子,获取所述目标算子中的功能相同且不相关的标量操作;
将所述功能相同且不相关的标量操作转换为向量操作。
5.如权利要求4所述的数据处理方法,其特征在于,所述将所述至少一个目标算子中所包含的标量操作转换为向量操作,包括:
针对每个所述目标算子,当所述目标算子中所包含的标量操作为跨距访存时,将所述跨距访存对应的每一条标量操作均转换为多条向量操作。
6.一种数据处理方法,其特征在于,包括:
获取目标代码和待处理图像;
根据所述目标代码对所述待处理图像进行处理,得到图像处理结果;其中,所述目标代码为通过如权利要求1-5中任一项所述的数据处理方法得到的。
7.一种数据处理装置,其特征在于,包括接收单元和处理单元:
所述接收单元,用于获取深度学习模型的第一中间表示;其中,所述深度学习模型为基于前端模型框架构建的模型,所述第一中间表示包括至少一个计算子图,每个计算子图包括至少一组算子和与所述至少一组算子有关的有向边,所述有向边上承载有张量数据;每个计算子图对应有功能属性;每个算子包括至少一个功能函数;
所述处理单元,用于在所述至少一个计算子图中,根据每个计算子图对应的功能属性对至少一个目标算子中所包含的功能函数的数据结构和变量进行转换;其中,转换后的数据结构和变量能被所述功能函数执行;基于所述转换后的数据结构和变量,对所述至少一个目标算子的执行顺序和所述至少一个目标算子中所包含的标量操作进行优化,得到第二中间表示;对所述第二中间表示进行编译,得到后端硬件设备可执行的目标代码,以使所述后端硬件设备执行所述目标代码,实现所述目标代码的功能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于飞腾信息技术有限公司,未经飞腾信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111556419.1/1.html,转载请声明来源钻瓜专利网。