[发明专利]一种数据处理方法、装置、设备及计算机存储介质

说明书

本发明公开了一种数据处理方法、装置、设备及计算机存储介质，所述方法包括：获取深度学习模型的静态中间表示和动态中间表示，静态中间表示对应的计算子图中，各有向边上承载有静态张量数据；动态中间表示对应的计算子图中，各有向边上承载有动态张量数据；对静态中间表示和动态中间表示进行优化，得到优化后的静态中间表示和动态中间表示；对优化后的静态中间表示和动态中间表示进行编译，得到后端硬件设备可执行的目标代码，以使后端硬件设备执行目标代码，实现目标代码的功能。本发明通过对静态中间表示和动态中间表示同时进行优化处理，优化效果更好，能够实现前端框架无关以及后端平台无关，提高中间表示的可移植性，以适用于多种硬件平台。

技术领域

本发明涉及计算机软件技术领域，尤其涉及一种数据处理方法、装置、设备及计算机存储介质。

背景技术

以机器学习、深度学习为代表的新一波人工智能热潮已经持续升温数年，深度学习是近年来人工智能领域的研究热点，在诸多领域获得了突破性的进展，现今有很多种深度学习框架以及支持多种深度学习框架的多种硬件平台。深度学习框架和硬件多样性给用户带来很大的好处，对于维持人工智能生态系统的健康发展至关重要，但支持多个框架和硬件需要巨大的工作量，这也给人工智能开发者带来了不小的挑战。

随着深度学习的应用越来越广，大家越来越关心深度学习算法在不同硬件架构上训练和推理的实现效率，由于深度学习有众多不同的前端和后端，因此需要一个桥梁来有效实现它们之间的优化和映射。IR(Intermediate Representation，中间表示)是程序编译过程中，源代码与目标代码之间翻译的中介，IR的设计对编译器来说非常关键，IR要考虑从源代码到目标代码编译的完备性、编译优化的易用性和性能。因此中间表示的竞争，将是未来框架之争的重要一环。参考传统编译器设计的经验，NNVM(Neural Network VirtualMachine)、TVM(Tensor Virtual Machine)和XLA(Accelerated Linear Algebra)都开始了很好的尝试，它们都是围绕特定中间表示构建的优化和编译工具。但是它们没有在多个硬件平台和人工智能开发框架上进行适配型测试和优化，导致中间表示的可移植性较低，对于不同的硬件平台都需要重新进行优化。并且，在实际应用过程中，中间表示的种类千变万化，对中间表示进行优化处理的难度会随着中间表示中表达项规模的增长呈指数级上升。基于此，如何对中间表示进行优化是亟需解决的问题。

发明内容

本发明实施例所要解决的技术问题在于，提供一种数据处理方法、装置、设备及计算机存储介质，通过对静态中间表示和动态中间表示同时进行优化处理，优化效果更好，能够实现前端框架无关以及后端平台无关，提高了中间表示的可移植性，以适用于多种硬件平台。

第一方面，本发明实施例提供了一种数据处理方法，包括：

获取深度学习模型的静态中间表示和动态中间表示；其中，所述深度学习模型为基于前端模型框架构建的模型；在所述静态中间表示对应的计算子图中，各有向边上承载有静态张量数据；在所述动态中间表示对应的计算子图中，各有向边上承载有动态张量数据；

将所述静态中间表示转化为与所述前端模型框架无关的静态中间表示，并对转化后的静态中间表示进行优化，得到优化后的静态中间表示；

在所述动态中间表示对应的计算子图中，根据至少一个计算子图各自对应的运行时长对所述至少一个计算子图进行筛选，获得至少一个待优化计算子图；

对所述至少一个待优化计算子图进行优化，得到优化后的动态中间表示；其中，所述优化后的动态中间表示至少包括优化后的计算子图；

对所述优化后的静态中间表示和所述优化后的动态中间表示进行编译，得到后端硬件设备可执行的目标代码，以使所述后端硬件设备执行所述目标代码，实现所述目标代码的功能。