[发明专利]一种深度学习框架之中算子的部署方法、装置及电子设备

说明书

本申请公开了一种深度学习框架之中算子的部署方法、装置及电子设备，涉及深度学习等人工智能技术领域。该方案为：获取算子的源文件；对所述算子的源文件进行编译以形成所述算子的动态链接库；生成所述算子的动态链接库转的接口文件；根据所述动态链接库和所述接口文件生成可安装库文件；将所述可安装库文件安装至目标编程语言库，能够完全隐藏算子安装的所有过程，极大地降低了用户的学习成本，同时提高了深度学习框架之中算子的部署过程中的效率、灵活性和可靠性。

技术领域

本申请的实施例总体上涉及数据处理技术领域，并且更具体地涉及深度学习等人工智能技术领域。

背景技术

目前主流的深度学习框架包含了丰富的张量计算处理单元，统称为算子，丰富的算子库为快速组建深度学习模型提供了强大的基础工具，但深度学习框架中的算子库一般都无法做到完备性，尤其在前沿学术研究领域，经常存在当前算子库无法满足特定逻辑计算操作的情况。因此各大深度学习框架都向用户提供了自定义算子的机制。

自定义算子主要由C++语言(The C++Programming Language/c plus plus)实现，且需要单独进行源码编译，链接成动态库，然后在前端进行加载和导入使用。这除了要求用户对此框架具有一定的了解，而且常需要用户具备C++源码编译的基础知识。若涉及到支持GPU(Graphics Processing Unit，图形处理器)设备的算子实现，更需要用户了解CUDA(Compute Unified Device Architecture，统一计算设备架构)编译的背景知识。这样一来，势必导致用户使用成本极高、对其他三方库(如库pybind11)具有极强依赖、缺乏灵活性、效率低的技术问题。因此，如何提高深度学习框架之中算子的部署过程中的效率、灵活性和解耦性，并降低用户使用成本，已成为了重要的研究方向之一。

发明内容

本申请提供了一种深度学习框架之中算子的部署方法、装置及电子设备。

根据第一方面，提供了一种深度学习框架之中算子的部署方法，包括：

获取算子的源文件；

对所述算子的源文件进行编译以形成所述算子的动态链接库；

生成所述算子的动态链接库转的接口文件；

根据所述动态链接库和所述接口文件生成可安装库文件；

将所述可安装库文件安装至目标编程语言库。

根据第二方面，提供了一种深度学习框架之中算子的部署装置，包括：

第一获取模块，用于获取算子的源文件；

形成模块，用于对所述算子的源文件进行编译以形成所述算子的动态链接库；

第一生成模块，用于生成所述算子的动态链接库转的接口文件；

第二生成模块，用于根据所述动态链接库和所述接口文件生成可安装库文件；

安装模块，用于将所述可安装库文件安装至目标编程语言库。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请第一方面所述的深度学习框架之中算子的部署方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开第一方面所述的深度学习框架之中算子的部署方法。

根据第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据本公开第一方面所述的深度学习框架之中算子的部署方法。