[发明专利]深度学习推理框架的扩展方法、装置、设备及介质

说明书

本公开提供了深度学习推理框架的扩展方法、装置、电子设备、存储介质以及程序产品，涉及人工智能技术领域，尤其涉及深度学习技术领域。具体实现方案为：响应于用于扩展目标插件的扩展请求，深度学习推理框架获取目标插件的配置信息，深度学习推理框架包括加载接口、初始化接口、运行接口；基于配置信息，利用加载接口获取目标插件的资源的调用地址；响应于已成功获取调用地址，基于配置信息，利用初始化接口获取初始化参数；以及基于调用地址和初始化参数，利用运行接口运行目标插件。

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习技术领域，具体涉及深度学习推理框架的扩展方法、装置、电子设备、存储介质以及程序产品。

背景技术

随着人工智能技术(AI，Artificial Intelligence)的快速发展，人工智能技术已经渗透到社会生产、生活的方方面面，给人们生活带来了便利的同时也提高了生产效率。作为人工智能技术中的一个重要分支，深度学习推理框架使得人工智能应用在图像处理、语音识别、自然语言处理等方面不断地深化。

发明内容

本公开提供了一种深度学习推理框架的扩展方法、装置、电子设备、存储介质以及程序产品。

根据本公开的一方面，提供了一种深度学习推理框架的扩展方法，包括：响应于用于扩展目标插件的扩展请求，上述深度学习推理框架获取上述目标插件的配置信息，其中，上述深度学习推理框架包括加载接口、初始化接口、运行接口；基于上述配置信息，利用上述加载接口获取目标插件的资源的调用地址；响应于已成功获取上述调用地址，基于上述配置信息，利用上述初始化接口获取初始化参数；以及基于上述调用地址和上述初始化参数，利用上述运行接口运行上述目标插件。

根据本公开的另一方面，提供了一种深度学习推理框架的扩展装置，包括：获取模块，用于响应于用于扩展目标插件的扩展请求，上述深度学习推理框架获取上述目标插件的配置信息，其中，上述深度学习推理框架包括加载接口、初始化接口、运行接口；加载模块，用于基于上述配置信息，利用上述加载接口获取目标插件的资源的调用地址；初始化模块，用于响应于已成功获取上述调用地址，基于上述配置信息，利用上述初始化接口获取初始化参数；以及运行模块，用于基于上述调用地址和上述初始化参数，利用上述运行接口运行上述目标插件。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器；其中，上述存储器存储有可被上述至少一个处理器执行的指令，上述指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行如本公开的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，上述计算机指令用于使上述计算机执行如本公开的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现如本公开的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1示意性示出了根据本公开实施例的可以应用深度学习推理框架的扩展方法及装置的示例性系统架构；

图2示意性示出了根据本公开实施例的深度学习推理框架的扩展方法的流程图；

图3示意性示出了根据本公开另一实施例的深度学习推理框架的扩展方法的流程图；

图4示意性示出了根据本公开实施例的获取初始化参数的应用示意图；

图5示意性示出了根据本公开实施例的确定触发条件的应用示意图；