[发明专利]深度学习推理框架的扩展方法、装置、设备及介质

权利要求书

1.一种深度学习推理框架的扩展方法，包括：

响应于用于扩展目标插件的扩展请求，所述深度学习推理框架获取所述目标插件的配置信息，其中，所述深度学习推理框架包括加载接口、初始化接口、运行接口；

基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址；

响应于已成功获取所述调用地址，基于所述配置信息，利用所述初始化接口获取初始化参数；以及

基于所述调用地址和所述初始化参数，利用所述运行接口运行所述目标插件。

2.根据权利要求1所述的方法，其中，所述基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址，包括：

利用所述加载接口执行下述操作：

基于所述配置信息，确定所述目标插件的动态库的动态库地址；

基于所述动态库地址，通过句柄调用函数获取所述动态库的句柄；以及

响应于已成功获取所述句柄，基于所述句柄和所述配置信息中的资源标识，通过地址调用函数从所述动态库中确定所述目标插件的资源的调用地址，其中，所述资源标识与所述调用地址呈映射关系。

3.根据权利要求1或2所述的方法，其中，所述深度学习推理框架还包括停止接口，所述方法还包括：

响应于所述深度学习推理框架已停止运行，利用所述停止接口停止已运行的所述目标插件。

4.根据权利要求1至3中任一项所述的方法，其中，所述基于所述配置信息，利用所述初始化接口获取初始化参数，包括：

利用所述初始化接口执行下述操作：

基于所述配置信息，确定所述目标插件的插件功能；以及

基于所述插件功能，获取所述初始化参数。

5.根据权利要求4所述的方法，其中，所述基于所述插件功能，获取所述初始化参数，包括：

响应于所述插件功能用于表征处理数据，确定所述深度学习推理框架的框架功能；

基于所述框架功能，确定所述深度学习推理框架所处理的数据的数据类型；以及

基于所述数据类型，确定所述初始化参数为存储空间地址。

6.根据权利要求4所述的方法，其中，所述基于所述插件功能，获取所述初始化参数，包括：

响应于所述插件功能用于表征获取数据，获取数据源地址，并将所述数据源地址作为所述初始化参数。

7.根据权利要求1至6中任一项所述的方法，其中，所述基于所述调用地址和所述初始化参数，利用所述运行接口运行所述目标插件，包括：

利用所述运行接口执行下述操作：

基于所述配置信息，确定所述目标插件的插件功能；

基于所述插件功能，确定所述目标插件的触发条件；以及

响应于确定当前运行条件满足所述触发条件，基于所述调用地址和所述初始化参数，运行所述目标插件。

8.根据权利要求7所述的方法，还包括：

在所述插件功能用于表征获取数据的情况下，响应于所述深度学习推理框架处于运行状态，利用所述运行接口确定所述当前运行条件满足所述触发条件。

9.根据权利要求7所述的方法，还包括：

在所述插件功能用于表征处理数据的情况下，响应于已获取待处理数据，利用所述运行接口确定所述当前运行条件满足所述触发条件。

10.一种深度学习推理框架的扩展装置，包括：

获取模块，用于响应于用于扩展目标插件的扩展请求，所述深度学习推理框架获取所述目标插件的配置信息，其中，所述深度学习推理框架包括加载接口、初始化接口、运行接口；

加载模块，用于基于所述配置信息，利用所述加载接口获取目标插件的资源的调用地址；

初始化模块，用于响应于已成功获取所述调用地址，基于所述配置信息，利用所述初始化接口获取初始化参数；以及

运行模块，用于基于所述调用地址和所述初始化参数，利用所述运行接口运行所述目标插件。