[发明专利]一种模型加载方法、装置、可读存储介质及电子设备

说明书

本申请涉及网络安全技术领域，尤其涉及一种模型加载方法、装置、可读存储介质及电子设备。本申请通过将解密后的目标模型文件写入对用户设备不可见的内存储器中，可以防止目标模型文件被泄露，进而提升目标模型文件的保密性，进一步地，针对用户设备使用的不同目标部署语言，可以采用该目标部署语言适配的调用方式将解密后的目标模型文件从内存储器中调用出来，采用这样的方式，可以不受深度学习框架部署场景的限制，即使当前深度学习框架不支持从内存储器中加载模型，通过设计的不同部署语言的调用方式来实现对目标模型的加载，可以提升模型加载针对语言和深度学习框架的通用性。

技术领域

本申请涉及网络安全技术领域，尤其涉及一种模型加载方法、装置、可读存储介质及电子设备。

背景技术

深度学习是人工智能中重要的研究方向，在部署深度学习应用的同时也需要部署相应的模型，比如，在终端部署、公有云部署、私有化方案部署等，但是，在部署模型时模型存在泄露的风险，因此，在这些部署场景下均有对模型加密的需求。

现阶段，模型加密面临着三个难点：第一、模型训练和部署的时，一般采用的是开源方案，而开源方案由于其代码的可见性，很难做到真正的加密；第二、模型加密的通用性需求，需要对多种深度学习框架的模型进行加密(如同时满足pytorch和openvino两种框架模型)，也可能是需要对同种深度学习框架下的不同文件(如模型描述文件和模型权重文件)进行加密；第三、为了降低部署难度，往往会选择直接使用训练时的python语言，而python作为一种脚本语言，具有人类可读性，通用模型加密需要考虑到如何支持python作为部署语言的情况。

综上，找出一种在任何深度学习框架的部署场景下，可以做到对模型文件进行通用性的加密，保证模型加载不受部署框架、部署语言(c++/python)、部署场景(服务器或者终端设备)的约束，以保证模型文件的高安全性是目前亟待解决的问题。

发明内容

有鉴于此，本申请实施例至少提供一种模型加载方法、装置、可读存储介质及电子设备，提升目标模型文件的保密性通过设计的不同部署语言的调用方式来实现对目标模型的加载，可以提升模型加载针对不同语言的通用性。

本申请主要包括以下几个方面：

第一方面，本申请实施例提供一种模型加载方法，所述模型加载方法包括：

在接收到用户设备发送的针对目标模型文件的加载请求时，根据所述加载请求中携带的第一密钥对加密后的所述目标模型文件进行解密；

若解密成功，将解密后的所述目标模型文件写入内存储器中；所述内存储器中存储的内容对所述用户设备不可见；

采用所述用户设备使用的目标部署语言对应的调用方式，将解密后的所述目标模型文件从所述内存储器中调用出来，并根据调用出的所述目标模型文件生成目标应用程序接口；

将所述目标应用程序接口提供给所述用户设备，以供所述用户设备运行目标模型。

在一种可能的实施方式中，若所述目标部署语言为python语言；所述采用所述用户设备使用的目标部署语言对应的调用方式，将解密后的所述目标模型文件从所述内存储器中调用出来，包括：

使用BytesIO方法将所述内存储器中解密后的所述目标模型文件转换成虚拟磁盘中的文件，将解密后的所述目标模型文件从所述虚拟磁盘中读取出来。

在一种可能的实施方式中，若所述目标部署语言为c++语言；所述采用所述用户设备使用的目标部署语言对应的调用方式，将解密后的所述目标模型文件从所述内存储器中调用出来，包括：

判断所述目标模型文件所使用的深度学习框架，是否支持从所述内存储器中读取所述目标模型文件；

若支持，则根据解密后的目标模型文件的存储地址，将解密后的所述目标模型文件从所述内存储器中读取出来；