[发明专利]机器学习模型的处理方法、装置、介质及电子设备

权利要求书

1.一种机器学习模型的处理方法，其特征在于，包括：

获取机器学习模型的模型文件和需要添加至所述模型文件中的目标操作单元，所述机器学习模型包括基于图模型的流式计算模型，所述机器学习模型的模型文件为序列化后的文件，所述模型文件包括操作单元和作为所述操作单元的输入或输出的数据；

将所述目标操作单元添加至所述模型文件中，得到处理后的模型文件；

对所述处理后的模型文件中包含的各个操作单元进行安全性检测，以确定所述模型文件中是否存在可疑的操作单元；

若确定所述模型文件中不存在可疑的操作单元，则运行所述处理后的模型文件，以在所述处理后的模型文件的运行过程中执行所述目标操作单元。

2.根据权利要求1所述的机器学习模型的处理方法，其特征在于，将所述目标操作单元添加至所述模型文件中，包括：

将所述目标操作单元插入所述模型文件中的设定位置；或

通过所述目标操作单元替换所述模型文件中的指定操作单元。

3.根据权利要求1所述的机器学习模型的处理方法，其特征在于，将所述目标操作单元添加至所述模型文件中，包括：

调用所述机器学习模型对应的机器学习框架中的应用程序编程接口向所述模型文件中添加所述目标操作单元。

4.根据权利要求1所述的机器学习模型的处理方法，其特征在于，运行所述处理后的模型文件，以在所述处理后的模型文件的运行过程中执行所述目标操作单元，包括：

加载所述处理后的模型文件的运行环境，在所述运行环境中解析并执行所述目标操作单元。

5.根据权利要求1所述的机器学习模型的处理方法，其特征在于，所述目标操作单元包括：用于进行攻击测试的操作单元；

所述处理方法还包括：在执行所述目标操作单元的过程中对所述机器学习模型进行攻击测试。

6.根据权利要求1至5中任一项所述的机器学习模型的处理方法，其特征在于，运行所述处理后的模型文件，包括：

将所述处理后的模型文件加载至安全沙箱中，以在所述安全沙箱中运行所述处理后的模型文件。

7.根据权利要求1所述的机器学习模型的处理方法，其特征在于，对所述处理后的模型文件中包含的各个操作单元进行安全性检测，以确定所述模型文件中是否存在可疑的操作单元，包括：

根据所述各个操作单元调用的应用程序编程接口，确定所述各个操作单元调用的应用程序编程接口是否异常；

将调用的应用程序编程接口异常的操作单元确定为可疑的操作单元。

8.一种机器学习模型的处理方法，其特征在于，包括：

获取机器学习模型的模型文件，所述机器学习模型包括基于图模型的流式计算模型，所述机器学习模型的模型文件为序列化后的文件，所述模型文件包括操作单元和作为所述操作单元的输入或输出的数据；

解析所述模型文件，以得到所述模型文件包含的各个操作单元；

对所述各个操作单元进行安全性检测，以确定所述模型文件中是否存在可疑的操作单元；

若确定所述模型文件中不存在可疑的操作单元，则运行所述处理后的模型文件。

9.根据权利要求8所述的机器学习模型的处理方法，其特征在于，还包括：

若确定所述模型文件中存在可疑的操作单元，则进行预警提示。