[发明专利]混合深度学习环境中的安全性优化计算分布

说明书

实施例涉及混合深度学习环境中的安全性优化计算分布。一种装置的实施例包括：一个或多个处理器，用以确定请求使用由所述装置托管的机器学习（ML）模型的客户端机器的安全性能力和计算能力；基于安全性能力并且基于ML模型的暴露标准来确定可以将ML模型的一个或多个层卸载到客户端机器以用于处理；基于客户端机器的计算能力来定义ML模型的一个或多个层的划分级别以用于ML模型的分区，所述分区包括要在客户端机器上处理的ML模型的一个或多个层的卸载层；以及使ML模型的卸载层被下载到客户端机器。

技术领域

本文中描述的实施例总体上涉及电子设备领域，并且更特别地，涉及混合深度学习环境中的安全性优化计算分布。

背景技术

AI（人工智能）和ML（机器学习）的训练和推理易受多种不同的对抗性机器学习威胁的影响。这些威胁包括：对模型提取的攻击或对模型进行逆向工程、训练期间的模型的中毒、对提取训练数据的反转攻击、以及其中攻击者修改输入以回避检测的回避攻击。

对抗性ML攻击在训练和推理两者期间都是可能的。随着AI和ML处理继续进入新的技术领域，常规依赖于算法性方法来检测和阻止对抗性攻击是不够的，并且因此可以实现附加的安全性措施。

附图说明

在附图的各图中作为示例而不是作为限制来图示本文所描述的实施例，其中相同的附图标记指代相似的要素。

图1图示了根据本公开的一个实现方式的采用动态神经网络（NN）分布组件的计算设备。

图2图示了根据本公开的一个实现方式的动态NN分布组件。

图3是根据本公开的实现方式的用于在混合深度学习环境中提供安全性优化计算分布的NN架构的元素的图示。

图4图示了根据本公开的实现方式的在混合深度学习环境中提供安全性优化计算分布的系统。

图5A和图5B是图示了根据本公开的实现方式的针对由服务器系统实行的安全性优化的动态NN分布的示例流程的流程图。

图5C是图示了根据本公开的实现方式的针对由服务器系统实行的安全性优化的动态NN分布的另一示例流程的流程图。

图6图示了根据本公开的实现方式的示意图，该示意图描绘了客户端系统与服务器系统之间的、用以在混合深度学习环境中实现安全性优化计算分布的示例通信流程。

图7图示了根据本公开的实现方式的示意图，该示意图描绘了客户端系统与服务器系统之间的、用以在混合深度学习环境中实现安全性优化计算分布的示例接口。

图8A图示了根据本公开的实现方式的在云服务提供商（CSP）的环境中运行的第一训练过程的示例流程。

图8B图示了根据本公开的实现方式的在客户端的环境中运行的第二训练过程的示例流程。

图9A图示了根据本公开的实现方式的用于在推理期间共享CSP的相同深度神经网络（DNN）计算核心的多个客户端设备的系统。

图9B图示了根据本公开的实现方式的用于在训练期间共享CSP的相同DNN计算核心的多个客户端设备的系统。

图10图示了根据本公开的实现方式的在视觉内容处理的上下文中提供异构分布式深度学习的异构分布式深度学习网络。

图11图示了根据本公开的实现方式的实行基于反向传播的学习过程的异构分布式深度学习网络。

图12图示了根据本公开的实现方式的在训练中提供反向传播的异构分布式深度学习网络1200。

图13图示了根据本公开的实现方式的用于支持对应的异构分布式NN并且在推理期间共享CSP的相同DNN计算核心的多个客户端设备的系统。