[发明专利]混合深度学习环境中的安全性优化计算分布

权利要求书

1.一种装置，其包括：

一个或多个处理器，用以：

确定请求使用由所述装置托管的机器学习（ML）模型的客户端机器的安全性能力和计算能力；

基于安全性能力并且基于ML模型的暴露标准来确定可以将ML模型的一个或多个层卸载到客户端机器以用于处理；

基于客户端机器的计算能力来定义ML模型的一个或多个层的划分级别以用于ML模型的分区，所述分区包括要在客户端机器上处理的ML模型的一个或多个层的卸载层；以及

使ML模型的卸载层被下载到客户端机器。

2.根据权利要求1所述的装置，其中，暴露标准包括对模型保护级别（MPL）的标识，所述模型保护级别是可以被卸载到客户端机器而不会使ML模型暴露于安全性风险的ML模型的一个或多个层的最低层，所述最低层从ML模型的一个或多个层的第一输入层开始计数。

3.根据权利要求2所述的装置，其中，用以确定可以卸载ML模型的一个或多个层的一个或多个处理器进一步包括：用以将暴露标准与安全性能力进行比较的一个或多个处理器，其中，安全性能力标识可以在客户端机器上运行以确保客户端机器的机密数据不被暴露的一个或多个层的数据保护级别（DPL）。

4.根据权利要求3所述的装置，其中，响应于DPL小于或等于MPL而允许将一个或多个层卸载到客户端机器。

5.根据权利要求1所述的装置，其中，用以定义划分级别的一个或多个处理器进一步包括如下一个或多个处理器：其用以基于用于运行由划分级别定义的一个或多个层的子集的计算功率的级别小于或等于客户端机器的计算能力中定义的计算功率来标识划分级别。

6.根据权利要求1所述的装置，其中，ML模型的一个或多个层进一步包括客户端机器层的集合，所述客户端机器层由客户端机器来训练并且由客户端机器来运行，其中客户端机器层中的至少一个替换了ML模型的卸载层，或者除了ML模型的卸载层之外还运行客户端机器层中的至少一个。

7.根据权利要求6所述的装置，其中，对ML模型的客户端机器层的训练包括反向传播向量，所述反向传播向量用以调整客户端机器层中的第一权重而无需调整ML模型的公共计算核心中的第二权重。

8.根据权利要求7所述的装置，其中，ML模型的推理阶段利用客户端机器层以及ML模型的公共计算核心，并且其中，通过处理来生成推理信号，所述处理通过在客户端机器层处开始处理、进行到公共计算核心处的处理、并且返回客户端机器层处的处理以提供推理结果来进行。

9.根据权利要求1所述的装置，其中，ML模型的一个或多个层包括具有多个神经元以实行ML模型的一个或多个神经元功能的多功能感知器架构的一个或多个阶段，并且其中，所述多个神经元包括异构神经元，所述异构神经元包括划分器神经元、混合神经元、反神经元、选择器神经元、提取器神经元或变换器神经元中的一个或多个。

10.根据权利要求9所述的装置，其中，ML模型的分区的划分级别是根据多功能感知器架构的一个或多个阶段来定义的，并且标识ML模型的至少一个阶段，所述阶段用于针对ML模型的训练或推理中的至少一个而卸载到客户端机器。

11.根据权利要求1所述的装置，其中，一个或多个处理器包括图形处理器、应用处理器和另一处理器中的一个或多个，其中，一个或多个处理器共同位于公共的半导体封装上。