[发明专利]针对可穿戴设备深度学习应用模型分载系统及方法

权利要求书

1.针对可穿戴设备深度学习应用模型分载系统，其特征在于，包括：

预测模型模块，用以预测运行该深度学习应用模型的各层所需的时间与电量作为预测数据；

开发者接口模块，用以作为将模型分载算法和数据引入深度学习应用中的接口；

状态信息收集模块，用以收集硬件信息以及应用模型运行时状态，作为分载依据；

模型分载决策模块，加载模型分载算法和数据，用以获取全部可能的分载情况，然后根据分载依据及预测数据从中搜索最优的分载方式；依据该最优分载方式将深度学习应用模型分载为两个子模型；

其中，用以获取全部可能的分载情况，然后根据分载依据及预测数据从中搜索最优的分载方式包括；

对于线性的深度学习模型，遍历每一条边将其作为一个割，将整个模型分为两个部分；

对于非线性的深度学习模型，对模型中计算量小的节点进行剪枝；将模型中重复的子结构合并为一个节点。

2.如权利要求1在于针对可穿戴设备深度学习应用模型分载系统，其特征在于，所述预测模型模块通过构建深度学习各种连接层和激活层运行速度和消耗电量的预测模型进行预测，预测模型输入是一深度学习层的种类和参数，输出是在一硬件上运行该深度学习层所需的时间与电量。

3.如权利要求1在于针对可穿戴设备深度学习应用模型分载系统，其特征在于，所述应用模型运行时状态包括：可穿戴设备以及与其配对的智能移动终端上处理器的负载和工作频率、网络情况。

4.针对可穿戴设备深度学习应用模型分载方法，其步骤为：

预测运行该深度学习应用的各层所需的时间与电量，作为预测数据；

将模型分载算法和数据引入深度学习应用中；

收集硬件信息以及应用运行时状态，作为分载依据；

该模型分载算法和数据用以获取全部可能的分载情况，然后根据分载依据及预测数据从中搜索最优的分载方式；依据该最优分载方式将深度学习应用模型分载为两个子模型；

其中，获取全部可能的分载情况包括；

对于线性的深度学习模型，遍历每一条边将其作为一个割，将整个模型分为两个部分；

对于非线性的深度学习模型，对模型中计算量小的节点进行剪枝；将模型中重复的子结构合并为一个节点。

5.如权利要求4所述的针对可穿戴设备深度学习应用模型分载方法，其特征在于，通过构建深度学习各种连接层和激活层运行速度和消耗电量的预测模型进行预测，预测模型输入是一深度学习层的种类和参数，输出是在一硬件上运行该深度学习层所需的时间与电量。

6.如权利要求4所述的针对可穿戴设备深度学习应用模型分载方法，其特征在于，所述应用模型运行时状态包括：可穿戴设备以及与其配对的智能移动终端上处理器的负载和工作频率、网络情况。

7.如权利要求4所述的针对可穿戴设备深度学习应用模型分载方法，其特征在于，还包括：其中一子模型在可穿戴设备上执行结束后，将中间结果传输到智能移动终端上作为输入继续执行另一个子模型，最后将运算结果返回。

8.如权利要求4所述的针对可穿戴设备深度学习应用模型分载方法，其特征在于，根据分载依据及预测数据从中搜索最优的分载方式的依据如下：

使整体端到端的时间/电量最少；时间/电量的消耗包括在可穿戴设备上运行一子模型、数据传输、在智能移动终端上运行另一子模型。