[发明专利]针对可穿戴设备深度学习应用模型分载系统及方法

说明书

本发明提供一种针对可穿戴设备深度学习应用模型分载系统及方法，包括：预测模型模块，用以预测运行该深度学习应用模型的各层所需的时间与电量作为预测数据；开发者接口模块，用以作为将模型分载算法和数据引入深度学习应用中的接口；状态信息收集模块，用以收集硬件信息以及应用模型运行时状态，作为分载依据；模型分载决策模块，加载模型分载算法和数据，用以获取全部可能的分载情况，然后根据分载依据及预测数据从中搜索最优的分载方式；依据该最优分载方式将深度学习应用模型分载为两个子模型。作为自动化深度学习运行和优化框架，其核心思想是根据当前运行时环境寻找最优的模型分载方式，将一部分子模型的运算卸载到配对的移动手机上。

技术领域

本发明涉及软件技术领域，尤其涉及人工智能，具体涉及是一种通过自适应性模型分载来优化可穿戴设备上运行的深度学习应用的系统及方法，适用于开发部署运行在可穿戴设备上的深度学习应用。

背景技术

深度学习(Deep Learning)是一种机器学习算法，同时也是人工智能领域的一个重要分支。从快速发展到实际应用，短短几年时间里，深度学习颠覆了语音识别、图像分类、文本理解等众多领域的算法设计思路，渐渐形成了一种从训练数据出发，经过一个端到端(end-to-end)的模型，然后直接输出得到最终结果的一种新模式。在可穿戴设备上，深度学习技术也获得了广泛的应用。例如，在智能眼镜中依靠深度学习进行高准确率的人脸识别；在智能手表中通过深度学习进行精确的文本翻译等。

深度学习的实质，是通过构建具有很多隐层的机器学习模型和海量的训练数据，来学习有用的特征，从而最终提升分类或预测的准确性。因此，“深度模型”是手段，“特征学习”是目的。

区别于传统的浅层学习，深度学习的不同在于：

1)强调了模型结构的深度，通常有5层、6层，甚至上百层的隐层节点；

2)明确突出了特征学习的重要性，也就是说，通过逐层特征变换，将样本在原空间的特征表示变换到一个新特征空间，从而使分类或预测更加容易。

与人工规则构造特征的方法相比，利用大数据来学习特征，更能够刻画数据的丰富内在信息。正是由于以上的特点，运行深度学习模型需要大量的计算资源，使得其在可穿戴设备上的部署极具挑战性。考虑到一些应用的实时性，和可穿戴设备上电量的限制，需要专门的硬件或算法来加速深度学习模型的运行。

传统的针对可穿戴设备的计算优化是计算卸载(Offloading)，其试图通过将计算密集型的工作卸载到云端(cloud)以加速其运算。

这种方法有两个较大的缺陷：

1)计算卸载需要较快的网络连接作为支持，但是在现实条件下这个前提难以被满足；

2)计算卸载需要将数据通过无线网络传输到远端服务器上，这其中可能会导致隐私数据的泄露。

与之相对的，一种新的计算模型，边缘计算(Edge Computing)成为很多终端应用部署的趋势。边缘计算是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供最近端服务。本发明将这种边缘计算的概念应用在可穿戴设备间，并针对深度学习算法的特点定制其模型的分载方法。

发明内容

针对可穿戴设备(智能手表，智能眼镜等)上运行深度学习应用(如人脸识别，增强现实，文字翻译等)可能面临的计算资源不足的问题，本发明的目的在于提供一种针对可穿戴设备深度学习应用模型分载系统及方法，作为自动化深度学习运行和优化框架，其核心思想是根据当前运行时环境(包括硬件，负载，网络状况等)寻找最优的模型分载方式，将一部分子模型的运算卸载到配对的移动手机上。

本发明采取的技术方案为：

针对可穿戴设备深度学习应用模型分载系统，包括：