[发明专利]深度学习模型对资源受限边缘设备的适应

权利要求书

1.一种生成深度学习(DL)模型的集合的方法，所述方法包括：

在训练数据上训练深度学习(DL)模型的初始集合，其中基于参数向量确定DL模型中的每一个的拓扑；

基于边缘相关度量的集合为所述初始集合中的DL模型中的每一个生成估计性能函数的集合；

基于所述估计性能函数的集合生成多个目标函数；

基于所述目标函数生成最终DL模型集合；

接收对从所述最终DL模型集合中选择的DL模型的用户选择；和

将所选择的DL模型部署到边缘设备。

2.根据权利要求1所述的方法，包括评估所述最终DL模型集合中的DL模型的性能，以确定由所述目标函数预测的性能是否与所述最终DL模型集合中的DL模型的实际性能一致。

3.根据权利要求2所述的方法，包括在确定由所述目标函数预测的DL模型的性能与所述DL模型的实际性能相差阈值误差标准时，调整所述最终DL模型集合中的模型之一的拓扑。

4.根据权利要求1所述的方法，其中接收所述用户选择包括生成用户界面，所述用户界面使得用户能够指定目标，并且在所述用户界面处显示根据指定目标排序的排名靠前的DL模型的排序列表。

5.根据权利要求1所述的方法，包括将多个DL模型部署到所述边缘设备，并且其中所述DL模型中的每一个基于公共DL模型输入进行预测，并且最终预测基于投票方案来确定。

6.根据权利要求1所述的方法，其中基于所述目标函数生成所述最终DL模型集合包括计算由所述目标函数计算的DL模型参数对DL性能的图的帕累托前沿。

7.根据权利要求1所述的方法，其中所述边缘相关度量包括推断时间、模型大小和测试准确度。

8.根据权利要求1所述的方法，其中所述参数向量包括描述DL模型的初始集合中每个模型的层数和每层节点数的值。

9.根据权利要求1所述的方法，其中所选择的DL模型是分类器。

10.一种用于生成深度学习(DL)模型的集合的系统，包括：

存储设备，用于存储包括训练数据、参数向量和边缘相关度量的集合的训练语料库；和

处理器，用于执行根据权利要求1-9中的任一项所述的方法。

11.一种用于生成深度学习(DL)模型的集合的计算机程序产品，包括具有体现在其中的程序指令的计算机可读存储介质，其中所述计算机可读存储介质本身不是瞬态信号，并且其中所述程序指令可由处理器执行，以使所述处理器执行根据权利要求1-9中任一项所述的方法。

12.一种用于生成深度学习(DL)模型的集合的系统，所述系统包括分别用于执行根据权利要求1-9中任一项所述的方法的步骤的模块。