[发明专利]一种面向边缘智能的多边缘节点增量计算卸载方法

说明书

一种面向边缘智能的多边缘节点增量计算卸载方法，在计划阶段，中心服务器和多边缘节点进行信息感知，根据信息确定参与协同计算的边缘节点，构建多边缘节点DNN协同执行图，确定需要初始优先上传给其它节点的DNN层，并记录对应的目标节点，然后以延时改善为基准排序各DNN层，确定后续上传顺序；在执行阶段，根据计划阶段生成的执行图尝试上传并运行DNN模型，若某节点基于失效锁的协作冲突检测机制检测到异常，则由失效锁强制结束该节点当前DNN层上传请求，若未检测到冲突则继续上传直到获得DNN模型执行结果。本发明通过协同多个目标进行DNN计算有效规避了单一边缘服务器易受网络波动的影响，实现了比只基于边缘服务器的方式更高的执行效率。

技术领域

本发明属于边缘计算任务卸载技术领域，涉及到在多台边缘节点之间对DNN任务进行计算卸载，为一种面向边缘智能的多边缘节点增量计算卸载方法。

背景技术

由于DNN应用计算非常密集，很难在一个资源受限的边缘节点上独自运行。近年来有研究提出使用边缘节点和边缘服务器来按需协作执行DNN。比较流行的做法是将边缘节点的DNN模型按需上传到边缘服务器来进行DNN计算。但这些做法基于预安装DNN模型的边缘云服务器，不符合按需上传DNN模型的愿景。其次，仅依赖于单一远程边缘服务器的方式，极易受网络波动等因素的影响，造成阻塞，导致时间成本增大，具有不可忽视的不稳定性。

因此，现在最具前景的方法是将边缘环境下的计算任务完全推向网络边缘，甚至无需借助边缘服务器。协同多个边缘节点以执行DNN计算任务是一种有效的解决方式。这种方式的优势在于减少对云服务器的依赖，保护边缘节点的隐私性，并且能够实现分布式协同计算。然而，大多数边缘节点的计算、存储或能耗资源是非常有限的。而且他们无法实现动态DNN任务拆分，如何在实际场景中进行DNN任务的拆分和协作推断是亟待解决的问题。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种面向边缘智能的多边缘节点增量计算卸载方法，在动态收集各受信任节点实时反馈的等待队列，网络速度，可用性等状态信息的同时将DNN模型分块并按最优顺序上传给其他边缘节点。面向边缘智能的多边缘节点增量计算卸载策略可以在受信任边缘集群之中动态选取协作目标，通过协同多个目标进行DNN计算有效规避了单一边缘服务器易受网络波动的影响，实现了比只基于边缘服务器的方式更高的执行效率。

为了实现上述目的，本发明采用的技术方案是：

一种面向边缘智能的多边缘节点增量计算卸载方法，包括：

步骤(1)，计划阶段

首先，中心服务器和多边缘节点进行信息感知，包括预计等待时间、网络速度、可用节点和预测文件，同时解析DNN模型结构；

其次，根据信息确定参与协同计算的边缘节点，构建多边缘节点DNN协同执行图，确定需要初始优先上传给其它节点的DNN层，并记录对应的目标节点，然后以延时改善为基准排序各DNN层，确定后续上传顺序，即上传策略；

步骤(2)，执行阶段

首先，根据计划阶段生成的执行图尝试上传并运行DNN模型；

其次，若某节点基于失效锁的协作冲突检测机制检测到异常，则由失效锁强制结束该节点当前DNN层上传请求，若未检测到冲突则继续上传直到获得DNN模型执行结果。

优选地，所述预计等待时间由受信任节点集合中各节点等待锁计算，预测文件记录各DNN层在不同节点上的预计执行时间，由各节点根据DNN层的类型和参数生成，最终由请求方收集汇总。

优选地，所述等待锁指一个边缘节点一次只能计算一个DNN请求，其他DNN请求按顺序排队等待并返回预计等待时间，当请求j发送给目标节点后，请求j按顺序排队并记录节点等待锁返回的预计等待时间，请求j的预计等待时间其中，L_i是请求i的预测执行时间。