[发明专利]一种分布式多层深度学习资源分配方法和装置

说明书

本发明公开了一种分布式多层深度学习资源分配方法和装置,通过将运算电路从本地终端设备到云端服务器设备分为不同层次,针对不同的任务请求的运算量，将任务请求对应分配至不同层次的运算电路中进行运算,从而兼顾运算量与运算实时性，较好地解决了当前终端算力不足与用户对运算实时性要求的矛盾，提升了用户体验。

技术领域

本发明涉及神经网络技术领域，尤其涉及一种分布式多层深度学习资源分配方法和装置。

背景技术

随着深度学习神经网络技术的快速发展, 用户对深度学习的反馈实时性要求越来越高, 但是由于终端设备的计算能力有限而神经网络通常要求的运算力十分巨大, 因而运算过程一般放在服务器而非终端设备上进行，由于经过服务器计算得到的数据的传输和反馈受限于传输带宽，这就造成的运算过程实时性下降，影响用户体验。

发明内容

为此，需要提供一种分布式多层深度学习资源分配的技术方案，用以解决由于神经网络运算过程在服务器进行，导致运算实时性下降、延迟长、用户体验差的问题。

为实现上述目的，发明人提供了一种分布式多层深度学习资源分配装置，所述装置包括终端和服务器，所述终端包括任务需求确认单元、任务分配单元、记录单元、网络配置库存储单元、数据流分配单元、结果分析单元、本地神经网络单元；所述本地神经网络单元包括第一神经网络配置单元和第一可重构神经网络矩阵；所述记录单元包括网络结构记录单元和任务记录单元；所述服务器包括云端神经网络单元，所述云端神经网络单元包括第二神经网络配置单元和第二可重构神经网络矩阵；

所述任务需求确认单元用于接收一个或多个任务请求；

所述任务分配单元用于根据任务请求类型，确定从所述网络配置库存储单元中获取各个任务请求对应的神经网络结构参数配置信息并将神经网络结构参数配置信息与该参数配置信息对应的任务请求类型对应存储于网络结构记录单元；所述参数配置信息包括配置参数；

所述任务分配单元还用于确定任务请求分配策略，并根据任务请求分配策略，将各个任务请求以及对应的神经网络结构配置参数发送至本地神经网络单元或云端神经网络单元，并将任务请求与处理任务请求的神经网络单元的标识信息对应存储于任务记录单元；

所述第一神经网络配置单元用于根据接收到的神经网络结构配置参数配置第一可重构神经网络矩阵的参数初始值，并根据参数初始值进行神经网络训练，以及在训练完成后更新第一可重构神经网络矩阵的参数值；或者，所述第二神经网络配置单元用于根据接收到的神经网络结构配置参数配置第二可重构神经网络矩阵的参数初始值，并根据参数初始值进行神经网络训练，以及在训练完成后更新第二可重构神经网络矩阵的参数值；

所述数据流分配单元用于接收待测数据，确定数据处理分配策略，并根据数据处理分配策略将待测数据分配至训练完成的第一可重构神经网络矩阵所在的本地神经网络单元或训练完成的第二可重构神经网络矩阵所在的云端神经网络单元；

所述训练完成的第一可重构神经网络矩阵所在的本地神经网络单元或训练完成的第二可重构神经网络矩阵所在的云端神经网络单元对接收的待测数据进行运算，并将运算结果发送至结果分析单元；

所述结果分析单元用于输出运算结果。

进一步地，所述终端还包括分配记录单元，所述分配记录单元用于存储分配记录信息，所述分配记录信息包括待测数据类型以及处理该类型的待测数据的神经网络单元的标识信息；

所述结果分析单元用于输出运算结果包括：结果分析单元用于从分配记录单元中读取分配记录信息，并根据分配记录信息从对应的神经网络单元中获取待测数据的运算结果依次进行输出。