[发明专利]机器学习运算的分配系统及方法

权利要求书

1.一种机器学习运算的分配系统，其特征在于，包括：终端服务器和云端服务器；

所述终端服务器用于根据需求信息生成对应的运算任务，并根据所述运算任务和终端服务器的硬件性能参数选取在所述终端服务器运行的第一机器学习算法，以及根据所述运算任务和云端服务器的硬件性能参数选取在所述云端服务器运行的第二机器学习算法；其中，所述第一机器学习算法的运算任务与所述第二机器学习算法的运算任务是同一个运算任务；

根据所述第一机器学习算法和所述运算任务生成终端服务器控制指令，以及根据所述第二机器学习算法和所述运算任务生成云端服务器控制指令；

其中，所述终端服务器包括终端控制器单元、终端运算单元和终端通信单元；所述云端服务器包括云端控制器单元、云端运算单元和云端通信单元；所述终端运算单元或所述云端运算单元包括：一个主处理电路和多个从处理电路；

所述终端控制器单元或所述云端控制器单元，用于获取输入数据以及计算指令；

所述终端控制器单元或所述云端控制器单元，还用于解析该计算指令得到多个运算指令，将该多个运算指令以及所述输入数据发送给所述主处理电路；

所述主处理电路，用于对所述输入数据执行前序处理以及与所述多个从处理电路之间传输数据和运算指令；

所述多个从处理电路，用于依据从所述主处理电路传输的数据以及运算指令并行执行中间运算得到多个中间结果，并将多个中间结果传输给所述主处理电路；

所述主处理电路，用于对所述多个中间结果执行后续处理得到所述计算指令的计算结果。

2.根据权利要求1所述的机器学习运算的分配系统，其特征在于，所述终端服务器还用于对所述终端服务器控制指令进行解析得到终端控制信号，并根据所述终端控制信号计算对应的每个阶段的第一机器学习算法的运算任务以得到终端运算结果，以及将所述云端服务器控制指令发送至所述云端服务器。

3.根据权利要求1所述的机器学习运算的分配系统，其特征在于，所述云端服务器用于接收所述云端服务器控制指令，对所述云端服务器控制指令进行解析得到云端控制信号，并根据所述云端控制信号计算对应的每个阶段的第二机器学习算法的运算任务以得到云端运算结果。

4.根据权利要求1所述的机器学习运算的分配系统，其特征在于，所述硬件性能参数包括运算能力，

所述终端服务器执行根据所述运算任务和终端服务器的硬件性能参数选取在所述终端服务器运行的第一机器学习算法，以及根据所述运算任务和云端服务器的硬件性能参数选取在所述云端服务器运行的第二机器学习算法，包括：

获取所述终端服务器的运算能力和所述云端服务器的运算能力；

根据所述运算任务和所述终端服务器的运算能力选取第一机器学习算法，以及根据所述运算任务和所述云端服务器的运算能力选取第二机器学习算法。

5.根据权利要求1所述的机器学习运算的分配系统，其特征在于，所述第一机器学习算法包括第一神经网络模型，所述第二机器学习算法包括第二神经网络模型。

6.根据权利要求1-5任一所述的机器学习运算的分配系统，其特征在于，所述终端服务器还用于将终端运算结果输出后，在接收到停止运算指令时，发送所述停止运算指令至所述云端服务器，以终止所述云端服务器的运算工作。